آینده رباتهای نظامی چطور خواهد بود؟ هوشمند یا فرمانبردار

استفاده هرچه بیشتر ارتش ها از ربات ها نظامی، آنها را در برابر یک پرسش مهم قرار داده است. آیا باید نرم افزاری توسعه داد که فقط از دستورات انسانی پیروی کند یا تکنولوژی هوشمندی که بتواند به صورت مستقل کارها را انجام دهد؟ هر سیستم مسائل مربوط به خود  را دارد.

ربات های نظامی

بیش از 20 سال از امضای قرارداد توسعه پکبات (PackBot) می گذرد. رباتی تاکتیکی که می توانست عملیات های مختلفی را انجام دهد  یکی از اولین عملیات های پکبات جستجو در باقیمانده های مرکز تجارت جهانی پس از حملات 11 سپتامبر بود. در سال 2002، نیروهای آمریکایی از آنها برای مقابله با مین های کنارجاده ای استفاده می کردند. مدل کنونی، 510، که کنترولری شبیه به کنسول های بازی دارد، اپراتور را قادر می سازد تا 15 کیلوگرم مین کنار جاده ای را به مکان دیگری منتقل کند.

با توجه به اطلاعات منتشر شده از قراردادهای عمومی ارتش آمریکا، دولت صدها هزار دلار خرج هر یک عدد از این ربات ها (مدل 510)کرده است. جدای از پکبات، ارتش هم اکنون از بزرگترین سرمایه گذاران و استفاده کنندگان تکنولوژی هوش مصنوعی است، که به نظر می رسد به سیستم های تسلیحاتی بهتری منجر خواهد شد.

موردی که می توان به آن اشاره کرد پروژه ای است که در یک دهه گذشته در لابراتوار پژوهشی ارتش آمریکا در حال توسعه بوده است. همکاری بین موسسه تکنولوژی ماساچوست، دانشگاه کارنیج ملون و ناسا و بخش رباتیک بوستون داینامیکس منجر به خلق نرم افزاری شده است که ربات ها را قادر می سازد تنها بر اساس دستورات کلامی امور محوله را انجام دهند.

ربات های آینده با یک تبلت کنترول خواهند شد و استفاده از “یادگیری عمیق” آنها را قادر می سازد تا نه تنها جلوتر از سایر نیروها به منظور شناسایی مین های کنار جاده ای و تله ها حرکت کنند بلکه با اطلاعاتی کامل در مورد اهداف مورد نظر برگردند. مدیر پروژه استوارت یانگ در مصاحبه ای با MIT Technology Review  در ماه نوامبر این تکنولوژی را “از لحاظ همکاری و نزدیکی با انسان ها” با سگ های نظامی  مقایسه کرد.

اما بر خلاف یک سگ، نرم افزار به قابلیت پرسش و پاسخ مجهز خواهد شد تا بتواند از پس موقعیت های متعدد مبهمی که در صحنه نبرد برایش پیش می آید، برآید. به طور مثال، اگر به روبات گفته شود که به ساختمان نزدیک شو، ممکن است برای رفع ابهام بپرسد: “منظورتان ساختمان سمت راست است یا سمت چپ؟”

ربات های تصمیم گیرنده آخرین فناوری در عرصه ربات های هوشمند هستند

تکنولوژی که تا به اینجای کار به آن اشاره شد در دسته ربات های فرمانبردار قرار می گیرند. نرم افزار به گونه ای طراحی شده است که از دستورات انسان ها پیروی کند. در واقع تا حد زیادی ادامه دهنده راه پکبات هستند. با این وجود وقتی صحبت از آینده ربات های نظامی می شود، بخش ربات های هوشمند و مستقل بیشترین توجهات را به خود جذب می کند.

سال گذشته اطلاعات مربوط به یک پروژه سری بخش تفنگداران نیروی دریایی آمریکا با نام “غوغای دریا” لو رفت. طبق گزارشات  منتشر شده آزمایشات مربوط به نمونه اولیه این محصول نیز بر روی نیروهای ذخیره آمریکا که مجهز به هوش مصنوعی بودند در سواحل ویرجینیا انجام شد. اگرچه بخش تفنگداران نیروی دریایی تمام تلاش خود را برای جلوگیری از درز هرگونه اطلاعات بیشتر کرده اند، اما گفته می شود که غوغای دریا اولین قدم در توسعه تجهیزات دریایی مستقلی است که قادر هستند بدون دخالت انسان به انجام عملیات بپردازند.

نیروی دریایی آمریکا همچنین در حال آزمایش کردن “شکارچی دریا”ست،  کشتی که می تواند بدون دریافت هیچگونه اطلاعاتی از مرکز فرماندهی زیردریایی های دشمن را شناسایی و به آنها حمله کند.

در سال 2018، در آن سوی اقیانوس نیز از برنامه اش برای جایگزین کردن جنگنده های تایفون نیروی هوایی سلطنتی با جنگنده تمپست پرده برداشت.

وزارت دفاع انگلستان اعلام کرده است که تمپست به هوش مصنوعی و یادگیری  ماشینی مجهز خواهد شد تا بتواند بدون نیاز به خلبان پرواز کند و به اهداف حمله کند. همچنین به جنگ افزار انرژی هدایت شده ( به سامانه‌ای گفته می‌شود که بدون به‌کارگیری پرتابه، انرژی را به سمت هدف می‌تاباند.) نیز مجهز خواهند شد تا بتوانند در کنار پهپاد نیمه مستقل وینگمن به انجام عملیات بپردازد. انتظار می رود که این فناوری بین سال های 2031 تا 2039 عملیاتی شود.

نه به روبات های قاتل، آیا استفاده از تسلیحات مستقل در میدان نبرد از لحاظ اخلاقی درست است؟

اگرچه همه نسبت به استفاده از هوش مصنوعی در تسلیحات نظامی خوشبین نیستند و همین سبب تشکیل کمیته بین المللی کنترل ربات های نظامی شده است. این کمیته که تحت نظر دیده بان حقوق بشر قرار دارد در تلاش برای منع چندجانبه استفاده از سیستم های تسلیحاتی مستقل کشنده است.

بحث کمیته بین المللی کنترل ربات های نظامی سه جنبه دارد. اول از همه این گروه می گوید که غیر ممکن است که بتوان اطمینان حاصل کرد که تسلیحات نظامی مستقل حقوق بشر را رعایت کنند، مخصوصا هنگامی که باید بین مبازران و شهروندان تفکیک قائل شد. بخش دوم در مورد این مطلی است که ماشین ها محدودیت های اخلاقی دارند، مخصوصا اینکه در درک قوانین مختلف ناتوان هستند چه برسد تصمیم گیری در رابطه با به پایان رساندن زندگی یک انسان.

سوما این کمیته نگران این است که این تسلیحات تاثیر مخربی بر امنیت جهانی داشته باشند، مخصوصا هنگامی که توسط افرادی مورد استفاده قرار گیرند که برای عدم رعایت چهارچوب های استفاده از قوای نظامی پاسخگو نیستند.

لوسی ساچمن، استاد انتروپالوژی علم و فناوری در دانشگاه لنکستر که یک عضو این کمیته نیز می باشد بر این باور است که : “در  تسلیحات مستقل کشنده عملکردهای مهمی همچون انتخاب هدف و شروع دگیری به سیستم محول شده است به گونه ای که مانع دخالت مهم انسانی می شود.  هدف این کمپین این است که سبب طراحی تسلیحاتی شود که بدون کنترل معنادار انسانی قادر به انجام عملیات نباشند. این به این معنی است که تسلیحات مرگبار مستقل غیر قانونی شناخته خواهند شد.”

ساچمن اگرچه بیان کرد که هیچ مشکلی با فناوری هدایت پذیر از دور که فرمانبردار باشد ندارد به شرطی که “به تنهایی نتواند آسیب برساند”.

دغدغه های دیگر: عیوب نرم افزاری و خطر هک شدن

جدا از اینکه یک ربات هوشمند یا فرمانبردار باشد، مسائل دیگری در رابطه با استفاده از هوش مصنوعی در زمینه نظامی یاقی مانده است.

تاکنون شواهد کمی وجود دارد از اینکه سیستم هایی که از هوش مصنوعی بهره می برند تاکنون بدون ایراد ظاهر شده اند. به عنوان مثال دیوایس هایی که مجهز به فناوریهای بازشناسی گفتار همچون سیری اپل یا الکسا آمازون هستند، اغلب در شنیدن یا فهمیدن دستورات دچار اشتباه می شوند. ولی عواقب چنین اشتباهاتی که در خانه رخ می دهد با آنهایی که ممکن است در میدان نبرد رخ دهد قابل مقایسه نیست.

با ظهور جنگ سایبری، نگرانی هایی وجود دارد که اگر یک روبات نظامی هک شود چه اتفاقی رخ می دهد. آیا ممکن است روبات ها که منظور کاهش تعداد سربازان در صحنه نبرد و به تبع آن کاهش تلفات انسانی طراحی شده اند اثری متضاد داشته باشند و فقط درگیری را زیادتر کنند؟

قبل از اینکه قدم های دیگر در عرصه روبات های نظامی برداشته شوند، این مسائل می بایست مورد بررسی قرار گیرند.