مقاله زیر ترجمه مقاله ای از IEEE در مورد مهندسی اعتماد به سربازان رباتیک در ارتش ها به قلم روبرتو گنزالز است.

باد شدیدی اواخر بعد از ظهر در کمپ تاجی، یک پایگاه نظامی ایلات متحده در شمال بغداد را زیر رو رو می کرد. در گوشه ای متروک از پاسگاه، در جایی که گارد ریاست جمهوری عراقی سلاح های خطرناکی مثل گاز خردل، عوامل عصبی، و دیگر سلاح‌های شیمیایی را تولید کرده بود، یک گروه از سربازان و دریانوردان آمریکایی به آرامی در اطراف یک قبر باز گردآمده بودند، تحت تأثیر گرما و 114 درجه فارنهایت، عرق ریخته می ریختند. آن ها آخرین وداع خود را با بومر که در یک ارتش زبده متخصص در خنثی کردن مهمات منفجره کشته شد، همرزم کشته شده ی آنها که جزئی جدایی ناپذیری از تیم آنها بود انجام می دادند. او چند روز پیش با یک بمب که در کناره جاده ای منفجر شده بود کشته شد.

در حالی که یک شیپور آخرین نت ها را به صدا در می آورد، یک سرباز تفنگ خود را بالا آورد و رگبار طولانی به سمت آسمان شلیک کرد. اما امروز با کمک ربات ها با پشتیبان های انسانی از راه دور و در اندازه های کوچک با پیدا کردن مواد منفجره و خاموش کردن چاشنی آنها از نیرو نظامی آمریکا در برار آسیب محافظت می شود.

این سربازان رباتیک MARCbot (مارکبات) نام دارند که در شرکت اسکپوننت در سیلیکون ولی ساخته می شود. مارکبات یک ربات چندمنظوره چابک است که قابلیت کنترل از راه دور دارد، وزن آن بیش از 13 کیلوگرم است. ربات های اکسپوننت چیزی شبیه به دوربین هالیوود دالی (نوعی دوربین فیلم برداری) و کامیون های اسباب بازی بزرگ پلاستیکی هستند. علیرغم ظاهر شبیه به اسباب بازی، این ربات ها اغلب در ماموریت ها بسیار عالی و تاثیرگذار عمل می کند.

در حالی که برخی از تیم های عملیاتی خنثی سازی بمب های کنار جاده روابط خوبی با ربات ها برقرار می  کنند، برخی دیگر از این ربات متنفر هستند، علی الخصوص در زمانی که آن ها به مشکل و خرابی بر می خورند. به عنوان مثال این داستان یک تفنگدار دریایی است که در عراق خدمت می کرد:

تیم من زمانی رباتی داشت که منفور و بد بود. اغلب بدون هیچ دلیلی گازش را می گرفتند و به هر سمتی که می خواست می  رفت؛ ناگهان متوقف می شد یا خودش را درست بغل یک بمب، در یک چاله می انداخت. بنابراین مجبور بودیم که با پرسنل خنثی سازی بمب های کنار جاده تماس بگیریم و هم وقت آنها و هم وقت خودمان را بخاطر این ربات مسخره تلف کنیم. این مسئله هردفعه که ما ماموریت داشتیم تکرار می شد. یا به زبانی دگر هفته ای 2 تا 3 بار. یک روز دگر هم ما با یک مورد بمب رو به رو شدیم ربات را مستقیما روی بمب فرستادیم و منفجرش کردیم [و از شرش خلاص شدیم]، و این یک روز عالی برای ما بود.

برخی از سربازان در نبرد ها از این دستگاه ها مانند یک حیوان خانگی تربیت شده، شجاع و باوقار استفاده می کنند. و برخی هم از آنها هم با این دستگاه به سختی کنار می آیند و ربات ها را مثل موجود دست و پا چلفتی و بی خاصیت می بینند. اما در دید ناظران، خلاصه این گزارش ها این است که این سربازان رباتیک آینده نگران کننده ای دارند. آینده ای که مردان و زنان شخصیت هایی را به ماشین های جنگی هوشمند پیدا می کنند.

برگزاری مراسم تشییع جنازه برای ربات‌ها، نگران‌کننده است، چرا که نشان‌دهنده‌ی تغییر جدی در احساسات است. اگر سربازان با ربات های زخمت کنترل از راه دور ارتباط برقرار می‌ کنند، چه اتفاقی می‌افتد زمانی که ماشین‌ها خودمختارتر، رفتارشان ظریف‌تر و از نظر ظاهری شبیه انسان شوند؟ و سوال آزاردهنده‌تری مطرح می‌شود: در میدان نبرد، آیا انسان ها همچنان قادر به غیرانسانی جلوه دادن اعضای گونه‌ی خودش (کاری که قرن‌ها انجام داده) خواهد بود، در حالی که همزمان ربات ‌هایی را که برای کشتن فرستاده شده‌اند، انسانی جلوه می ‌دهد؟

همانطور که جلوتر توضیح خواهیم داد، پنتاگون چشم اندازی از یک نیروی جنگی دارد که در آن انسان ها و ربات ها با هم در واحد های مشترک همکاری می کنند. برای این کار آن ها از مهندسی اعتماد استفاده می کنند. مهندسانی که به عنوان قوانی کمکی به برنامه ریزی رفتار انسانی نسبت به ماشین به وزارت دفاع آمریکا کمک می کنند. آن ها به دنبال این هستند که سربازان برای همرزمان روباتی از بین رفته خود، احترام نظامی بگذارند، نه اینکه خوش حال شوند.

تلاش های پنتاگون برای ساخت سربازان رباتیک بیشرفته

بیشتر از یک دهه، چندین مقام با نفوذ پنتاگون بی وقفه تلاش بر ترویج فن آوری سربازان رباتیک هست. نمودی از آینده ای که در آن تیم های یکپارچه رباتیک با سیستم های بدون سرنشین تشکیل خواهند داد. همانطور که مجله نیویورک تایمز در سال 2016 گزارش داد:

«پنتاگون تقریبا بدون توجه به محافل دفاعی بیرونی، هوش مصنوعی را در مرکز استراتژی خود برای حفظ موقعیت ایالات متحده به عنوان قدرت نظامی برتر جهان، مبالغ بسیار زیادی را برای پیشرفت این فناوری ها هزینه می کند»

برای سال 2019، پیش بینی شده بود که ایالات متحده 9.6 میلیارد دلار برای تامین مالی به وزارت دفاع آمریکا اختصاص دهد. رقمی بسیار بیشتر کل بودجه ی بنیاد ملی علوم.

استدلال هایی که از گسترش این نوع سیستم حمایت می کنند مشابه و فابل پیش بینی هستند: ربات ها نیرو های ما را ایمن نگه می دارند چراکه می توان از آن ها در ماموریت های کسل کننده، سخت و خطرناک استفاده کرد و سرانجام منجر به تلفات کمتری می شود. ربات ها مقرون به صرفه هستند. به ما کمک می کنند تا جلوتر از چین بمانیم، که به گفته برخی از کارشناسان به زودی از توانایی های تکنولوژیکی آمریکا پیشی خواهد گرفت.

یکی از فعال ترین مدافعان ارتش رباتیک، رابرت او ورک است که در سال 2014 توسط رئیس جمهور وقت آمریکا، اوباما برای خدمت به عنوان معاون وزیر دفاع نامزد شد. وی یک سرهنگ بازنشسته سپاه تفنگداران دریایی است که آینده را حاصل همکاری انسان و ماشین با استفاده از تجزیه و تحلیل کلان داده ها در جنگ ها توصیف کرد. او جدیدترین جنگنده رادار گریز “لاکهید مارتین را به عنوان مثال برای نشان دادن نظر و دیدگاه خود استفاده کرد:

“اف-35 یک هواپیمای جنگنده نیست، بلکه یک کامپیوتر مجهز به سنسور پرنده است که مقادیر زیادی داده جمع آوری می کند و آن ها را به هم وصل می کند، تجزیه و تحلیل می  کند و به خلبان ها نشان می دهد.

در مقاله ای در نیویورک تایمز در سال 2016 آمده: «بحث داخل ارتش دیگر برسر ساخت سلاح های هوشمند و خودمختار نیست، بلکه چقدر آزادی عمل و استقلال به آنها بدهیم.» استفاده از این نوع گفتار پیرامون خودمختار بودن ربات، بسیار شبیه به رویکرد سیلیکون ولی به موضوع است. جایی که مدیران بی وقفه بر طبل هوش مصنوعی می کوبند.

به طور مثال در سال 2016، هیئت علمی دفاعی؛ گروهی از دانشمندان غیرنظامی را گردهم آورد که وظیفه ارائه مشاوره به وزارت دفاع در مورد مسائل فنی را داشتند. آن ها گزارشی با نام «مطالعه تابستانه پیرامون خودمختاری» منتشر کردند. به طور قابل توجهی این گزارش برای سنجش معایب و مزایای نبرد خودمختار نوشته نشده است. این گروه فرض کرد که چنین سیستم ها بالاخره استفاده خواهند شد. بخشی از این گزارش شامل «توصیه های متمرکز برای بهبود پذیرش و استفاده آینده از سیستم های مستقل» و پروژه های پیشنهادی برای نمایش دامنه مزایای سیستم های خودمختار در نبرد است.

سربازان رباتیک اصلا چه چیزی هستند؟

در اوایل قرن بیستم؛ سازمان های ارتش و نظامی و اطلاعاتی شروع کردند توسعه سیستم های رباتیک که عمدتا دستگاه هایی بودند که از راه دور توسط انسان ها کنترل می شدند. اما توسعه ریزتراشه ها، رایانه های قابل حمل، اینترنت، تلفن های هوشمند با پیشرفت را تسریع کردند.  علاوه بر آن، داده های کلان و حسگر های قوی تری در دسترس این سازمان ها قرار گرفت.

فایننشال تایمز گزارش می دهد: «پیشرفت هوش مصنوعی، چشم اندازی است از نبرد ربات های سرباز در کنار انسان ها تشکیل می دهد و در آینده، انسان را تحت شعاع خود قرار می دهند.

این تغییرات غیر قابل پیشگیری نیستند. اما ممکن است به یک پیشگویی خود کامبخش تبدیل شوند.

همه اینها یک سوال ایجاد می کند: سربازان رباتیک اصلا چه هستند؟ آیا این وسیله کنترل از راه دور و متکی به دستورات انسان ها خواهد بود؟ آیا این ربات ها قادر به انتخاب اهداف با استفاده از سیستم تشخیص چهره و شروع عملیات بدون دخالت انسان ها خواهند شد؟

در عمل صدها و هزاران ترکیب فناوری میان ربات کنترل از راه دور و سیستم کاملا خود مختار وجود دارد. همین تصمیمات هم مسئول نهایی اعمال ربات را مشخص می کند. این که چه کسی تصمیم را می گیرد و چه کسی مسئول شلیک کردن است.

سیستم های رباتیک و خومختار آزمایشی و امتحان شده ارتش ایالات متحده مجموعی بزرگی از رباتها و سربازان رباتیک است که یا کنترل از راه دور هستند یا به هوش مصنوعی متکی هستند؛ مانند پهپادها، وسایل نقلیه، کشتی های جنگی و زیردریایی ها، موشک های خودکار؛ و ربات هایی در اشکال مختلف مانند اندروید های دوپا، سگ های رباتی، دسته های روبات هایی در ابعاد حشرات، دستگاه های زیرآبی مثل ماهی و … .

برنامه ریزان نظامی یک برنامه سه مرحله ای را برای این تغییر پیش بینی کرده اند:

• ربات های کنترل از راه دور که انسان ها بخشی از فرایند تصمیم گیریشان هستند.
• سیستم های نیمه خودکار که تحت نظارت انسان به عنوان «ناظری کلی بر فعالیت ها» عمل می کنند.
• سیستم های کاملا خودکار که انسان ها دخالتی در تصمیماتشان ندارند.

در حال حاضر مباحث موجود در حلقه های نظامی در مورد درجه ی آزادی عمل روبات ها و میزان نیازمندی به انسان در این سیستم ها است.

در چند سال اخیرعمده تبلیغات پیرامون مرحله دوم برنامه است. سیستم های نیمه مستقل و تحت نظارت که مقامات وزارت دفاع از آن به عنوان «هم تیمی ربات و انسان» یاد می کنند. این ایده در نشریات و بیانیه های رسمی پنتاگون پس از تابستان سال 2015 پدیدار شد. این زمان بندی احتمالا تصافی نیست.

این ایده در زمانی پدیدار شد که رسانه های خبری توجه خود را بر واکنش عمومی علیه سیستم های تسلیخات خود مختار کشنده متمرکز کردند. کمپین “توقف ربات های قاتل” در آوریل 2013 به عنوان ائتلافی از سازمان های غیرانفاعی و جامعه مدنی، از جمله کمتیه بین المللی کنترل تسلیحات رباتیک، عفو بین الملل و کمیته دیدبانی حقوق بشر اجرا شد.

در ژانويه سال 2015، این کمپین ها نامه ای منتشر کردند. و در مورد خطرات این سلاح های رباتیک هشدار دادند و خواستار ممنوعیت این فناوری شدند. امضاکنندگان این نامه متشکل از فیزیکدانان مشهور جهان، استیون هاوکینگ، ایلان ماسک، استیون وزنیاک بنیان گذار اپل و هزاران نفر دیگر بودند.

در نوامبر 2015، یک سخنرانی پرمخاطب در مورد اهمیت تیم شدن ربات ها و انسان ها منتشر شد. نویسندگان مقاله امیدوار بودند که انتقادات منفی «ربات های قاتل» را پنهان کنند.

شَک به دستگاه

اما یک مشکل جدی وجود داشت. کارشناسان نظامی این ایده را دوست داشتند و آن را به عنوان یک اتفاق برد-برد تبلیغ می کردند. پاول شار، در کتاب خود ارتش پوچ: سلاح های خودمختار و جنگ آینده ادعا کرد که نیازی به قضاوت انسانی برای استفاده از مزایای هوشمند نیست. با این حال، پرسنل عملیاتی نسبت به عوارض ماشین های جدید جنگی، ابراز نگرانی شدید کرده اند.

به نظر می رسد مشکل اصلی، عدم اعتماد انسان ها است. چالش های مهندسی در سیستم های تسلیحاتی رباتیک نسبتا ساده و سر راست هستند. اما چالش های اجتماعی و روانی متقاعد سازی انسان ها و مهندسی اعتماد ایشان برای دید مثبت به سربازان رباتیک بطور گیج کننده ای پیچیده هستند.

در موقعیت های پرخطر و پرفشار مانند نبرد های نظامی، اعتماد انسان ها به ربات ها از بین می رود. مجله خبری مرکز تحلیل اطلاعات سیستم های دفاعی پنتاگون به این اشاره کرد که اگرچه چشم انداز هم تیمی شدن انسان و روبان امیدوار کننده است، ولی ما انسان ها به یکسزی تضمین نیازمندیم:

میدان جنگ؛ پویا، روان و خطرناک است. در نتیجه نیازهای نظامی ها بسیار پیچیده می شود. به ویژه زمانی که هزینه های احتمالی غیرقابل قبول باشد. چشم انداز خودمختاری مرگ آفرین، پیچیدگی مسئله را نیز افزایش می دهد. چرا که سربازان هیچ تجربه قبلی نداشتند، و در این صورت توسعه دهنگان مجبور خواهند شد تقریبا از صفر اعتماد ایجاد کنند.

در مقاله ای که در سال 2015 منتشر شد، فرمانده نیروی دریای ایلات متحده، ارزیابی صریحی از بی اعتمادی هوانوردان به هواپیماهای بدون سرنشین داشت. پس از توصیف چگونگی تمایز قائل شدن میان پهپادها و هواپیما های بدون سرنشین، وی خاطر نشان کرد که اپراتور ها گاهی اوقات ارتباط خود را با هواپیما های بدون سرنشین خود از دست دهند و ممکن است ناخواسته آنها را به طور بسیار خطرناکی به یک هواپیمای سرنشین دار نزدیک کنند. که موی گردن خلبان را سیخ می کند. وی نتیجه گرفت:

در سال 2010 یکی از فرماندهان، هواپیمای سرنشین دار خود را در یک منطقه عملیاتی بدون سرنشین زمین گیر کرد و از جایش تکان نخورد تا اینکه به او این اطمینان داده شد که برج مراقبت و خلبانان هواپیماهای بدون سرنشین که در آن سوی دنیا بودند،از قوانین و دستورالعمل ها پیروی می کردند. حکایت های اینچنین زیاد است. پس از یک دهه اشتراک در آسمان با پهپاد ها هوانوردان دیگر هراس کشته شدن توسط پهپاد هارا ندارند، اما همیشه نباید به این تکنولوژی اطمینان کرد.”

با این حال، رهبران پنتاگون اعتمادی تقریبا خرافاتی نسبت به این سیستم دارند. و به نظر می رسد متقاعد شدند که عدم اعتماد انسان به سیستم ها را می توان با راه حل های مهندسی برطرف کرد. یک دانشمند داده،  در شرکت نظامی بوز آلِن همیلتون در تفسیری از بسیج علوم اجتماعی به عنوان ابزاری برای غلبه بر عدم اعتماد سربازان به سیستم های رباتیک استفاده می کند.

مشکل اضافه کردن یک ماشین به یک چینش تیمی نظامی، مشکل دکترین یا عددی نیست، بلکه روانی است. این اندیشه در غریزه ما برا بقا است. مانع واقعی در غلبه بر موانع روانی شناخت فریدست. برای انجام این کار نیاز به بازسازی فرهنگ نظامی در حوزه های عاطفی و ذهنی است. سازندگان هوش مصنوعی باید با کارشناسان سنتی درباره موضوعات نظامی همکاری کنند. از این طریق سربازان همان اعتماد غریزی را که در جنگ انسان-انسان وجود دارد، با ماشین ها ایجاد کند.

مهندسی اعتماد برای تغییر رفتار انسان ها و سربازان رباتیک

به زودی این سربازان تحت آموزشی جدید قرار خواهند گرفت که بر اعتماد بین انسان ها و سربازان رباتیک تمرکز دارد. در حال حاضر ربات ها برای برقراری ارتباط بیشتر با انسان با هدف افزایش اعتماد، برنامه ریزی می شوند. روانشناسان نظامی بیش از یک دهه را صرف آزمایش های انسانی مربوط به اعتماد به ماشین ها در آزمایشگاه تحقیقاتی ارتش کردند. آزمایش های آنها نشان می دهد که چگونه می توان بر عدم اعتماد انسان ها به سیستم ها  رباتیک غلبه کرد، یا حداقل آن را کمتر کرد. به طور مثال، در یک مجموعه آزمایشی، چند محقق یک ربات کوچک به عنوان جوخه خودمختار مستقر کردند که با افراد پیاده نظام تعامل داشته باشند. بر اساس اطلاعات گزارش شده خود ربات در مورد برنامه ها، انگیزه ها و نتایج پیشبینی شده آن اعتماد انسان به ربات افزایش داشته.

نیروی زمینی تنها شاخه ای از خدمات از خدمات مسلح نیست که دارد در این زمینه تحقیقات گسترده ای انحام می دهد. آزمایشگاه تحقیقاتی نیروی هوایی ایالات متحده اخیرا یک گروه کامل را به این موضوع اختصاص داده اند. در سال 2015 نیروی هوایی فراخوانی برای تحقیقاتی در مورد چگونگی مهار عناصر اجتماعی-عاطفی و نحوه انتقال آنها به تیم های انسان-ربات منتشر کرد.

مارک دریپر، مهندس ارشد در آزمایشگاه نیروس هوایی، درباره چشم انداز تیم سازی انسان و ربات خوشبین است: «هر چقدر سیستم های خود مختار بیشتر مورد اعتماد باشند، قدرتمندتر می شوند. در این صورت است که خلبانان می توانند وظایف و تصمیم گیری های بیشتری را به ماشین ها محول کنند و ماشین ها در تصمیم گیری خبره تر شوند.»

محققین نیروی هوایی در تلاشند تا عوامل تعیین کننده اعتماد انسان را تشریح کنند. در یک پروژه، آنها رابطه بین مشخصات شخصیتی یک فردی یک فرد و تمایل او به اعتماد را برسی کنند.

برای مثال در مقاله ای با عنوان: اعتماد به پلیس رباتی، اثرات مبتنی بر جنسیت در اعتماد به روبات ها، دانشمندان نیروی هوایی تفاوت اعتماد زنان و مردن را به روبات های نگهبان بررسی کردند. در این پژوهش، ویدئوهایی از روبات های مجهز به تیزر که افرادی را مورد حمله قرار می دادند، پخش شد و پرسش این بود که ربات مقصر است یا افراد؟ در این پژوهش زنان بیشتر از مردان به روبات اعتماد داشتند.

مهندسی اعتماد به سیستم های خودمختار حتی باعث شده است که دانشمندان ارشد نیروی هوایی ایده هایی را برای افزایش اعتماد انسان ها به سربازان رباتیکپیشنهاد دهند.

یک طراحی خوب بر اساس مهندسی فاکتورهای انسانی (HFE) باید از سهولت تعامل بین انسان و سیستم‌های خودکار پشتیبانی کند. برای مثال، «آداب معاشرت» بهتر اغلب به عملکرد بهتر منجر می ‌شود و باعث ایجاد یک تعامل روان‌تر می‌ گردد. به عنوان مثال این امر زمانی اتفاق می‌افتد که یک سیستم خودکار از قطع صحبت هم‌تیمی انسان خود در شرایط کاری پرفشار اجتناب کند یا به انسان هشدار دهد که قصد قطع صحبت را دارد – فعالیت‌هایی که به طور شگفت‌انگیزی، می‌توانند عملکرد را مستقل از قابلیت اطمینان واقعی سیستم بهبود بخشند.

انسان‌انگاری نیز تا حدی می‌تواند تعامل انسان-سیستم خودکار را بهبود بخشد، زیرا مردم اغلب به عامل‌هایی با ویژگی‌های انسانی بیشتر اعتماد می‌ کنند … اما انسان‌انگاری همچنین می‌تواند باعث اعتماد بیش از حد شود.

در حال حاضر، میزان موفقیت مهندسی اعتماد در رسیدن به اهداف قابل پیش بینی نیست. برای دهه ها، مربیان نظامی سربازان تازه‌وارد را برای کشتن دیگران آموزش داده و آماده کرده‌اند. حال اگر متخصصان بتوانند تکنیک‌های روانشناختی ساده‌ای برای غلبه بر بیزاری عمیق سربازان از کشتن انسان‌ها توسعه دهند، آیا روزی ممکن است سربازان را متقاعد کنند تا بدون هیچ تردیدی به ربات‌ها اعتماد کنند؟