یک مهندس سابق گوگل که در پروژه پهپادهای نظامی این شرکت مشغول به کار بود در مورد ساخت ربات‌های قاتل هشدار داده است.

لارا نولان در سال ۲۰۱۷، پیش از عضویت در پروژه همکاری مشترک گوگل و وزارت دفاع آمریکا که به پروژه مِی‌وِن (Project Maven) معروف است، به‌مدت چهار سال در این شرکت مشغول به کار بود. تمرکز پروژه مِی‌وِن روی استفاده از هوش مصنوعی برای تقویت کارایی پهپادهای نظامی بود. قرار بود سیستمی طراحی شود که بتواند به‌طور خودکار اهداف دشمن را تشخیص بدهد و بین افراد و اشیا تمایز قائل شود.

گوگل پس از اعتراض کارکنانش، در حالی پروژه مِی‌وِن را تعطیل کرد که هزاران نفر از آن‌ها طوماری علیه این پروژه امضا کردند و ده‌ها نفر به نشانه اعتراض، استعفا دادند. قرارداد این پروژه ماه مارس سال جاری تمام شد و دیگر تمدید نشد. لارا نولان می‌گوید با افزایش نگرانی‌های اخلاقی‌اش درباره این پروژه، از شرکت استعفا داد.

او در این پروژه نقش مهندس اطمینان‌پذیری سایت را داشت. نولان می‌گوید: «هرچند من در تسریع تشخیص داده‌های ویدیویی نقشی نداشتم، به این نتیجه رسیدم که کماکان بخشی از زنجیره مرگ هستم؛ این کار در نهایت منجر می‌شد به این‌که افراد بیشتری در جاهایی مانند افغانستان هدف ارتش ایالات متحده آمریکا قرار بگیرند و کشته شوند.»

این مهندس سابق گوگل می‌ترسد قدم بعدی پس از سلاح‌های مبتنی بر هوش مصنوعی مثل پهپادها، خودکاری کامل این دستگاه‌ها باشد. قساوت‌های احتمالی و کشتار غیرقانونی حتی تحت قوانین جنگی، مساله‌ای است که با استقرار صدها هزار نمونه از این سلاح‌ها دور از ذهن نیست.

عوامل پیش‌بینی‌نشده بسیاری می‌توانند عملکرد سیستم این سلاح‌ها را دچار اشکال کنند، از جمله سیگنال‌های راداری نامنتظره، آب‌و‌هوای غیر‌عادی یا هدف‌گیری اشتباه افرادی که برای اهداف دیگری مانند شکار، سلاح در دست دارند. این دستگاه‌ها قوه درک و تشخیص انسان را ندارند.

لارا نولان تاکید می‌کند که آزمایش این‌گونه سلاح‌ها باید در میدان نبرد انجام شود. او اضافه می‌کند: «نکته ترسناک دیگر درباره این سیستم‌های خودکار جنگی این است که آن‌ها را فقط در یک منطقه جنگی واقعی می‌‌شود آزمایش کرد. چه کسی می‌داند، شاید همین حالا هم روسیه دارد این کار را در سوریه می‌کند. آنچه می‌دانیم این است که روسیه در سازمان ملل با هر گونه پیمانی مخالف است، چه رسد به منع این‌گونه سلاح‌ها.»

هرچند هنوز هیچ کشوری اعلام نکرده است روی سلاح‌های رباتیک کاملا خودکار کار می‌کند، بسیاری از دولت‌ها بیش از پیش درصددند هوش مصنوعی را با نیروی نظامی‌شان ادغام کنند. نیروی دریایی آمریکا ناو جنگی در اختیار دارد که به سیستم ناوبری خودکار مجهز است. این ناو می‌تواند بدون هیچ‌گونه خدمه‌ای ماه‌ها به مسیرش روی آب ادامه دهد. اسرائیل اعلام کرده پهپادهایی ساخته است که به‌طور خودکار قابلیت شناسایی و حمله به هدف را دارد، هر‌چند در حال حاضر فعال کردن این گزینه نیازمند واسطه انسانی است.

لارا نولان از کشورها می‌خواهد مشابه کنوانسیون‌های منع استفاده از سلاح‌های شیمیایی، استفاده از ربات‌های کشتار خودکار را ممنوع کنند. او می‌گوید: «کمتر کسی درباره این موضوع حرف می‌زند، اما اگر مراقب نباشیم، یک یا چند نمونه از این سلاح‌ها، این ربات‌های قاتل، می‌تواند به‌صورت تصادفی آغازگر جنگی ناگهانی باشد، یک مرکز هسته‌ای را منهدم کند یا زمینه‌ساز فجایع جمعی شود.»