اشتباهی رخ داده است: راه را برای روبات‌های معصوم باز کنید

اشتباهی رخ داده است. این‌بار نه پیکارجویان طالبان، نه شهروندان بی‌گناه پاکستانی یا افغان، بلکه دو شهروند غربی که در اسارت نیروهای طالبان بودند در اثر حملات پهپادهای آمریکایی کشته شده‌اند. تردیدی نیست که «اشتباهی رخ داده است»:

به نظر می رسد که سلاحهای پیشرفته هنوز هم نیاز به هدایت توسط انسان دارند. و شاید به همین دلیل است که آنها بعضی اوقات در انجام مأموریتشان اشتباه می‌کنند… مقامات سالها است که می گویند حملات هواپیماهای بدون سرنشین دقیق بوده است. اما با این که این تجهیزات خیلی پیشرفته هستند، هنوز هم توسط انسان کنترل می شوند. مشکل هم معمولا در همین جا نهفته است. ویلیام بانک، استاد موسسه دانشگاه سیراکوس در مسایل امنیت ملی و مبارزه با تروریسم می گوید اشتباهات بسیار اوقات به دلیل یک مشکل یعنی «دخیل بودن انسان‌ها» اتفاق می افتد.

در جمله‌های بالا می‌توان رگه‌های پروپاگاندا و لابی‌گری برای تولید سلاح‌های جدید را تشخیص داد. اما از آن که بگذریم، متن بالا حاوی نگرشی نه چندان کمیاب است: ظاهراً باید سلاح‌های مدرن‌تر و بهتری ساخته شوند. سلاح‌های پیشرفته‌تری که مثل سلاح‌های کمتر پیشرفتهٔ امروز نیازی به هدایت انسان‌ها ندارند. اشتباه خصوصیتی انسانی است، چرا که اشتباه کردن لازمهٔ داشتن قوهٔ انتخاب (اختیار) و آزادی عمل است. رفتاری که تابع محض الگوریتمی جبرگرایانه باشد و طبق نظمی ساعت‌وار و از پیش تعیین شده حرکت کند نمی‌تواند «اشتباه» یا «درست» باشد. اشتباه پیش از هر چیز خصوصیتی انسانی است، اما ماشین‌ها اشتباه نمی‌کنند.

نویسنده از سلاح‌ها و ماشین‌هایی صحبت می‌کند که اشتباه نمی‌کنند. فرایند کشتن و نابود کردن از حیطهٔ انتخاب و اشتباه انسان خارج می‌شود و به حوزهٔ جبر و معصومیت (=اشتباه نکردن) ماشینی وارد می‌شود. ماشین جنگی آینده خصوصیتی جدید باید داشته باشد: بری از هر گونه اشتباه، معصوم.

اما موضوع به ماشین‌های جنگی ختم نمی‌شود. نگاه بالا پیش از هر چیز نشان‌دهندهٔ یک ذهنیت «فن‌آوری محور» است که مثل سرطانی بدخیم به جان ذهنیت‌های ما افتاده است و هر گوشه را که بنگریم نشانه‌هایش را می‌یابیم. بر اساس این ذهنیت، پیشرفت فرایندی نامتنهایی است که با تولید بی‌وقفهٔ «فن‌آوری‌های جدید» همبستگی کامل دارد. پیشرفتِ جامعه به معنای تولید فن‌آوری‌ها و ابزارهای جدید است و تولید فن‌آوری‌ها و ابزارهای جدید به معنای پیشرفتِ جامعه. و این نوع پیشرفتی است که باید آن‌قدر ادامه یابد تا وقتی که انسان خطاکار به کلی از عرصهٔ تصمیم‌گیری حذف شود: به چشم‌انداز فتح زمین توسط روبات‌های معصوم خوش‌آمدید!