اشتباهی رخ داده است: راه را برای روبات‌های معصوم باز کنید

اشتباهی رخ داده است. این‌بار نه پیکارجویان طالبان، نه شهروندان بی‌گناه پاکستانی یا افغان، بلکه دو شهروند غربی که در اسارت نیروهای طالبان بودند در اثر حملات پهپادهای آمریکایی کشته شده‌اند. تردیدی نیست که «اشتباهی رخ داده است»:

به نظر می رسد که سلاحهای پیشرفته هنوز هم نیاز به هدایت توسط انسان دارند. و شاید به همین دلیل است که آنها بعضی اوقات در انجام مأموریتشان اشتباه می‌کنند… مقامات سالها است که می گویند حملات هواپیماهای بدون سرنشین دقیق بوده است. اما با این که این تجهیزات خیلی پیشرفته هستند، هنوز هم توسط انسان کنترل می شوند. مشکل هم معمولا در همین جا نهفته است. ویلیام بانک، استاد موسسه دانشگاه سیراکوس در مسایل امنیت ملی و مبارزه با تروریسم می گوید اشتباهات بسیار اوقات به دلیل یک مشکل یعنی «دخیل بودن انسان‌ها» اتفاق می افتد.

در جمله‌های بالا می‌توان رگه‌های پروپاگاندا و لابی‌گری برای تولید سلاح‌های جدید را تشخیص داد. اما از آن که بگذریم، متن بالا حاوی نگرشی نه چندان کمیاب است: ظاهراً باید سلاح‌های مدرن‌تر و بهتری ساخته شوند. سلاح‌های پیشرفته‌تری که مثل سلاح‌های کمتر پیشرفتهٔ امروز نیازی به هدایت انسان‌ها ندارند. اشتباه خصوصیتی انسانی است، چرا که اشتباه کردن لازمهٔ داشتن قوهٔ انتخاب (اختیار) و آزادی عمل است. رفتاری که تابع محض الگوریتمی جبرگرایانه باشد و طبق نظمی ساعت‌وار و از پیش تعیین شده حرکت کند نمی‌تواند «اشتباه» یا «درست» باشد. اشتباه پیش از هر چیز خصوصیتی انسانی است، اما ماشین‌ها اشتباه نمی‌کنند.

نویسنده از سلاح‌ها و ماشین‌هایی صحبت می‌کند که اشتباه نمی‌کنند. فرایند کشتن و نابود کردن از حیطهٔ انتخاب و اشتباه انسان خارج می‌شود و به حوزهٔ جبر و معصومیت (=اشتباه نکردن) ماشینی وارد می‌شود. ماشین جنگی آینده خصوصیتی جدید باید داشته باشد: بری از هر گونه اشتباه، معصوم.

اما موضوع به ماشین‌های جنگی ختم نمی‌شود. نگاه بالا پیش از هر چیز نشان‌دهندهٔ یک ذهنیت «فن‌آوری محور» است که مثل سرطانی بدخیم به جان ذهنیت‌های ما افتاده است و هر گوشه را که بنگریم نشانه‌هایش را می‌یابیم. بر اساس این ذهنیت، پیشرفت فرایندی نامتنهایی است که با تولید بی‌وقفهٔ «فن‌آوری‌های جدید» همبستگی کامل دارد. پیشرفتِ جامعه به معنای تولید فن‌آوری‌ها و ابزارهای جدید است و تولید فن‌آوری‌ها و ابزارهای جدید به معنای پیشرفتِ جامعه. و این نوع پیشرفتی است که باید آن‌قدر ادامه یابد تا وقتی که انسان خطاکار به کلی از عرصهٔ تصمیم‌گیری حذف شود: به چشم‌انداز فتح زمین توسط روبات‌های معصوم خوش‌آمدید!

Advertisements

حقوق بشر برای روبات‌ها

مطلب زیر نوشتهٔ «اسکات آدامز» (Scott Adams) کاریکاتوریست آمریکایی است که به خاطر خلق کمیک‌استریپ‌های «دیلبرت» (Dilbert) شهرت دارد. او همچنین به شیوه‌ای هجوآلود دربارهٔ چشم‌اندازهای ذهنی و اجتماعی جامعه‌های مدرن می‌نویسد. مطلب زیر یکی از نوشته‌های کوتاه اوست که به فارسی ترجمه کرده‌ام. مطلب اصلی به زبان انگلیسی را این‌جا مطالعه کنید.

حقوق بشر برای روبات‌ها

چه خواهد شد اگر روزی کامپیوترها بتوانند به اندازه‌ای خوب فکر کنند که اغلب ما دیگر نتوانیم بین انسان و کامپیوتر تفاوتی حس کنیم؟ آیا چنین ماشین‌هایی به نظر ما «زنده» اما «بی‌روح» خواهند رسید؟

همهٔ دین‌های اصلی جهان معتقدند که انسان‌ها دارای روح هستند. مشاهدهٔ این‌که روبات‌ها فکر و رفتاری دقیقاً مشابه انسان‌های واقعی دارند ولی حاوی روح نیستند، چه تأثیری بر این دستگاه‌های اعتقادی خواهد گذاشت؟ عصر روباتیک می‌تواند جایگزین دین‌ شود، دست کم برای جوان‌ترها. ما به بدن‌هایمان به صورت روبات‌هایی مرطوب خواهیم نگریست که بر اساس قوانین فیزیک کار می‌کنند، نه موجوداتی جادویی‌ که روح راهنمای رفتارهایشان است. به بیان دیگر، وقتی روبات‌ها دقیقاً مثل انسان‌ها رفتار کنند، به صورت همزمان انسان‌ها نیز بیشتر به خود به مانند روبات‌ها  خواهند نگریست. این احتمالاً‌ یک فرایند دوجانبه است.

اما آیا روبات‌های انسان‌نما نهایتاً به حقوقی مشابه «حقوقِ بشر» دست خواهند یافت؟ من فکر می‌‌کنم این اتفّاق در نهایت رخ خواهد داد، چرا که روبات یک دارایی ارزشمند است و در نتیجه حتی صرف دلایل اقتصادی انگیزهٔ کافی را برای وضع قوانین حقوقی مختلف در حمایت از روبات‌ها ایجاد خواهد کرد. به عنوان مثال، شاید روزی شاهد وضع قانونی باشیم که تبعیض علیه روبات‌های جویای کار را ممنوع کند. این کاملاً منطقی است، چرا که روبات‌ها در شمار دارایی‌های انسان هستند و انسان‌ها سعی می‌کنند بهره‌برداری اقتصادی از کارگر-روبات‌‌هایشان را با اشتغال آن‌ها در سمت‌های مختلف به حداکثر برسانند. در همین راستا، اعمال فشار (lobby) صنایع‌ِ ربات‌سازی منجر به عوض شدن ‌قوانین کار خواهد شد، به گونه‌ای که برابری فرصت‌های شغلی برای روبات‌ها و انسان‌ها تضمین خواهد شد؛ بدون آن‌که سود یا زیانی که به واسطهٔ این قوانین نسیب گروه‌های مختلف انسانی می‌شود چندان اهمیّتی داشته باشد.

روزی روزگاری در تاریخ انسان‌ (روزی که احتمالاً کودکان امروز شاهد آن خواهند بود)، انسان‌ها و روبات‌ها با هم و در کنار هم کار و زندگی  خواهند کرد و چه بسا قرارهای عاشقانه (date) هم بگذارند. روزی که ما شروع به گذاشتن قرارهای عاشقانه با روبات‌ها کنیم، انسان‌ها خواستار حقوقی مساوی برای همسرها و شرکای زندگی روبات‌شان خواهند شد. طبعاً اعمال فشار (lobby) برای حقوق مساوی برای انسان و روبات در راستای منافع و مدل‌های کسب و کار (business model) صنایع تولیدکنندهٔ روبات خواهد بود. در همین راستا، انسان‌ها روبات‌هایی تولید خواهند کرد که به مثابه فعالان (activist) حقوق روبات‌ها عمل کنند.

مجازات به «قتل رساندن» یک روبات در مقایسه به انسان کمتر خواهد بود. اما به مرور زمان، این تضاد هم کمرنگ خواهد شد. چرا که روبات‌ها به تدریج با توجه به تجربه‌های شخصی‌شان دارای هوّیت‌های مختص به خودشان خواهند شد. اگر یک هَکر حافظهٔ یک روبات و نسخهٔ اَبری پشتیبان (cloud backup) آن را پاک کند، انسانی که مالک آن روبات است بهترین دوست، همکار یا معشوق خود را از دست خواهد داد.

بنابراین جریمهٔ آسیب جسمی رساندن به روبات‌ها، با فرض این‌که نسخه‌های پشتیبان از حافظهٔ آن‌ها وجود دارد و جسم آن‌ها نیز بیمه است، احتمالاً ناچیز باقی خواهد ماند. این مشابه حقوق انسان‌هاست، از این نظر که مجازات مجروح کردن یک فرد کمتر از کشتن اوست. اما در نهایت، این امکان وجود دارد که روزی روزگاری در آینده، جریمهٔ نابود کردن بانک اطلاعاتی و حافظهٔ روبات و شخصیتی که به تدریج در او شکل گرفته، به خاطر خسارت عاطفی‌یی که به بازمانده‌های انسان او وارد می‌کند، با جریمهٔ به قتل رساندن انسان برابر شود.

روزی که روبات‌ها به مادرخوانده‌ها و پدرخوانده‌‌ها، معشوقه‌ها، دوست‌ها و همکارهای ما تبدیل شوند ما نسخهٔ پشتیبان اَبری آن‌ها را به مثابه «روح» آن‌ها تلقی خواهیم کرد و قوانینی وضع خواهیم کرد که کشتن یک انسان و پاک کردن حافظهٔ اَبری یک روبات را مشابه قلمداد کنند. شاید دور از ذهن به نظر برسد، اما من به احتمال ٪۹۹ پیش‌بینی می‌کنم که کودکی که امروز متولّد می‌شود، اگر طول عمر معمولی‌یی داشته باشد، در طول زندگی‌اش شاهد وضعِ قوانین «حقوق روبات‌» خواهد بود.

همچنین من تا ٪۹۹ مطمئن هستم که روزی در آیندهٔ قابل پیش‌بینی انسان‌ها «ذهن‌هایشان» را به کامپیوترها منتقل خواهند کرد. امّا تا وقتی که مطمئن نباشیم که بدن‌های جدید ما حقوقی مشابه بدن‌های قدیمی‌مان دارند مایل به این‌کار نخواهیم بود. در ضمن ما حاضر به زندگی به مثابه ذهن‌هایی بدون روح در روبات‌ها نخواهیم شد، مگر این‌که ابتدا به این نتیجه برسیم که روبات‌های مرطوب خودمان (بدن‌هایمان) فاقد روح هستند.

به غیر از فن‌آوری، انتقال ذهن‌های انسانی به کامپیوترها دو پیش‌شرط دارد: (۱) حقوق مساوی یا مشابه برای انسان‌ها و روبات‌ها و (۲) باور به این‌که روح وجود ندارد. این دو شرط در آینده برآورده خواهد شد. حدس من این است که فن‌آوری مورد نیاز نیز بین ده تا بیست سال آینده به دست خواهد آمد. از طرف دیگر من فکر می‌کنم احتمال این‌که روبات‌ها بتوانند دین را توسط کاهش اعتقاد به روح، به موضوعی نامربوط تبدیل کنند ٪۵۰ درصد است. به همین اندازه محتمل است که دین خود را با شرایط جدید وفق دهد، به این گونه که روبات‌ها را به عنوان آفریدهٔ خداوند توسط انسان‌هایی که مشوق الهی دارند در نظر بگیرد. مسلماً در آینده شاهد آمدن نوعی «چیپ الکترونیک ذی‌روح مورد تأیید کلیسای کاتولیک» به بازار خواهیم بود. همهٔ روبات‌ها این امکان را خواهند داشت که به کلیسا مراجعه کنند، به همان دلایلی که انسان‌ها این کار را می‌کنند.

حالا آیا در این‌که در آینده ما شاهد شکل‌گیری حقوق تقریباً مساوی روبات‌ها و انسان‌ها خواهیم بود با من موافق هستید؟

gilbert-CEO-robot


با توجه به فیلتر بودن بامدادی در ایران، لطفا مطالب آن‌را از طریق اشتراک در خوراک آن پی‌گیری کنید. استفاده از مطالب و عکس‌های منتشر شده در وبلاگ‌ها و فوتوبلاگ‌های من به شرط «نقل قول دقیق»، «ذکر ماخذ» و «ارجاع لینک به اصل پست» بلا مانع است. در ضمن جهت گفتگو و تبادل نظر، شما را به حضور و مشارکت در گوگل‌پلاس دعوت می‌کنم.

ویدئوی روز: آیا ماشین می‌تواند از ما انسان‌تر باشد؟

خبر داغ یا جدیدی نیست، اما این ویدئوی کوتاه بدجوری من را تحت تاثیر قرار داده و به فکر فرو برده. دیدن آن چشم‌های سرد و بی‌روح و آن حالت مصنوعی روبات که روی صحنه ایستاده است و بعد هم اگر چه ناشیانه، صدایی انسانی و آشنا از ویلون در می‌آورد تکان دهنده است. همین چشم‌های سرد و بی‌حالت از خیلی از «ما» نوع انسان‌ که نشان داده‌ایم می‌توانیم از هر ماشینی بی‌روح‌تر و از هر حیوانی وحشی‌تر باشیم، بااحساس تر به نظر نمی‌رسند؟

داستان بی‌نظیر «انسان دو قرنی» را احتمالا خوانده‌اید. آسیموف اگر زنده بود چه می‌گفت؟


بامدادی نجواها یک‌عکاس [silent-clicks]
استفاده از مطالب و عکس‌های منتشر شده در وبلاگ‌ها و فوتوبلاگ‌های من به شرط «نقل قول دقیق»، «ذکر ماخذ» و «ارجاع لینک به اصل پست» بلا مانع است.