اشتباهی رخ داده است: راه را برای روبات‌های معصوم باز کنید

اشتباهی رخ داده است. این‌بار نه پیکارجویان طالبان، نه شهروندان بی‌گناه پاکستانی یا افغان، بلکه دو شهروند غربی که در اسارت نیروهای طالبان بودند در اثر حملات پهپادهای آمریکایی کشته شده‌اند. تردیدی نیست که «اشتباهی رخ داده است»:

به نظر می رسد که سلاحهای پیشرفته هنوز هم نیاز به هدایت توسط انسان دارند. و شاید به همین دلیل است که آنها بعضی اوقات در انجام مأموریتشان اشتباه می‌کنند… مقامات سالها است که می گویند حملات هواپیماهای بدون سرنشین دقیق بوده است. اما با این که این تجهیزات خیلی پیشرفته هستند، هنوز هم توسط انسان کنترل می شوند. مشکل هم معمولا در همین جا نهفته است. ویلیام بانک، استاد موسسه دانشگاه سیراکوس در مسایل امنیت ملی و مبارزه با تروریسم می گوید اشتباهات بسیار اوقات به دلیل یک مشکل یعنی «دخیل بودن انسان‌ها» اتفاق می افتد.

در جمله‌های بالا می‌توان رگه‌های پروپاگاندا و لابی‌گری برای تولید سلاح‌های جدید را تشخیص داد. اما از آن که بگذریم، متن بالا حاوی نگرشی نه چندان کمیاب است: ظاهراً باید سلاح‌های مدرن‌تر و بهتری ساخته شوند. سلاح‌های پیشرفته‌تری که مثل سلاح‌های کمتر پیشرفتهٔ امروز نیازی به هدایت انسان‌ها ندارند. اشتباه خصوصیتی انسانی است، چرا که اشتباه کردن لازمهٔ داشتن قوهٔ انتخاب (اختیار) و آزادی عمل است. رفتاری که تابع محض الگوریتمی جبرگرایانه باشد و طبق نظمی ساعت‌وار و از پیش تعیین شده حرکت کند نمی‌تواند «اشتباه» یا «درست» باشد. اشتباه پیش از هر چیز خصوصیتی انسانی است، اما ماشین‌ها اشتباه نمی‌کنند.

نویسنده از سلاح‌ها و ماشین‌هایی صحبت می‌کند که اشتباه نمی‌کنند. فرایند کشتن و نابود کردن از حیطهٔ انتخاب و اشتباه انسان خارج می‌شود و به حوزهٔ جبر و معصومیت (=اشتباه نکردن) ماشینی وارد می‌شود. ماشین جنگی آینده خصوصیتی جدید باید داشته باشد: بری از هر گونه اشتباه، معصوم.

اما موضوع به ماشین‌های جنگی ختم نمی‌شود. نگاه بالا پیش از هر چیز نشان‌دهندهٔ یک ذهنیت «فن‌آوری محور» است که مثل سرطانی بدخیم به جان ذهنیت‌های ما افتاده است و هر گوشه را که بنگریم نشانه‌هایش را می‌یابیم. بر اساس این ذهنیت، پیشرفت فرایندی نامتنهایی است که با تولید بی‌وقفهٔ «فن‌آوری‌های جدید» همبستگی کامل دارد. پیشرفتِ جامعه به معنای تولید فن‌آوری‌ها و ابزارهای جدید است و تولید فن‌آوری‌ها و ابزارهای جدید به معنای پیشرفتِ جامعه. و این نوع پیشرفتی است که باید آن‌قدر ادامه یابد تا وقتی که انسان خطاکار به کلی از عرصهٔ تصمیم‌گیری حذف شود: به چشم‌انداز فتح زمین توسط روبات‌های معصوم خوش‌آمدید!

تصمیم‌گیری و اخلاق: از کدام فروشگاه خرید می‌کنید؟

در شهر شما دو فروشگاه بزرگ قرار دارد که درست در مجاورت هم قرار گرفته‌اند و محصولات مختلف «چیز» می‌فروشند که بعد از خرید باید خودتان به هم وصل کنید تا کار مورد نظرتان در زمینهٔ «چیزاسیون» را انجام دهد. این محصولات بسیار متنوع هستند به طوری که شما حتما برای انتخاب مناسب و استفاده به نحو احسن از آن‌ها به راهنمایی فروشنده‌های ماهر فروشگاه احتیاج دارید. نوع راهنمایی مورد نیاز شما به گونه‌ای نیست که بتوانید از طریق مراجعه به دوستان یا آشنایان و یا جستجو در اینترنت به دست بیاورید.

فروشگاه «اولی» گران‌تر و تخصصی است اما فروشندگان متعدد حرفه‌ای و متخصص دارد که به محض این‌که وارد فروشگاه شوید در خدمت شما هستند تا بهترین انتخاب را انجام دهید. آن‌ها نه تنها سلیقهٔ خوبی دارند بلکه شناخت فنی خوبی هم از محصولات مختلف موجود در فروشگاه دارند و با صداقت و دقت هر چه تمام‌تر شما را راهنمایی می‌کنند. آن‌ها آن‌قدر حرفه‌ای این‌کار را انجام می‌دهند که شما بعد از این‌که ساعت‌ها از آن‌ها راهنمایی گرفتید و فرضا تصمیم به خرید چیزی نگرفتید معذب نخواهید بود و می‌توانید خیلی راحت و بدون استرس فروشگاه را ترک کنید.

فروشگاه «دومی» از آن دست فروشگاه‌هایی است که همه چیز می‌فروشند و تنها چیزی که برایشان مهم است این است که مشتری عام را با قیمت ارزان به خود جلب کنند. فروشنده‌های اندکی دارد که وقت راهنمایی کردن شما را ندارند و تازه اگر هم شانس بیاورید و یکی از آن‌ها را پیدا کنید متوجه می‌شوید که اطلاعات بیشتری از شما ندارد و فرق بین «سیب» و «سیم» را نمی‌داند. اما خوبی این فروشگاه این است که قیمت‌های ارزانی دارد و تقریبا هر محصولی که بخواهید در آن پیدا می‌شود، حتی محصولاتی که در فروشگاه «اولی» ‍‍پیدا می‌شود.

شما از وضعیت این دو فروشگاه اطلاع کافی دارید. هم می‌دانید که فروشگاه اول به مراتب گران‌تر از فروشگاه دوم است و هم از وضعیت نابسامان فروشنده‌های فروشگاه دوم خبر دارید. از طرفی کاری که می‌خواهید انجام دهید مهم است و دلتان می‌خواهد برای خرید، بهترین مشاوره‌ها را بگیرید و بهترین انتخاب‌ها را انجام دهید. شما توانایی خرید از هر کدام از این دو فروشگاه را دارید. این‌طور نیست که اگر از اولی خرید کنید کرایهٔ خانه‌تان عقب بیفتد. اما وضعیت مالی مناسبت شما به آن معنا نیست که حواستان به خرج‌هایتان نباشد و بی‌گدار به آب بزنید.

پس از اندکی تفکر و تعمق، سه گزینهٔ زیر به ذهن‌تان می‌رسد:

انتخاب اول – بی‌خیال پول شوید و از فروشگاه اول خرید کنید. به این ترتیب درست است که پول بیشتری داده‌اید اما در عوض خوب و حرفه‌ای راهنمایی شده‌اید و بهترین انتخاب‌ها را کرده‌اید. در ضمن شما از فروشگاه اول حمایت کرده‌اید چرا که معتقدید ارایهٔ مشاوره توسط فروشندگان حرفه‌ای و خوش‌برخورد ارزش پرداخت هزینهٔ بیشتر را دارد. حمایت شما از فروشگاه اول این خوبی را دارد که اگر اکثریت مثل شما فکر کنند چنین فروشگاه‌هایی قدرت خواهند گرفت و در نتیجه حتی ممکن است در آینده بتوانند محصولات و مشاوره‌ٔ تخصصی‌شان را با قیمت‌های کمتری عرضه کنند. شما فکر می‌کنید که اگر از فروشگاه اول راهنمایی گرفتید از نظر اخلاقی درست نیست که از فروشگاه دوم خرید کنید. چون به این ترتیب به کار حرفه‌ای و تخصصی فروشگاه اول توهین یا خیانت کرده‌اید.

انتخاب دوم – مگر می‌توانید ب‍پذیرید که برای محصول مشابه پول بیشتری بپردازید؟ این اصلا قابل قبول نیست. در نتیجه به فروشگاه دوم می‌روید و با وجودی که هیچ‌کس نیست تا شما را راهنمایی کند با تکیه به بخت و اقبال و اندکی هم سواد و سلیقه خودتان خریدتان را انجام می‌دهید. بهترین گزینه نیست، اما کلی صرفه‌جویی مالی کرده‌اید. به نظر شما آدم همان‌قدر که پول بدهد همان‌قدر آش می‌خورد و هیچ ارزانی بی‌حکمت و هیچ گرانی‌ای بی‌دلیل نیست. به هر حال فروشگاه ارزان‌تر را انتخاب می‌کنید و می‌پذیرید که مشاورهٔ خوبی دریافت نکنید. درست است که وسوسه شده بودید که قبل از خرید از فروشگاه دوم سری به فروشگاه اول بزنیدو از راهنمایی رایگان آن‌ها بهره‌مند شوید. اما تصمیم گرفتید که این‌کار شایسته‌ای نیست و اگر قرار است پول کمتری بدهید و از فروشگاه دوم خرید کنید اخلاقی‌تر است که بی‌خیال مشاوره رایگان فروشگاه اول بشوید.

انتخاب سوم – تصمیم می‌گیرید زرنگ باشید. به فروشگاه اول می‌روید و تا دلتان می‌خواهد در آن چرخ می‌زنید. از فروشندگان مودب و حرفه‌ای آن‌جا راهنمایی می‌گیرید. فهرست خرید مورد نیازتان را همراه با نکته‌های فنی مهم یادداشت می‌کنید. بعد با خیال راحت از فروشگاه اول خارج می‌شوید و به فروشگاه دوم می‌روید و همهٔ محصولاتی را که یادداشت کرده‌اید با قیمت ارزان‌تر از آن‌جا می‌خرید. به این ترتیب هم حرفه‌ای ترین مشاوره را گرفته‌اید و هم کمترین هزینه را متقبل شده‌اید. به نظر شما، آدم باید خودش زرنگ باشد و گلیم خودش را از آب بیرون بکشد. اگر مسولان فروشگاه اول حواسشان به این باگ بزرگ نیست خوب خودشان باید تاوانش را پس بدهند. هر چه باشد شما کار غیرقانونی‌ای که انجام نداده‌اید. این حق شماست که از مشاورهٔ رایگان فروشگاه اول بهره‌مند شوید و از ارزان‌ترین فروشگاه خرید کنید. به کسی چه مربوط؟

کمی فکر کنید و خودتان را در موقعیت توصیف شده تصور کنید. کدام گزینه را انتخاب می‌کنید؟ (لطفا نظرتان را در نظرسنجی زیر وارد کنید. اگر درگوگل‌ریدر هستید روی لینک زیر کلیک کنید).


با توجه به فیلتر بودن بامدادی در ایران، لطفا مطالب آن‌را از طریق اشتراک در خوراک آن پی‌گیری کنید. استفاده از مطالب و عکس‌های منتشر شده در وبلاگ‌ها و فوتوبلاگ‌های من به شرط «نقل قول دقیق»، «ذکر ماخذ» و «ارجاع لینک به اصل پست» بلا مانع است.

پیچیده‌ کردن تصمیم‌گیری و دشواری انتخاب

خیلی وقت‌ها من مشکل تصمیم‌گیری دارم. یعنی برای گرفتن یک تصمیم، حتی اگر بر سر یک موضوع نسبتا ساده باشد دچار مشکل می‌شوم. کلی معیار و پارامتر وارد موضوع می‌کنم و گاه این‌قدر موضوع را پیچیده می‌کنم که عملا گرفتن تصمیم بسیار مشکل می‌شود. امروز با خواندن این نوشته فهمیدم که این فقط مشکل من نیست و ظاهرا یک خصوصیت نهادینه آدم‌ها یا یا دقیق‌تر بگویم، اغلب کسانی که در این تحقیق مورد بررسی قرار گرفته‌اند است. اگر این تحقیق را بشود به بیشتر آدم‌ها تعمیم داد آن‌وقت معنی‌اش این می‌شود که ما موضوعات ساده را پیچیده می‌کنیم و به قول معروف «از کاه کوه درست می‌کنیم».  یعنی افراد تمایل دارند تصمیم‌های ساده و قابل‌ پیش‌بینی را به موضوعاتی پیچیده و طاقت‌فرسا (به صورت نسبی) تبدیل کنند حتی اگر چنین پیچیده‌سازی‌ای اصلا لازم نباشد و هیچ کمکی به تصمیم‌گیری بهتر نکند. به این پدیده می‌گویند: پیچیده کردن انتخاب (complicating choice)

حالا محققان چطوری این گرایش آدم‌ها به پیچیده‌سازی تصمیم‌های ساده را نشان داده‌اند؟ با چند آزمون تجربی ساده. یکی از آن‌ها نشان داده که خصوصیت‌های ریزی که در حالت عادی اولیت‌های پایینی دارند در شرایط تصمیم‌گیری ناگهان مهم می‌شوند. فرض کنیم من می‌خواهم از میان چند دانشگاه مختلف که خارج از شهر محل زندگی‌ام قرار دارند یکی را برای تحصیل انتخاب کنم. برای سادگی فقط دو معیار کیفیت دانشگاه و فاصله هوایی تا شهر محل زندگی‌ام را در نظر بگیریم که اولی معیار اصلی و دومی معیار فرعی من است. من دانشگاه‌ها را به ترتیب کیفیت آموزشی مرتب می‌کنم و جدول زیر به دست می‌آيد:

دانشگاه «ج» اولیت سوم را در فهرست کیفیت دانشگاه‌ها دارد در حالی که فقط یک ساعت نزدیک‌تر است. این یک ساعت فاصله هوایی کوتاه‌تر قاعدتا نباید مرا بین انتخاب دانشگاه «الف» یا «ج» مردد کند چون یک خصوصیت فرعی است. اما نتیجه تحقیق خلاف این را نشان می‌دهد. ما در تصمیم‌هایمان موضوعات کم‌اهمیت را بیش از آن‌چه که باید بزرگ می‌کنیم و در نتیجه فرایند تصمیم‌گیری را دشوارتر و طولانی‌تر می‌کنیم.

محققان یک خصوصیت دیگر ما را هم که به سخت‌تر شدن تصمیم‌گیری منجر می‌شود نشان داده‌اند: وقتی عواقب ناشی از یک تصمیم بزرگ‌تر باشند تصمیم‌گیری به صورت کاذبی برای ما دشوار می‌شود. این یکی شاید تا حدی واضح به نظر برسد، اما به خوبی توضیح می‌دهد که چطور گاهی در مواجهه با تصمیم‌های مهم منفعل می‌شویم و گاه نمی‌توانیم به موقع و درست تصمیم بگیریم. تصمیم‌هایی ساده (simple) که آسان (easy) نیستند.


با توجه به فیلتر بودن بامدادی در ایران، لطفا مطالب آن‌را از طریق اشتراک در خوراک آن پی‌گیری کنید. استفاده از مطالب و عکس‌های منتشر شده در وبلاگ‌ها و فوتوبلاگ‌های من به شرط «نقل قول دقیق»، «ذکر ماخذ» و «ارجاع لینک به اصل پست» بلا مانع است.

درود بر سامورایی‌های نیروگاه هسته‌ای ژاپنی

به آن سامورایی‌هایی فکر می‌کنم که هنوز داخل نیروگاه بحران زدهٔ ژاپنی مانده‌اند و «ناامیدانه» در حال تلاش برای مهار بحران یا دست کم خاموش کردن آتش هستند. نه این‌که به قربانیان درماندهٔ زلزله یا سونامی فکر نکنم،‌ اما آن‌ها با اختیار خود به سوی مرگ نرفتند، آتش‌نشانان و کارکنان نیروگاه ژاپنی اما آگاهانه و مسئولانه مرگ را انتخاب می‌کنند. بدون شک همهٔ آن‌ها می‌دانند که سلامتی و زندگی‌شان در معرض خطر جدی تشعشات رادیواکتیو است و با این وجود مسئولانه «ماندن» و «جنگیدن» را انتخاب کرده‌اند.

در این ساعت‌ها فقط و فقط به آن‌ها فکر می‌کنم. از تصور لحظاتی که بر آن‌ها می‌گذرد اشک در چشمانم جمع می‌شود. فقط می‌توانم بگویم درود بر فداکاری‌هایشان. درود…


با توجه به فیلتر بودن بامدادی در ایران، لطفا مطالب آن‌را از طریق اشتراک در خوراک آن پی‌گیری کنید. استفاده از مطالب و عکس‌های منتشر شده در وبلاگ‌ها و فوتوبلاگ‌های من به شرط «نقل قول دقیق»، «ذکر ماخذ» و «ارجاع لینک به اصل پست» بلا مانع است.

تصمیم‌گیری در لحظه‌ی بحران

چند تا از همکارهای من سفرشان به مصر را لغو کردند. قرار بود دیروز برای یک تحقیق علمی به قاهره پرواز کنند و تا حدی هم در جریان بودم که برای این مسافرت کلی وقت گذاشته بودند و قرار و مدارها با مصاحبه‌شوندگان و سازمان‌ها و موسسات درگیر را هم تنظیم کرده بودند. خلاصه همه چیز برای یک سفر مفید و منظم آماده بوده ‌که ناآرامی‌های شهری در قاهره اوج می‌گیرد و اعضای گروه به این نتیجه می‌رسند که سفر را لغو و به تاریخ فعلا نامعلومی در آینده موکول کنند. می‌دانستم که تصمیم ساده‌ای نگرفته‌اند و به مکالمات آن جلسه‌ی اضطراری‌ای فکر می‌کردم که در آن اعضای گروه تصمیم گرفته بودند چنین سفر مهمی را لغو کنند.

امروز موقع صرف چای از یکی از آن‌ها که قبولش داشتم علت لغو سفرشان را جویا شدم. می‌خواستم بدانم به جز دلایل مربوط به ایمنی و سلامت سفر دغدغه‌ی دیگری هم داشته‌اند یا خیر. این سه تا دلیل را آورد:

  • با توجه به شرایط قاهره سفرمان از امنیت لازم برخوردار نبود.
  • اخلاقی ندیدیم در شرایطی که وضعیت قاهره بحرانی‌ است روی موضوعی که از لحاظ اجتماعی حاشیه‌ای است، تحقیق کنیم.
  • با توجه به وضعیت بحرانی جامعه ممکن بود پاسخ‌هایی که از مصاحبه‌شوندگان می‌گرفتیم به اندازه‌ی کافی دقیق نباشند، همین‌طور ممکن بود به خاطر ازدحام نتوانیم برنامه‌ی فشرده‌ای که داشتیم را به خوبی انجام دهیم.

در واقع ملاحظاتی با جهت‌گیری به سمت «خود»، «دیگران» و «کیفیت حرفه‌ای‌» را در نظر گرفته بودند. البته نمی‌دانم به هر کدام از این دلایل چه وزنی داده بودند اما از نوع نگاهشان برای تصمیم‌گیری خوشم آمد چرا که موضوع را از چند زاویه‌ی مختلف دیده بودند.

نکته‌ی ساده و مهمش برای من این بود که حتی در مواقع اضطراری هم می‌شود تصمیم‌گیری را منحصر به یک عامل اصلی (در این‌جا «امنیت گروه») نکرد و نگاه چند جانبه  را در  فرایند تصمیم‌گیری  تا حد فرصت و امکان حفظ کرد.


با توجه به فیلتر بودن بامدادی در ایران، لطفا مطالب آن‌را از طریق اشتراک در خوراک آن پی‌گیری کنید. استفاده از مطالب و عکس‌های منتشر شده در وبلاگ‌ها و فوتوبلاگ‌های من به شرط «نقل قول دقیق»، «ذکر ماخذ» و «ارجاع لینک به اصل پست» بلا مانع است.