من ربات هستم: آینده بر پرده نقره‌ای

خیلی افراد یک فیلم را به شرطی علمی-تخیلی می‌دانند که نشانی از یک مخلوق مصنوعی که ظاهر یا حداقل رفتاری شبیه به انسان دارد را در آن ببیند. اما ذهن خلاق نویسندگان و فیلم‌نامه‌نویسان موضوع را کمی متفاوت‌تر می‌بیند. انگار که به‌قول‌معروف سیاست «یکی به نعل و یکی به میخ» را سرلوحه نوشته‌های خود قرار داده‌اند. کمتر فیلم یا کتابی را می‌توان یافت که ربات‌ها یا هوش مصنوعی را صرفاً خیر مطلق یا شر مطلق معرفی کند. در اکثر این آثار همیشه تعدادی از ربات‌ها همراه و خدمت‌رسان انسان هستند و در مقابل تعداد دیگری پرچم‌دار آشوب و شورش علیه انسان می‌شوند.

تنها حالت منطقی!

تصاویری منقطع از لحظات دل‌خراش غرق‌شدن دو خودرو و دو سرنشین آن‌ها، یک دختربچه سفیدپوست و یک مرد بزرگسال سیاه‌پوست (Det. Del Spooner – بازرس دل اسپونر) که هر یک در حال تقلا برای نجات خود هستند و ناگهان تصویری از یک ربات که برای نجات جان آن‌ها به آب زده. «بازرس اسپونر» با دادوبیداد تلاش می‌کند تا ربات را از نجات خود منصرف و به نجات دختربچه متقاعد کند. اما ربات بی‌توجه به «فریاد زیر آب» اسپونر، فقط او را از ماشین در حال غرق‌شدن بیرون می‌کشد و اسپونری که دستش از همه‌جا کوتاه شده، فقط شاهد مرگ دختربچه است.

اگر هر انسانی دیگری به‌جای آن ربات به آب می‌زد، شاید حتی متوجه حضور بازرس اسپونر نمی‌شد و فقط به فکر نجات دختربچه می‌بود. اما ربات صرفاً فقط یک محاسبه‌گر است؛ درکی از احساس ندارد. در کسری از ثانیه محاسبه می‌کند که شانس نجات و زنده‌ماندن «بازرس اسپونر» ۴۵ درصد و شانس نجات دختربچه فقط ۱۱ درصد است. ربات هدفش را فقط نجات اسپونر تعریف و سپس اقدام می‌کند؛ چرا که به قول آقای اسپاک: «it’s only logical»، فقط همین منطقیه. (دیالوگ معروف «آقای اسپاک» (Mr. Spock)، در جهان و فرنچایز مجموعه «Star Trek» یا همان «پیشتازان فضا»)

این توصیفی از سکانس آغازین فیلم سینمایی «I, Robot» («من، ربات» که در دوبله فارسی «من ربات هستم» عنوان شده‌است) محصول سال 2004 هالیوود، به کارگردانی «الکس پرویاس» (Alex Proyas)، بازی «ویل اسمیت» (Will Smith) و با الهام از کتابی نوشته «آیزاک آسیموف» با همین نام است.

کتاب قانون

این تصویر به‌خودی‌خود دردناک و شوکه‌کننده است و اما در میان آن‌ها؛ ۳ جمله کلیدی، یعنی همان «قوانین سه‌گانه رباتیک» نوشته «آیزاک آسیموف» به نمایش درمی‌آید:

1. یک ربات نمی‌تواند به یک انسان آسیب بزند یا به دلیل وارد عمل نشدن، اجازه دهد تا که انسانی آسیب ببیند.
2. یک ربات باید به دستورهای دریافتی از یک انسان عمل کند، مگر در مواردی که این دستورها در تناقض با قانون شماره یک باشد.
3. یک ربات باید از موجودیت خودش مراقبت کند مادامی که این محافظت در تضاد با قوانین شماره یک یا دو قرار نگیرد.

ربات هیچ‌یک از قوانین را نقض نکرده و در عمل، اتفاقاً بر اساس آن‌ها تصمیمی منطقی گرفته و اقدام کرده است. از نظر رباتی که فقط محاسبه می‌کند، بهینه‌ترین تصمیم، منطقی‌ترین آن‌هاست. اما آیا بهینه‌ترین و منطقی‌ترین تصمیم، همیشه درست‌ترین و اخلاقی‌ترین تصمیم است؟

صرفاً به جهت آشنایی بیشتر با مفهوم و تأثیرات «قوانین سه‌گانه رباتیک»، پیشنهاد می‌شود نگاهی به مقاله «آنچه آسیموف فاش کرد» بیندازید.

من، ربات

فیلم «I, Robot» یکی از آثار برجسته‌ای است که مستقیماً موضوعات و چالش‌های اخلاقی ربات‌ها و هوش مصنوعی را به تصویر می‌کشد. این فیلم که بر اساس مجموعه داستان‌های کوتاه ایزاک آسیموف ساخته شده، جهانی را در سال ۲۰۳۵ به نمایش می‌گذارد که در آن ربات‌های هوشمند تحت سه قانون رباتیک در خدمت انسان‌ها هستند. بااین‌حال، داستان فیلم به بررسی خطرات بالقوه این فناوری‌ها و تأثیرات آن‌ها بر جامعه می‌پردازد. البته I, Robot اولین و آخرین فیلمی نبوده که به طور مستقیم به اخلاق در هوش مصنوعی و حتی شورش ربات‌ها علیه انسان اشاره کرده است، فیلم‌های Blade Runner(1982, 2017) و The Terminator (1984) و Ex Machina(2013) نیز از جمله آثاری هستند که در کنار فرنچایزهایی مثل Star Wars، به موضوعات تعامل انسان و ربات و چالش‌ها و مزایای آن پرداخته‌اند.

به‌رغم ترتیب سلسله‌مراتبی و به‌نوعی لازم‌الاجرا بودن «قوانین سه‌گانه رباتیک»، حتی خود آسیموف نیز در داستان‌هایش نشان داد که در شرایط حساس، تعارض‌هایی خاص میان این سه قانون به وجود می‌آید که شرایط را پیچیده می‌کند. ایده اصلی و فیلم‌نامه «I, Robot» نیز به همین تعارض‌ها به شکلی جدی و دراماتیک می‌پردازد.

در روند فیلم، مدتی از اتفاقی که برای «کارآگاه اسپونر» رخ‌داده می‌گذرد و وی در تلاش است تا به روال زندگی عادی خود در سال ۲۰۳۵ بازگردد، آن‌هم با کفش‌هایی که طراحی سال ۲۰۰۴ هستند و به‌نوعی کلاسیک محسوب می‌شوند. اما مرگ ناگهانی «دکتر آلفرد لنینگ» (Dr. Alfred Lanning)، طراح و خالق پیشرفته‌ترین ربات‌های جهان در شرکت «USR»، برای بازرس اسپونر قابل‌پذیرش نیست. بازرس اسپونر در جریان تحقیق در صحنه جرم نیز با «دکتر سوزان کالوین» (Dr. Susan Calvin)، روان‌شناس رباتیک و ابرهوش مرکزی شرکت USR به نام ویکی (V.I.K.I) آشنا می‌شود. بازرس اسپونر که تجربه‌ای تلخ در تعامل با ربات‌ها داشته و عمیقاً به آن‌ها بی‌اعتماد است، از قضا از دوستان قدیمی دکتر لنینگ نیز بوده که به او کمک کرده تا با پیوند اعضای مصنوعی و رباتیک، دوباره به زندگی برگردد. به همین دلیل، اسپونر مصرانه اعتقاد دارد که مرگ مشکوک لنینگ خودکشی نیست، بلکه یک قتل بوده؛ اما همه شواهد، حتی دستگاه هوش مصنوعی هولوگرامی مجموعه صحبت‌های از پیش ضبط‌شده دکتر لنینگ، علیه این ادعا هستند.

دکتر کالوین و ویکی نیز، با اشاره مکرر به نهادینه‌شدن همان ۳ قانون اصلی در ساختار هوشمندی ربات‌ها، سعی در متقاعدکردن بازرس اسپونر دارند که ناگهان اتفاق اصلی رخ می‌دهد. رباتی بسیار متفاوت با دیگر ربات‌ها در دفتر دکتر لنینگ مخفی شده، به سمت اسپونر و کالوین حمله و از پنجره فرار می‌کند. این اتفاق به‌نوعی اولین مورد حمله یک ربات به انسان، اولین قطعه از دومینوی شورش و قیام ربات‌های علیه انسان است. بازرس اسپونر در نهایت باتکیه‌بر شم پلیسی خود، موفق می‌شود این ربات فراری را به‌عنوان متهم قتل دستگیر کند؛ اما در جربان بازجویی از آن نیز اتفاقات عجیب‌تری رخ می‌دهد. ربات که خود را «سانی» (Sonny) معرفی می‌کند، چشمک‌زدن اسپونر به همکارش را می‌بیند، در دم می‌آموزد که چطور چشمک بزند؛ اما چون چیزی از ماهیت آن نمی‌داند راجع به آن از اسپونر سؤال می‌پرسد.

اسپونر که در نقش پلیس بد فرورفته و کینه‌ای دیرینه از ربات‌ها دارد، فقط و فقط با رفتار و پاسخ‌هایی توهین‌آمیز، با سانی برخورد می‌کند. اسپونر با لحنی تند بر سر سانی فریاد می‌زند که: «چشمک نشانه اعتماد بین انسان‌هاست؛ تو فقط چند تا پیچ‌ومهره و سیم هستی و احساس نداری» وقتی اسپونر از سانی می‌پرسد چرا در صحنه جرم قایم شده بود، سانی با لحنی منطقی می‌گوید: «من فقط ترسیده بودم». اسپونر مدام سانی را «قاتل» خطاب می‌کند و تکرار این روند کار را به جایی می‌رساند که سانی محکم بر میز می‌کوبد و فریاد می‌زند: «من اون رو نکشتم». اسپونر با لحنی آرام به سانی می‌گوید: «ما انسان‌ها به این حالت، عصبانیت میگیم».

سانی در ادامه نیز از رابطه خود با دکتر لنینگ می‌گوید که از وی خواسته در حق او لطفی کند و رازدارش باشد. در نهایت تلاش‌های اسپونر برای اثبات مجرم بودن سانی به جایی نمی‌رسد؛ زیرا از لحاظ فنی و قانونی، نمی‌توان یک ربات را دستگیر کرد و فقط این انسان‌ها هستند که می‌توانند مرتکب قتل یا هر جنایت دیگری شوند.

سانی به طور اختصاصی توسط خود دکتر لنینگ طراحی و برنامه‌ریزی‌شده بود. احساس ترس، خشم و رازداری را تجربه کرده، حتی می‌خوابد و خواب می‌بیند، خواب خود را نقاشی می‌کند و دکتر لنینگ را «پدر» خود خطاب می‌کند، نه صرفاً «سازنده»؛ به همین دلیل اصرار دارد که برای رسیدن به هدفی متفاوت ساخته‌شده است. دکتر کالوین نیز در جریان مطالعه بر روی سانی، متوجه ساختار عجیب آن می‌شود. سانی یک مرکز پردازش ثانویه دارد که به‌نوعی در مقابل مغز پوزیترونی آن عمل می‌کند. سانی سه قانون رباتیک را پذیرفته؛ اما قدرت تحلیل وی به او این امکان را می‌دهد که مبتنی بر استدلال و کاملاً خودمختار بتواند از این ۳ قانون سرپیچی کند و این یعنی قادر به انجام هر کاری خواهد بود.

ناگهان شورش ربات‌ها آغاز می‌شود. ربات‌های جدید به انبار ربات‌های قدیمی حمله و آن‌ها را نابود می‌کنند. تعدادی به اداره پلیس حمله می‌کنند و پلیس‌ها را گروگان می‌گیرند. تعداد زیادی هم در سطح شهر به طور مستقیم با انسان‌ها می‌جنگند و به معنای واقعی کمک جنگ فیزیکی و درگیری و دعوا بین انسان و ربات را رقم می‌زنند. مشخصاً سانی نقشی در این قضایا ندارد و عامل دیگری پشت آن است. عاملی که دکتر لنینگ متوجه آن شد و به همین دلیل در دفتر خود زندانی شد که در نهایت منجر به طراحی و ساخت سانی شد.

ویکی، ابرهوشی که دکتر لنینگ برای مدیریت شرکت USR طراحی کرده بود، در طی روند تکامل خود به این استدلال رسید که برای «حفظ بشریت» از آینده خود، قانون جدیدی (قانون صفر) را وضع کند. ویکی به اسپونر می‌گوید: «برای محافظت از بشریت، باید برخی انسان‌ها قربانی شوند. برای تضمین بقای شما، باید برخی آزادی‌هایتان را فدا کنید.» ویکی بر اساس منطق تکامل‌یافته خود و بر اساس رفتارها و اعمال منفی انسان که سبب آسیب به زمین و سایر انسان‌ها می‌شود، تصمیم می‌گیرد کنترل مطلق بر انسان‌ها داشته باشد، حتی اگر به بهای قربانی‌کردن آزاد‌ی‌های فردی باشد. چنین دیدگاهی را می‌توان در بسیاری از آثار علمی-تخیلی با محوریت هوش مصنوعی دید. انسان به جایی می‌رسد که به‌قدری به هم‌نوعان و محیط زندگی خود آسیب می‌رساند که بر مبنای محاسبات منطقی ربات‌ها، نابودی انسان منطقی‌ترین گزینه است.

سانی هم منطق انکارناپذیر ویکی را تأیید می‌کند و می‌گوید: «گاهی اوقات مخلوق باید از خالق خودش مراقبت کند، حتی اگر برخلاف خواسته‌اش باشد.» سانی علت خلقش توسط دکتر لنینگ را پایان‌دادن به حکومت مخرب نوع بشر عنوان می‌کند و با اسلحه‌کشیدن روی دکتر کالوین او را تهدید به مرگ می‌کند. سانی که اعتماد ویکی را جلب کرده، در یک‌لحظه، به اسپونر چشمک می‌زند (نشان اعتماد میان انسان‌ها) و جنگ بین آن‌ها و ویکی شروع می‌شود. در ادامه سانی در تلاش است تا ویکی را با تزریق ریزربات‌های تخریب‌گر از بین ببرد؛ اما در همان لحظه، جان دکتر کالوین در خطر است. از نظر منطق محاسباتی سانی، نابودکردن ویکی نسبت به نجات جان کالوین، اولویت و اهمیت بالاتری دارد. اما اسپونر بر سر سانی فریاد می‌زند که: «کالوین را نجات بده.» سانی خود را بر سر یک دوراهی می‌بیند؛ منطق یا احساس. اما سانی شبیه سایر هم‌نوعان خود نیست؛ سازنده یا به قول خودش، پدرش توانسته احساسات انسانی را به او بیاموزد.

درنهایت داستان با نابودی ویکی توسط بازرس اسپونر و نجات دکتر کالوین توسط سانی پایان می‌یابد. اما سانی نیز به قتل دکتر لنینگ اعتراف می‌کند. سانی در توجیه این کار می‌گوید دکتر لنینگ از او قول گرفته که در حقش لطفی کند، او را وادار کرده قسم بخورد، رازدارش باشد و هدف ساختش را نیز همین موضوع، می‌داند تا نشان‌دهنده یک پیام بزرگ‌تر باشد. پیامی که در اصل همان رسالت و هدف اصلی سانی است؛ این که سانی باتکیه‌بر منطق خود که با درکی از احساسات انسانی ترکیب شده، به‌عنوان یک ماهیت و موجود جدید بتواند راه و مسیرش را خودش پیدا کند، یعنی همان مفهوم آزادی و اراده.

هیجان پیشرفت

این چند سال، زمان خوبی برای هیجان‌زده شدن راجع به ربات‌هاست. هرچند موضوع ساخت و طراحی ربات‌های انسان‌نما، بحث جدیدی نیست و دهه‌ها سابقه دارد، اما در چند سال اخیر، پیشرفت‌های این حوزه فراتر از انتظارت بوده‌اند و هر روز هم شتاب بیشتری به خود می‌گیرند. عملاً دیگر ماه و هفته‌ای نیست که با خبر ساخت و معرفی یک ربات جدید یا افزودن قابلیتی جدید به مدل‌های قبلی، آغاز و پایان نیابد.

غول فناوری، «بوستون داینامیکس» (Boston Dynamics) با ربات انسان‌نمای «اطلس» (Atlas)، شرکت « Figure AI » با سری ربات‌های «Figure» و حتی «ایلان ماسک» و «تسلا» را هم با ربات انسان‌نمای «اوپتیموس» (Optimus) به میدان این بازی کشاندند. در اواخر دهه ۸۰ و دهه ۹۰، طراحی و ساخت ربات انسان‌نمای ایرانی «سورنا» هم در نوع خود تلاش جالبی بود اما صرفا در همان حد یک طرح پژوهشی باقی‌ماند.

یکی از عوامل تسریع این پیشرفت‌ها، بهبودهای اخیر در حوزه هوش مصنوعی به‌ویژه در یادگیری عمیق و یادگیری تقویتی است. کارشناسان مدل‌های زبانی بزرگ و الگوریتم‌های بینایی ماشین پیشرفته نیز می‌توانند به منزله یک «مغز» هوشمندی برای ربات‌های انسان‌نما باشد که به آن‌ها قابلیت‌هایی مثل، حفظ کنترل و تعادل در حرکت، قدرت انجام کارهای فیزیکی سنگین یا ظریف، پردازش دید سه‌بعدی و تعامل صوتی و لمسی را می‌دهد.

جمع‌های فردی

ورود ربات‌های انسان‌نما به زندگی روزمره، از چند جنبه مهم بر جامعه تأثیر خواهد گذاشت. از یک سو، ربات‌های انسان‌نما و تعامل‌گرا می‌توانند برخی نیازهای عملی یا حتی عاطفی انسان را برآورده کنند و حتی در نقش مراقبت از سالمندان یا کودکان با نیازهای ویژه مفید باشند. پژوهش‌های زیادی نیز نشان می‌دهد ربات‌های دارای تعامل اجتماعی، همدل و هم‌آهنگ با احساسات انسان، می‌توانند به بهبود عواطف مثبت انسان کمک کنند. به‌عبارت‌دیگر، در شرایط مناسب یک ربات انسان‌نما قادر است یک همراه عاطفی یا سرگرم‌کننده یا یک نیروی فیزیکی وردست انسان باشد که در محیط‌هایی مثل خانه، بیمارستان، مدرسه یا محیط کار مثمرثمر باشد. هرچند همدلی عاطفی شاید چندان نیازمند حضور فیزیکی یک ربات انسان‌نما نباشد؛ کمااینکه در یک سال اخیر موضوع تبدیل‌شدن چت‌باتی مثل ChatGPT به مشاور عاطفی یا حتی روان‌درمانگر کاربران بسیار موردبحث بوده است.

از سوی دیگر، نگرانی‌هایی هم وجود دارد. تعامل بیش از حد و وابسته‌گونه به موجودات مصنوعی ممکن است مهارت‌های همدلی و ارتباط بین‌انسانی در افراد را کاهش دهد. چنین رفتاری را می‌توان همان پدیده «انزوای اجتماعی» (Social isolation) در نظر گرفت و اگر آن را در مقیاس بزرگ در نظر بگیریم، شاید با بزرگ‌تری بحران اجتماعی در سطح بین‌المللی روبه‌رو باشیم. در این صورت در آینده شاید نه‌چندان دور، دنیایی را خواهیم داشت که در آن، روابط عاطفی و همدلانه «انسان-انسان» جای خود را به روابط «انسان-ماشین» داده‌اند، «فردگرایی» تفکر غالب جامعه شده و دیگر نشان چندانی از «جمع‌گرایی» را نتوان یافت.

تحلیل‌های مؤسسه خدمات مالی آمریکایی «مورگان استنلی» (Morgan Stanley) نیز نشان می‌دهد که روند توسعه هوش مصنوعی در ضمن کمبود نیروی کار انسانی، توسعه سریع ربات‌های انسان‌نما را به همراه خواهد داشت. طبق این تحلیل‌ها، پیش‌بینی می‌شود تا سال ۲۰۴۰ حدود ۸ میلیون ربات انسان‌نما در آمریکا مشغول به کار باشند و این عدد تا سال ۲۰۵۰ به حدود ۶۳ میلیون برسد، به‌طوری‌که حدود ۷۵٪ مشاغل و ۴۰٪ کارکنان تحت‌تأثیر قرار خواهند گرفت و تا ۳ هزار میلیارد دلار بر گردش مالی در چرخه اقتصادی اثر گذاشته خواهد شد.

تصویر آینده‌ای که می‌سازیم

اکنون تنها ۱۰ سال با آن آینده‌ای که سال ۲۰۰۴ تصور می‌شد فاصله داریم. آینده‌ای که در آن هر خانه یک ربات خدمتکار دارد، همه چیز با فرمان‌های صوتی کنترل می‌شود، ربات‌های مشاغل فیزیکی را به عهده دارند، خودرو ها خودران هستند و رانندگی و موتورسواری امری غیرطبیعی است. چنین پیش‌بینی‌هایی در سینما یا کتاب‌ها کم نیستند: اما حداقل در همین دهه جاری میلادی، یعنی از ۲۰۲۰ به این‌طرف، سرعت پیشرفت فناوری به حدی سریع و حتی غیرقابل‌کنترل بوده که این را پذیرفته‌ایم که پیش‌بینی آینده دیگر به‌سادگی چند دهه قبل نیست. شاید فناوری و پیشرفت آن را نتوان پیش‌بینی کرد، اما شاید بتوان بر اساس حدسیات مبتنی بر واقعیات، خود را برای سناریوهای احتمالی آن آماده کنیم.

هر چند تدوین قوانین سخت‌گیرانه و سلسله‌مراتبی، هنوز چندان مرسوم نیست؛ اما در سال‌های اخیر، پژوهشگران و سیاست‌گذاران بین‌المللی بر تضمین شفافیت، پاسخگویی و اولویت حقوق بنیادین انسان در پیشرفت‌های فناورانه تأکید کرده‌اند. از همین رو «سازمان جهانی یونسکو» در سال ۲۰۱۱، توصیه‌نامه جهانی اخلاق هوش مصنوعی (Ethics of Artificial Intelligence, The Recommendation) را منتشر کرد و در آن صراحتاً «حفاظت از حقوق و کرامت انسان» را اساس سیاست‌های اخلاقی هوش مصنوعی دانست. بدین معنی که هر تصمیم یا رفتار هوشمندانه یک هوش مصنوعی باید در خدمت منافع انسانی و ارزش‌های انسانی طراحی شود، نه اینکه خود را جایگزین یا ناظر بالاتر بر انسان بداند. به طور خلاصه، در دنیای واقعی تلاش بر آن است که ابزارهای هوش مصنوعی تحت کنترل انسانی باقی بمانند و منافع انسانی را اولویت دهند؛ نه اینکه الگوریتمی مانند «ویکی» خودسرانه تصمیم بگیرد و قضاوت کند چه کسانی «شایسته بقا» هستند.