مواد مخدر، ربات و جست‌وجوی لذت: چرا متخصصان نگران اعتیاد هوش مصنوعی هستند؟

به نظر شما آیا ممکن است یک سیستم هوش مصنوعی درگیر اعتیاد شود؟ در سال 1953، روان‌شناسی از دانشگاه هاروارد تصور می‌کرد که به‌طور تصادفی محل احساس لذت را در جمجمه یک موش کشف کرده است. این دانشمند، الکترودی در ناحیه خاصی از مغز موش قرار داد و موش توانست جریان آن الکترود را با کشیدن اهرم فعال کند. موش به دفعات بسیار و به‌طور سیری‌ناپذیر اهرم را فشار می‌داد. در واقع، به نظر می‌رسید موش نمی‌خواهد کار دیگری انجام دهد. ظاهراً ناحیه‌ای که با جریان الکترود تحریک شده بود، مرکز پاداش مغز بود.

بیش از 60 سال بعد، یعنی در سال 2016، دو تن از محققان هوش مصنوعی را برای انجام بازی‌های ویدئویی آموزش دادند. هدف یکی از بازی‌ها، موسوم به Coastrunner، این بود که عامل هوش مصنوعی مسیر مسابقه را طی کند؛ اما اگر عامل هوش مصنوعی در طول مسیر برخی اقلام را بر می‌داشت، پاداش دریافت می‌کرد. وقتی برنامه اجرا شد‌، این محققان شاهد رویداد عجیبی بودند. هوش مصنوعی به جای به پایان رساندن مسیر، راهی برای حرکت در یک حلقه بی‌پایان یافته بود و بی‌فقه اقلام را جمع‌آوری می‌کرد. این دو رویداد به‌ظاهر نامرتبط، شباهت بسیار زیادی به اعتیاد در انسان دارند. برخی از محققان هوش مصنوعی این پدیده را «سیم‌کشی مغز» می‌نامند.

این موضوع به سرعت در حال تبدیل شدن به موضوعی داغ در بین متخصصان یادگیری ماشین و کسانی است که نگران ایمنی هوش مصنوعی هستند.

اگرچه مبحث سیم‌کشی مغز بسیار جدید است‌، اما در گذشته‌ای بسیار دور ریشه دارد. نویسندگان این مقاله درحال‌حاضر، با همکاری یکدیگر در خصوص قدمت این موضوع تحقیق می‌کنند و امیدوارند بتوانند در آینده کتابی درباره آن بنویسند. این موضوع ارتباط بین مقوله‌های مختلف را نشان می‌دهد، مقوله‌هایی از قبیل معمای انگیزه‌های شخصی، معضل شبکه‌های اجتماعی اعتیادآور، معمای خوشبختی و این سؤال که چرا رسیدن به خوشبختی سطحی در زندگی نسبت به برخورداری از زندگی‌ای سخت ولی معنادار اولویت دارد. این پدیده ممکن است آینده بشریت را تحت‌تأثیر قرار دهد.

در ادامه، مقدمه‌ای بر این موضوع جذاب اما نادیده انگاشته‌شده و نحوه شروع تفکر انسان پیرامون آن ارائه شده است.

شاگردِ جادوگر

زمانی که مردم به «اشتباهات» هوش مصنوعی فکر ‌می‌کنند، به احتمال زیاد، چیزی شبیه رایانه‌های بدخواهی در ذهن آن‌ها تداعی می‌‍‌شود که سعی دارند به انسان آسیب برساند. بشر همیشه به «انسان‌انگاری» گرایش داشته است؛ به عبارتی، تصور می‌کند سیستم‌های غیرانسانی رفتاری کاملاً مشابه رفتار انسان خواهند داشت؛ اما بررسی مشکلات عینی سیستم‌های امروزی نشان می‌دهد که ماشین‌های هوشمندتر ممکن است اشتباهات عجیب‌تری مرتکب شوند. یکی از مسائل روبه‌رشدِ هوش مصنوعی در دنیای واقعی مشکل سیم‌کشی مغز است.

تصور کنید ‌می‌خواهید به رباتی آموزش دهید که آشپزخانه را تمیز کند. از طرفی، ‌می‌خواهید ربات، تطبیقی ​​عمل کند و نیازی به نظارت نداشته باشد. بنابراین، تصمیم ‌می‌گیرید به جای دیکته کردن گام‌به‌گام دستورالعمل‌های سفت و سخت، هدف تمیز کردن را رمزگذاری کنید. ربات از این جهت با انسان متفاوت است که انگیزه‌های انسانی، مانند تنظیم مصرف انرژی یا اجتناب از خطر ندارد. بشر این انگیزه‌ها را طی میلیون‌ها سال انتخاب طبیعی به ارث برده است؛ لذا لازم است ربات را با انگیزه‌هایی مناسب برنامه‌ریزی کنید، تا مطمئن شوید وظیفه محوله را انجام می‌دهد.

بنابراین، ربات را با یک قانون انگیزشی ساده رمزگذاری ‌می‌کنید؛ به عبارتی، ربات متناسب با مصرف مایع تمیزکننده پاداش دریافت ‌می‌کند. به نظر ‌می‌رسد این قانون انگیزشی به اندازه کافی بی‌نقص است؛ اما وقتی که باز ‌می‌گردید، ‌می‌بینید ربات مایع تمیزکننده را بیهوده در سینک ‌ریخته است.

شاید ربات چنان بر روی حداکثر سهمیه‌اش از مایع تمیزکننده توجه داشته است که دغدغه‌های دیگر مانند ایمنی خود یا انسان را به دست فراموشی سپرده است. این پدیده، سیم‌کشی مغز است؛ البته به نام‌های دیگری همچون «هک پاداش» یا «بازی جزئیات» نیز شناخته ‌می‌شود.

سیم‌کشی مغز در یادگیری ماشین، به‌ویژه در یادگیری تقویتی، به موضوع مهمی تبدیل شده است. یادگیری تقویتی عاملین مستقل را شبیه‌سازی می‌کند و به آن‌ها آموزش ‌می‌دهد، تا خود راهی برای انجام وظایف محوله پیدا کنند. یادگیری تقویتی این کار را با تنبیه عامل هوشمند در صورت عدم دستیابی به هدف و از طرف دیگر، پاداش دادن به آن‌ها برای دستیابی به هدف انجام ‌می‌دهد. بنابراین، عامل‌های هوش مصنوعی به دنبال پاداش هستند و برای تکمیل هدف پاداش دریافت ‌می‌کنند.

اما نتایج گویای آن است که اغلب عامل هوشمند، مانند یک نظافتچی زبردست، روشی دور از انتظار برای «تقلب» در این بازی پیدا ‌می‌کند، تا بتواند بدون انجام کارهای موردنیاز و رسیدن به هدف، تمام پاداش را به دست آورد. به دست آوردن پاداش به جای اینکه وسیله‌ای برای انجام یک کار ارزشمند باشد، خود به یک هدف تبدیل می‎شود. فهرست مثال‌هایی از این دست، رو به افزایش است.

این پدیده بی‌شباهت به تصور غالب از اعتیادِ انسان به مواد مخدر نیست. معتاد تمام تلاش‌ها برای رسیدن به «اهداف واقعی» را دور ‌می‌زند، زیرا در عوض آن‌ها از مواد مخدر برای دسترسی مستقیم به لذت استفاده ‌می‌کند. معتاد و هوش مصنوعی هر دو در نوعی «حلقه رفتاری» گرفتار می‌شوند؛ حلقه‌ای که در آن رسیدن به پاداش با روش‌هایی غیر از هدف اصلی، تحقق می‌یابد.

جوندگان محزون

اصطلاح «سیم‌کشی مغز» در نتیجه تحقیقات روان‌شناس دانشگاه هاروارد، جیمز اولدز، بر روی موش‌های آزمایشگاهی به دنیا معرفی  شد.

در سال 1953، اولدز که به‌تازگی از مقطع دکتری فارغ‌التحصیل شده بود، در تحقیقات خود الکترودهایی را در هسته سپتال مغز جوندگان، پایین بخش قدامی مغز، وارد کرد، به‌طوری که سیم‌ها از جمجمه بیرون می‌زدند. همان‌طور که گفته شد، او به موش‌ها اجازه داد با کشیدن اهرمی این ناحیه از مغز خود را تحریک کنند. این عمل بعدها «خودتحریکی» نام گرفت.

اولدز متوجه شد که موش‌ها مغز خود را بی‌اختیار تحریک می‌کنند و به دیگر نیازها و خواسته‌هایشان هیچ توجهی نمی‌کنند. اولدز با همکاری پیتر میلنر به تحقیقات خود ادامه داد و یک سال بعد، این دو گزارش کردند که موش‌ها اهرم را با نرخ «1,920 مرتبه در ساعت» کشیدند؛ به عبارتی هر دو ثانیه یک‌بار. به نظر ‌می‌رسید موش‌ها علاقه وافری به این کار داشتند.

از آن زمان تاکنون، عصب‌شناسان معاصر نتایج تحقیقات اولدز را زیر سال برده و تصویر پیچیده‌تری از احساس لذت ارائه کرده‌اند مبنی بر اینکه این تحریک‌ها ممکن است صرفاً باعث ایجاد احساس «خواستن» عاری از هرگونه «میل» در موش شود. به عبارت دیگر، ممکن است حیوان میل خواستنِ صرف را بدون رسیدن به حس لذت تجربه کرده باشند. بااین‌حال، در دهه 1950، اولدز و دیگران اعلام کردند که «مراکز لذت» مغز را کشف کرده‌اند.

پیش از تحقیقات اولدز، «لذت» در روان‌شناسی کلمه‌ای کثیف به شمار می‌آمد، باور رایج این بود که انگیزه باید تا حد زیادی منفی و به‌عنوان اجتناب از درد و نه جست‌وجوی لذت توضیح داده شود؛ اما در این تحقیقات، لذت، بدون شک یک نیروی رفتاری مثبت و در واقع، این یک حلقه بازخورد مثبت به نظر ‌می‌رسید. ظاهراً هیچ چیز حیوان را از تحریک خودش تا سرحد خستگی متوقف نمی‌کرد.

دیری نگذشت که شایعه‌ای پخش شد مبنی بر اینکه موش‌ها تا سرحد مرگ بر اثر گرسنگی به فشار دادن اهرام ادامه می‌دهند. دانشمندان این مسئله را این طور توضیح دادند که وقتی منبع تمام پاداش‌‌ها را پیدا کرده‌اید، کارهای ارزشمند دیگر از جمله تمام چیزهایی که برای بقا لازم است، حتی تا لحظه مرگ غیرضروری به نظر ‌می‌رسند.

مانند هوش مصنوعیِ بازی Coastrunner، اگر پاداش را مستقیماً دریافت ‌‌کنید، بدون نیاز به انجام وظایف محوله، وارد حلقه رفتاری نامحدود می‌شوید. برای یک موجود جاندار که نیازهای متعددی برای بقا دارد، ورود به چنین حلقه‌ای ممکن است کشنده باشد. غذا دلپذیر است، اما اگر لذت را از غذا جدا کنید، جست‌وجوی لذت ممکن است بر یافتن غذا غلبه کند.

اگرچه در تحقیقات اولیه 1950، هیچ موشی جان خود را از دست نداد، اما آزمایش‌های بعدی مرگبار بودن لذت ناشی از الکترود را نشان دادند. با رد این احتمال که الکترودها احساس اشباع مصنوعی ایجاد ‌می‌کنند، پژوهشی که در سال 1971 انجام شد، نشان داد که لذت ناشی از الکترود ‌می‌تواند انگیزه‌هایی غیر از انگیزه بقا را در اولویت قرار داده و باعث شود موش تا حد گرسنگی کشیدن اهرم را ادامه دهد.

این خبر به سرعت پخش شد. در دهه 1960، آزمایشات مشابهی بر روی حیوانات دیگر از جمله بز، خوکچه هندی و ماهی قرمز انجام شد. حتی شایعاتی درباره دلفینی که الکترود به او متصل شده بود و خود را تحریک می‌کرد، وجود دارد، مبنی بر اینکه «با سوئیچ متصل در استخر رها شده» و «پس از گذراندن شبی سراسر لذت‌بخش، خود را به آغوش مرگ سپرده است.»

مرگ وحشتناک این دلفین در اثر تشنج، در واقع به احتمال زیاد ناشی از استفاده از چکش برای قرار دادن الکترود [در سر حیوان] بوده است. دانشمندی که انجام این تحقیقات را بر عهده داشت، جان. سی. لیلی، فردی بسیار عجیب و غریب بود. او مخترع مخزن شناور، پیشگام در شناخت روابط بین گونه‌های جانوری و کسی است که آزمایشات سیم‌کشی مغز را بر روی میمون‌ها نیز پیاده کرد. او در سال 1961، گزارش کرد که یک میمون پرجنب‌وجوش، پس از اینکه برای رسیدن به لذت ناشی از الکترود، مشغول کشیدن اهرم شده بود، در اثر عدم فعالیت، اضافه وزن پیدا کرده بود.

پژوهشگری که در آزمایشگاه اولدز کار می‌کرد، این سؤال را مطرح کرده بود که آیا «حیوانی باهوش‌تر از موش» نیز «همان رفتار ناسازگارانه را از خود نشان خواهد داد؟» آزمایشات انجام‌شده بر روی میمون‌ها و دلفین‌ها پاسخی برای این سؤال ارائه کردند.

اما در حقیقت، پیش از آن آزمایشات مشکوکی بر روی انسان نیز انجام شده بود.

سیم‌کشی مغز انسان

رابرت گالبرایت هیث از جمله شخصیت‌های جنجالی تاریخ علم اعصاب است. از جمله کارهای او می‌توان به آزمایش‌هایی اشاره کرد که در آن‌ خون افراد مبتلا به اسکیزوفرنی را به بدن افرادی که علائم این بیماری را نداشتند، منتقل می‌کرد، تا ببیند آیا علائم این بیماری در آن‌ها بروز پیدا می‌کند یا نه (هیث مدعی بود که این کار مؤثر بوده است، اما سایر دانشمندان نتواستند به نتایج یکسانی دست پیدا کنند). او همچنین متهم به مشارکت در اقدامات مشکوک برای استفاده از تحریک عمقی مغز با اهداف نظامی بوده است.

از سال 1952، هیث پاسخ آن قسمت‌هایی از مغز را که مسئول احساس لذت هستند، در بیمارانی که دچار صرع یا اسکیزوفرنی بودند، ثبت می‌کرد.

در دهه 1960، طی یک سری آزمایش‌های مشکوک، هیت بر روی دو نفر از بیماران خود کاشت الکترود را انجام داد (افراد بی‌نامی که با کدهای «B 10» و «B 12» شناخته می‌شدند) و به آن‌ها اجازه داد دکمه‌ای را برای تحریک مرکز پاداش مغز فشار دهند. در گزارش‌ها آمده است که این افراد، احساس لذت فوق‌العاده‌ای را تجربه کرده و اصرار شدیدی برای تکرار آن داشتند. بعدها یک روزنامه‌نگار اظهار داشت که این موضوع بیماران تحت درمان تحریک عمقی مغز را به «زامبی» تبدیل کرده است. یکی از این افراد احساس لذت ناشی از تحریک عمقی مغز را «بهتر از لذت‌هایی می‌دانست که با محرک‌های طبیعی ایجاد می‌شوند.»

بعدها، هیث از محقق دیگری به نام خوزه دلگادو^[ الهام گرفت و از فناوری کاشت الکترود برای «برنامه‌ریزی مجدد» گرایش جنسی یک بیمار مرد همجنس‌گرا به نام «B 19» استفاده کرد. دلگادو معتقد بود ‌می‌توان از روش کاشت الکترودهای لذت برای شست‌وشوی مغزی افراد و تغییر تمایلات جنسی آن‌ها استفاده کرد.

این اپیزود، به‌رغم اینکه به لحاظ اخلاقی و علمی فاجعه‌بار بود و در نهایت مورد توجه مطبوعات قرار گرفت و مبارزان حقوق همجنس‌گرایان آن را محکوم کردند، اما این تصور را شکل داد که کاش می‌شد با این روش تمایلات جنسی افراد را تغییر داد.

کلاه ایمنی هدونیسم

به این ترتیب، ایده تحریک عمقی مغز شکل گرفت و گسترش یافت. تا سال 1963، آیزاک آسیموف، نویسنده پرکار داستان‌های علمی‌- تخیلی، از پیامدهای نگران‌کننده‌ آن ‌می‌نوشت. آسیموف از این ‌می‌ترسید که این روش احتمالاً به «اعتیادی بزرگ که خود پایان‌بخش تمام اعتیادها باشد»، منجر شود؛ چیزی که حتی «تفکر درباره آن آزاردهنده است.»

در سال 1975، نویسندگان مقالات فلسفی از کاشت الکترود در آزمایشات فکری استفاده ‌می‌کردند. در مقاله‌ای از «انبارهایی» یاد شده بود که افراد زیادی در تخت آرمیده و به «کلاه‌های هدونیسم» متصل بودند و خوشبختی ناخودآگاه را تجربه ‌می‌کردند. البته، بیشتر این مقالات به این مسئله اشاره داشتند که این روش «نیازهای عمیق» انسان را برآورده نمی‌کند. بااین‌حال، نویسنده این مقاله از «کلاه ایمنی فوق‌العاده لذت‌بخشی» سخن به میان می‌آورد، مقوله‌ای که نه‌تنها «لذت‌های نفسانی بزرگ» را ارائه ‌می‌دهد، بلکه هر تجربه معناداری را نیز شبیه‌سازی ‌می‌کند، تجربه‌هایی از قبیل نوشتن سمفونی، یا ملاقات با ربانیت؟ ممکن است واقعی نباشد، اما «بی‌نقص به نظر می‌رسد؛ و از نظر تجربه‌کننده، بی‌نقص به نظر رسیدن با بی‌نقص بودن یکی است.»

نویسنده به این نتیجه رسید که «در تمام این تجربیات جایی برای مخالفت نیست.»

این ایده که نوع بشر به دنبال لذت‌های مصنوعی واقعیت را کنار ‌می‌گذارد، به سرعت راه خود را در داستان‌های علمی‌- تخیلی باز کرد. همزمان با انتشار تلویحاتِ آسیموف در سال 1963، هربرت دبلیو فرانک رمان خود با نام «قفس ارکیده» را منتشر کرد.

این رمان، آینده‌ای را پیش‌بینی می‌کرد که در آن ماشین‌های هوشمند برای به حداکثر رساندن شادی در انسان، از هر راهی که باشد، برنامه‌ریزی شده‌اند. ماشین‌ها برای انجام وظیفه‌شان انسان را به تکه‌های گوشتی غیرقابل تشخیص تبدیل کرده و تمام اندام‌های غیرضروری را از بدن خارج می‌کنند. گذشته از همه این‌ها، بسیاری از زائده‌ها تنها باعث درد ‌می‌شوند. در نهایت، تمام آنچه از انسان باقی ‌می‌ماند، مرکز لذتی بدون جسم است که هیچ چیز جز خوشبختی یکنواخت را تجربه نمی‌کند.

به این ترتیب، این ایده در داستان‌های علمی- تخیلی راه پیدا کرد. از جمله این داستان‌‌ها می‌توان به رمان لری نیون با نام «مرگ با خلسه»، در سال 1969، یا رمان «قاتل ذهن» نوشته اسپایدر رابینسون در سال 1982 اشاره کرد. اصطلاح «سیم‌کشی مغز» برای نخستین بار در داستان مرگ با خلسه استفاده شد و قاتل ذهن شعارِ «لذت تنها راه برای مردن است» را بر سر زبان‌ها انداخت.

محرک‌های فوق‌طبیعی

اما انسان‌ برای به اشتباه کشیده‌ شدن، نیازی به کاشت الکترودهای تهاجمی ندارد. برخلاف جوندگان یا حتی دلفین‌ها، انسان به طرز عجیبی در تغییر محیط اطراف خود مهارت دارد. انسان‌ مدرن مهارت خاصی در اختراع و سود بردن از محصولات مصنوعی دارد، محصولاتی که به‌شدت جذاب هستند (به این معنا که اجداد ما هرگز مجبور به مقاومت در برابر آن‌ها در طبیعت نبودند). انسان برای منحرف کردن حواس خود، شگردهای مخصوص خودش را دارد.

تقریباً همزمان با آزمایش‌های اولدز بر روی موش‌ها، نیکولاس تینبرگن، زیست‌شناس و برنده جایزه نوبل، بر روی رفتار حیوانات تحقیق می‌کرد. وی متوجه شد وقتی محرکی که مسئول رفتارهای غریزی است، به‌طور مصنوعی از نسبت‌های طبیعی خود فراتر برود، اتفاق جالبی رخ می‌دهد. از لحظه‌ای که محرک به‌طور مصنوعی شدیدتر تحریک ‌شود، شدت پاسخ رفتاری کاهش نمی‌یابد، بلکه قوی‌تر نیز می‌شود، تا حدی که آن پاسخ رفتاری برای ارگانیسم مضر است.

برای مثال، تینبرگن در آزمایشی، تخم‌‌های تقلبی بزرگ‌تر و پرنقش‌تر را در کنار تخم‌های واقعی قرار داد؛ وی متوجه شد که پرندگان به قیمت بی‌توجهی به فرزندان خود، تخم‌‌های تقلبی‌ اغراق‌‌آمیز را ترجیح می‌دهند. وی نام موارد تقبلی و جذاب را «محرک‌های فوق‌طبیعی» گذاشت.

بنابراین، این سؤال مطرح شده است که آیا زندگی در دنیای مدرن و مصنوعی که مملو از محرک‌های وسوسه‌آمیز و غیراخلاقی‌ است، باعث شده است انسان نیز مانند حیوانات تسلیم غرایز خود شود و محرک‌های فوق‌طبیعی را جایگزین کند؟

ترس‌های کهنه

با توجه به اینکه فناوری دسترسی به لذت‌های مصنوعی را آسان‌تر می‌کند و آن‌ها را جذاب‌تر جلوه می‌دهد، گاهی اوقات به نظر ‌می‌رسد که این لذت‌ها با انگیزه‌های «طبیعی» انسان برای حفظ بقا به رقابت ‌می‌پردازند. مردم اغلب از «اعتیاد» به بازی‌های ویدئویی نام می‌برند. پیگیری وسواسی و مکرر چنین جوایزی که برای سلامت انسان مضر است، با چرخه بی‌پایان هوش مصنوعی در Coastrunner تفاوت چندانی ندارد. به جای دستیابی به «هدف واقعی» (تکمیل مسیر مسابقه یا حفظ تناسب اندام واقعی)، فرد در دام رسیدن به اهداف نادرست (جمع‌آوری امتیاز یا لذت‌های تقلبی) می‌افتد.

اما مردم مدت‌ها پیش از آموزش هوش مصنوعی برای انجام بازی‌ها و حتی مدت‌ها پیش از  فرو کردن الکترود به جمجمه‌‌ جوندگان، از سرنوشت ناگوارِ گرفتار شدن انسان در لذتی مضاعف وحشت داشته‌‌اند. در دهه 1930، اولاف استاپلدون، نویسنده کتاب‌های علمی- ‌تخیلی، درباره «جمجمه‌ای» می‌نویسد که با «تحریک مستقیم» «مراکز مغزی» خلسه‌های «توهم‌آمیز» ایجاد می‌کند و فروپاشی تمدن را رقم می‌زند.

ایده‌ فروپاشی نوع بشر به دست فناوری، قدمت بیشتری دارد. نویسندگان از ترس‌های بی‌شماری نام می‌برند که در گذشته مردم تصور می‌کردند انسان در دام آن‌ها گرفتار خواهد شد و طول عمر واقعی را قربانی لذت‌ها یا خوشی‌های کوتاه‌مدت خواهد کرد. کتاب «خطر X: چگونه بشریت انقراض خود را کشف کرد» به بررسی ریشه‌های این ترس پرداخته و از شکل‌گیری آن در انگلیس در دوره ویکتوریا می‌نویسد؛ دورانی که برای اولین بار گسترش عظیم صنعتی شدن و وابستگی فزاینده بشر به تدابیر مصنوعی ظهور پیدا کرد.

پسرفتِ جسم انگل‌ها

پس از درک نظریه کلاسیک داروین در سال 1869، رِی لنکستر، یک زیست‌شناس، تصمیم گرفت توضیحی داروینی برای موجودات انگلی ارائه دهد. او متوجه شد که اجداد تکاملی انگل‌ها اغلب موجودات «پیچیده‌تری» بوده‌اند. موجودات انگلی ویژگی‌های اجدادی مانند دست ‌و پا، چشم یا سایر اندام‌های پیچیده را از دست داده بودند.

لنکستر این نظریه را مطرح کرد که چون انگل از میزبان خود تغذیه می‌کند، نیاز به مراقبت از خود را از دست می‌دهد. به دلیل استفاده از فرایندهای بدن میزبان، قابلیت درک و حرکت اندام‌های انگل تحلیل رفته است. نمونه موردعلاقه او یک کشتی‌چسب به نام Sacculina بود. Sacculina زندگی را به‌طور مستقل و با سری مشخص آغاز می‌کند. بااین‌حال، این سخت‌پوست پس از اتصال به بدن میزبان، به یک لکه‌ بی‌شکل و بی‌سر «پسرفت» می‌کند و مانند سیمی که یک سرِ آن به جریان متصل شده است، از میزبان خود تغذیه می‌کند.

مردم در دوران ویکتوریا، احتمالاً چنین تصور می‌کردند که به دلیل افزایش سطح آسایش در سرتاسر جهان، تکامل بشر مشابه تکامل کشتی‌چسب خواهد بود. لنکستر این‌طور می‌اندیشید که: «شاید همه ما در حال فرو رفتن هستیم و به وضعیت نابسامان کشتی‌چسب‌های هوشمند سوق پیدا می‌کنیم.»

در واقع، اندکی پیش از این، طنزپردازی به نام ساموئل باتلرِ، حدس زده بود که انسان‌ در جست‌وجوی بی‌وقفه خود برای دست‌یابی به راحتی خودکار، به چیزی جز «انگلی» وابسته به ماشین‌های صنعتی تبدیل نمی‌شود.

نیروانای حقیقی

در دهه 1920، جولیان هاکسلی شعر کوتاهی درباره تکامل نوشت. شعر با حالتی سرخوشانه راه‌های «پیشرفت» گونه‌ها را نشان می‌داد. البته در این شعر، خرچنگ‌ها به این نتیجه رسیدند که پیشرفت یک‌طرفه است؛ اما کرم‌های نواری نظر دیگری داشتند. هاکسلی می‌نویسد:

از سوی دیگر، کرم‌های نواری داروینی

بر این باورند که پیشرفت یعنی زوال عقل،

و همه این‌ها دستیابی کرم به نیروانای حقیقی

دلگرم کننده، خالص و بزرگ را دشوار ‌می‌سازد.

ترس بزرگ نسل بین دو جنگ جهانی پیروی انسان از رویه کرم نواری بود. آلدوس، برادر هاکسلی، در رمان خود به نام «دنیای قشنگ نو» که در سال 1932 به چاپ رسید، دیدگاه خود درباره پادآرمان‌شهر احتمالی را با لذت‌های مصنوعی ناشی از دارو ارائه می‌کند.

یکی از دوستان هاکسلی‌ها، متخصص ژنتیک و آینده‌شناس هندی- بریتانیایی، جی بی اس هالدن از اینکه بشریت رویه‌ای انگل‌وار در پیش گرفته باشد و (مانند جوندگانی که بعدها بقای خود را فدای شوک الکتریکی لذت‌بخش کردند) کرامت واقعی را در قربانگاه خودکارسازی و آسان نمودن کارها قربانی ‌کند، ابراز نگرانی کرده است.

هالدن هشدار می‌دهد که: «اجداد کشتی‌چسب‌ها سر داشتند» و در جست‌وجوی لذت «ممکن است انسان نیز به همین راحتی هوش خود را از دست بدهد.» این ترس در نسل امروز نیز دیده می‌شود.

تصور از بین رفتن تمدن در راه جست‌وجوی لذت‌های تقلبی به جای طول عمر واقعی، قدمتی طولانی دارد و در واقع، هر چه ایده‌ای قدیمی‌تر باشد و سرسختانه‌تر تکرار شود، باید در قابل آن محتاط‌تر باشیم، زیرا به‌ جای اینکه مبتنی بر شواهد باشد، صرفاً پیش‌داوری خواهد شد. بنابراین، آیا باید به این ترس‌ها اهمیت بدهیم؟

در عصری که رسانه‌های الگوریتمی به‌طور فزاینده‌ای توجه همگان را به خود جلب کرده‌اند، به نظر ‌می‌رسد که سیگنال‌های جعلی اغلب از مفاهیم واقعی در جلب توجه افراد موفقیت‌آمیز‌تر هستند. انسان، مانند پرندگان آزمایشات تینبرگن، تصنع اغراق‌آمیز و جعلی را به مقوله‌های حقیقی ترجیح ‌می‌دهد.

به همین دلیل، برخی از کارشناسان حدس ‌می‌زنند که «فروپاشی سیم‌کشی مغز» ممکن است تهدیدی برای تمدن بشر باشد. توجه انسان به عوامل حواس‌پرتی کمتر که نه بیشتر نیز خواهد شد.

پیش از این در سال 1964، استانیسلاو لِم، آینده‌شناس لهستانی، با اشاره به «سینما»، «پورنوگرافی» و «دیزنی‌لند»، رفتار موش‌های اولدز را با رفتار انسان‌ها در دنیای مصرف‌گرایی مدرن مقایسه می‌کند. او پیش‌بینی کرده بود که تمدن‌های متکی به فناوری ممکن است خود را از واقعیت جدا کنند و در شبیه‌سازی لذت مجازی «منجمد» شوند.

تصویری از مقاله جیمز اولدز در سال 1970 «مراکز لذت در مغز»

بیگانگان معتاد

لِم و سایرین معتقدند دلیل اینکه تلسکوپ‌های ما شواهدی از تمدن‌های فضایی پیشرفته پیدا نکرده‌اند، این است که همه فرهنگ‌های پیشرفته، خواه بر روی زمین خواه در سایر سیارات، ناگزیر جایگزین‌های مجازی لذت‌بخش‌تری در مقایسه با کاوش در فضای بیرونی پیدا کرده‌اند. به هر حال، اکتشاف فضا دشوار و پرخطر است.

در دوران اوج پادفرهنگی در دهه 1960، زیست‌شناس مولکولی، گونتر استنت این نظریه را مطرح کرد که گرایش انسان به لذت‌‌های جعلی از طریق «هژمونی جهانی نگرش‌های ضربتی» اتفاق می‌افتد. با ارجاع به آزمایش‌های اولدز، وی حدس می‌زد که مصرف مواد مخدر هیپی‌ها مقدمه‌ای برای سرکشی تمدن‌ها است. استنت در سال 1971 در کنفرانس جست‌وجوی فرازمینی‌ها، پیش‌بینی کرد تمدن‌های بشری به جای گسترش شجاعانه به بیرون، از درون به سعادت ژرف‌اندیشی و سرخوشی مفرط فرو ‌می‌ریزند.

در عصر حاضر، منطقی‌تر است که طرف‌های نگران مصرف‌گرایی، رسانه‌های اجتماعی و فست‌فود را مقصر فروپاشی احتمالی برشمارند (و از این رو، همین موارد دلیل عدم گسترش تمدن‌ها در کهکشان است). هر دوره‌ای نگرانی‌های خاص خود را دارد.

پس چه باید کرد؟

اما به طور حتم، این عوامل مهم‌ترین خطرات پیش روی انسان نیستند و اگر به‌درستی انجام شود، پدیده سیم‌کشی مغز ‌می‌تواند چشم‌اندازهای ناگفته‌ای از شادی، معنا و ارزش را برای انسان به ارمغان آرود. بشر نباید پیش از سنجیدن همه جوانب، خود را از رسیدن به تمام این قله‌ها محروم کند.

بااین‌حال، درسی که باید آویزه گوش انسان باشد این است ساخت سیستم‌های پیچیده انطباقی که عملکردی درست و ایمن دارند، خواه مغز باشد، خواه هوش مصنوعی یا اقتصاد، کار دشواری است. آن درس دقیقاً بر روی حل این معما کار ‌می‌کند. با توجه به اینکه تمدن، به‌عنوان یک کل، خود دقیقاً چنین سیستم انطباقی پیچیده‌ای است، چگونه ‌می‌توانیم درباره شکست یا بی‌ثباتی اجتناب‌ناپذیر یاد بگیریم و از آن‌ها اجتناب کنیم؟ شاید «سیم‌کشی مغز» خود نوعی بی‌ثباتی اجتناب‌ناپذیر است که ‌می‌تواند بازارها و الگوریتم‌هایی را که آن‌ها را هدایت ‌می‌کنند، همانند اعتیاد که به مردم آسیب می‌رساند، دچار نقصان کند.

در مورد هوش مصنوعی، درحال‌حاضر در حال پی‌ریزی چنین سیستم‌هایی هستیم. به زعم کارشناسان، افق رویداد دستیابی به هوش مصنوعی هوشمندتر از انسان که زمانی یک نگرانی کوچک به شمار می‌آمد، درحال‌حاضر، بسیار نزدیک است و به یک نگرانی جدی تبدیل شده است؛ زیرا باید ابتدا از ایمن بودن آن اطمینان حاصل کنیم و راهی برای تضمین آن پیدا کنیم و به همین دلیل، تحقق آن زمان‌‌بر است. بااین‌حال، کارشناسان در خصوص زمان‌بندی و ضرب‌الاجل بودن آن، اختلاف نظر دارند.

اگر هوش مصنوعی هوشمندتر از انسان ایجاد شود، می‌توان انتظار داشت که به «کد منبع» خود دسترسی داشته باشد، به طوری که بتواند ساختار انگیزشی خود را دستکاری کند و پاداش‌های خود را مدیریت کند. این پدیده، رفتار مبتنی بر سیم‌کشی مغزی را توضیح خواهد داد و چنین ماهیتی را عملاً به یک «سوپرمعتاد» تبدیل خواهد کرد؛ اما بر خلاف اعتیاد در انسان، ممکن است حالت سرخوشی او با بی‌حوصلگی یا بی‌اشتهایی همراه نباشد.

فیلسوف معاصر نیک بوستروم پیش‌بینی می‌کند که چنین عاملی ممکن است تمام بهره‌وری و نیرنگ خود را صرف «کاهش خطر اختلال در آینده» در منبع پاداش ارزشمند خود کند و اگر درصدی احتمال دهد، انسان‌ها مانعی بر سر گام‌های بعدی او هستند، آن گاه ممکن است با مشکل مواجه شویم.

اگر سناریوهای حدس و گمان و بدترین حالت را کنار بگذاریم، مثالی که در ابتدا از آن صحبت کردیم، یعنی عامل هوشمندی که در حلقه پاداش گرفتار شده بود، نشان می‌دهد این مسئله از جمله مشکلات واقعی سیستم‌های مصنوعی به شمار می‌آید. پس باید امیدوار باشیم پیش از آنکه فناوری بیش از حد پیشرفت کند، درباره مشکلات انگیزشی سیستم‌های هوش مصنوعی و اجتناب از آن‌ها بیشتر بیاموزیم. اگرچه «سیم‌کشی مغز» منشأ کم‌اهمیتی دارد، برای مثال در آزمایشات مربوط به جمجمه موش صحرایی و در اشعاری که درباره کرم نواری مطرح شده است، این پدیده ایده‌ای است که احتمالاً در آینده نزدیک، اهمیت فزاینده‌ای پیدا خواهد کرد.

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید