توهم آگاهی هوش مصنوعی

آگاهی ذاتاً یک ویژگی زیستی و منحصر به مغز است و همین امر امکان آگاهی در هوش مصنوعی را منتفی می‌کند. در مقابل، گروهی دیگر بر این باورند که آگاهی تنها به دست‌کاری و پردازش اطلاعات توسط یک الگوریتم وابسته است؛ فارغ از اینکه این محاسبات توسط نورون‌ها، تراشه‌های سیلیکونی یا هر بستر فیزیکی دیگری انجام شوند. این دیدگاه به «کارکردگرایی محاسباتی» (Computational Functionalism) مشهور است.

شاخص آگاهی

در گزارش حاضر که در نسخه September 11th 2025 نشریه Science منتشر شده، تلاش نمی‌شود پاسخی قطعی درباره امکان آگاهی هوش مصنوعی ارائه شود؛ بلکه دو پرسش مرتبط بررسی می‌شوند. نخست اینکه باورهای جامعه علمی و افکار عمومی درباره آگاهی در هوش مصنوعی با پیشرفت این فناوری چگونه تغییر خواهند کرد. دوم اینکه نسبت داده جایگاه اخلاقی و غریزه طبیعی حفظ بقا که معمولاً به موجودات آگاه نسبت داده می‌شود، به سامانه‌های هوش مصنوعی آینده منجر به چه خطراتی را خواهد شد.

کارکردگرایی محاسباتی می‌تواند پیامدهای ژرفی برای هوش مصنوعی داشته باشد. هرچه این حوزه پیشرفته‌تر شود و سامانه‌ها سازوکارهای پیچیده‌تری از شناخت انسانی را بازتولید کنند، احتمال دارد به کارکردهای لازم برای آگاهی نیز دست یابند. هرچند ممکن است علم در آینده کارکردگرایی محاسباتی را رد کرده و تبیین‌های قانع‌کننده دیگری ارائه دهد، اما وضعیت کنونی نشان می‌دهد که این ایده همچنان معتبر به نظر می‌رسد و در نتیجه، آگاهی در هوش مصنوعی نیز محتمل است.

پیشرفت‌های فناوری در علوم اعصاب طی دهه‌های اخیر روشن کرده که حالات آگاهانه با امضاهای عصبی مشخصی همراه هستند. نظریه‌های کارکردگرایانه متعددی حول این شواهد شکل‌گرفته‌اند که پشتوانه تجربی قابل‌توجهی دارند و می‌توان از آن‌ها برای قضاوت درباره هوش مصنوعی نیز استفاده کرد. در یک مطالعه اخیر، فهرستی از شاخص‌ها برای تعدادی از نظریه‌های برجسته کارکردگرایانه آگاهی شناسایی شد. این شاخص‌ها به ویژگی‌های محاسباتی خاصی اشاره دارند که اگر آن نظریه درست باشد، هم در دیدگاه فردی لازم و هم در مجموع برای آگاه بودن یک سامانه، کافی تلقی می‌شوند. نکته مهم این است که این شاخص‌ها به‌قدر کافی عینی و مشخص هستند، به‌طوری‌که می‌توان حضور یا غیاب آن‌ها را در سامانه‌های مدرن هوش مصنوعی بررسی کرد. پیشنهاد کلیدی این پژوهش این است که هرچه یک سامانه هوش مصنوعی شاخص‌های بیشتری از نظریه‌های معتبر آگاهی را برآورده کند، می‌توان با اطمینان بیشتری آن را آگاه دانست.

توانایی بالقوه مدل‌ها

با وجود تنوع مدل‌های هوش مصنوعی که تاکنون توسعه یافته‌اند، احتمالاً هیچ سامانه‌ای تمام معیارهای آگاهی را بر اساس هیچک از نظریه‌های اصلی برآورده نمی‌کند. بااین‌حال، هیچ مانع اساسی برای ساخت سامانه‌ای که این معیارها را داشته باشد وجود ندارد. ابزارهای موجود در هوش مصنوعی امروزی بسیار گسترده‌اند؛ شواهد نشان می‌دهند شبکه‌های عصبی قادرند سازوکارهایی چون توجه، بازگشتی بودن، گلوگاه‌های اطلاعاتی، مدل‌سازی پیش‌بینی‌کننده، مدل‌سازی جهان، رفتار عامل‌محور، نظریه ذهن و دیگر مؤلفه‌های محاسباتی کلیدی در نظریه‌های آگاهی را پیاده‌سازی کنند.

با پیشرفت هوش مصنوعی، دلایل قانع‌کننده‌ای وجود دارد که این سامانه‌ها شاخص‌های بیشتری را پوشش دهند؛ زیرا بسیاری از نظریه‌ها معتقدند آگاهی کارکردهای مهمی برای هوش و یادگیری دارد. کارکردهای محاسباتی مرتبط با آگاهی می‌توانند مزیت‌هایی برای یک عامل یادگیرنده ایجاد کنند. استدلال، برنامه‌ریزی، جذب کارآمد دانش جدید، اطمینان تنظیم‌شده (calibrated confidence) و تفکر انتزاعی همگی بنا بر نظریه‌های مختلف نیاز به آگاهی دارند. به همین دلیل پژوهشگران هوش مصنوعی اغلب هنگام مواجهه با این مسائل از نظریه‌های آگاهی الهام می‌گیرند.

بااین‌حال، حتی اگر یک سامانه هوش مصنوعی الزامات کارکردی نظریه‌های آگاهی را برآورده کند، بسیاری همچنان بدبین باقی خواهند ماند. به‌ویژه فیلسوفانی که بین «مسئله آسان» آگاهی؛ یعنی شناسایی بخش‌هایی از مغز که هنگام انجام وظایفی مرتبط با آگاهی فعال می‌شوند و «مسئله دشوار» یعنی توضیح تجربه ذهنی صرفاً بر پایه اصول کارکردی یا محاسباتی، تفاوت می‌گذارند. این شهود که به «شکاف تبیینی» (explanatory gap) معروف است که عمدتاً ریشه در آزمایش‌های ذهنی دارد؛ اما ممکن است علم توان توضیح آن‌ها را داشته باشد.

برای نمونه، «نظریه طرح‌واره توجه» از آگاهی‌ای می‌گوید که مغز مدلی درونی از سازوکارهای توجه عصبی می‌سازد و همین مدل درونی همان چیزی است که ما به آن آگاهی ذهنی می‌گوییم. نکته مهم این است که اطلاعات در این مدل درونی لزوماً منسجم و بدون تناقض نیستند؛ بلکه صرفاً یک «داستان مفید» است که مغز می‌سازد، حتی اگر پر از تناقض باشد. همین تناقض‌ها می‌توانند ما را به این باور برسانند که یک «مسئله دشوار» واقعی درباره آگاهی وجود دارد.

در جست‌وجو

اما آیا می‌توان توضیح کارکردگرایانه‌ای برای برخی نشانه‌های تجربه ذهنی که مرموز به نظر می‌رسند و مسئله دشوار را برمی‌انگیزند، یافت؟ انسان‌ها به طور شهودی احساس می‌کنند که تجارب ذهنی‌شان سرشار از محتوا و معنا است، اما درعین‌حال از اساس «غیرقابل‌بیان» باقی می‌مانند؛ یعنی نمی‌توان آن‌ها را همان‌گونه که دیگر پدیده‌های طبیعی توصیف می‌شوند، بیان کرد. مثلاً فرد می‌تواند توضیح دهد گرانش چیست، اما کمی دورازذهن و غیرممکن است تجربه درونی‌اش از رنگ قرمز را به طور کامل بیان کند.

این «ناتوانی در بیان» به‌ویژه چنین می‌نمایاند که تجربه آگاهانه را نمی‌توان صرفاً بر پایه اطلاعات و کارکرد توضیح داد. بااین‌حال، یک نظریه توضیح می‌دهد که غنای تجربه، ناپایداری و شخصی بودن آن نتیجه «پویایی‌های همگرا» و «حالت‌های پایدار» عصبی در مغز است. این پویایی‌های همگرا به طور ریاضی مسیرهای عصبی را به سمت «جاذب‌ها» هدایت می‌کنند؛ یعنی الگوهایی از فعالیت عصبی که در طول زمان پایدار می‌مانند.

این پویایی‌ها مجموعه کامل فعالیت‌های عصبی ممکن را به نواحی گسسته‌ای تقسیم می‌کنند، هر کدام متناظر با یک «جاذب» و حوزه جذب آن. فرضیه این است که آنچه با کلمات گسسته منتقل می‌شود؛ تنها می‌تواند هویت یک جاذب را بازتاب دهد (یعنی شناسایی آن در میان جاذب‌های دیگر، با چند بیت اطلاعات)، نه غنای کامل وضعیت عصبی متناظر با آن جاذب (که شامل تقریباً ۱۰۱۱ فرکانس شلیک نورونی است) و نه مسیر گذرای منتهی به آن. در این نگاه مبتنی بر پویایی‌های جاذب، مسائل مربوط به غنا، گذرا بودن و ناتوانی در بیان از میان برداشته می‌شوند.

به‌این‌ترتیب، غنا ناشی از شمار بسیار زیادی از نورون‌هایی است که در مغز حالت‌های جاذب و مسیرهای متناظر با آن را تشکیل می‌دهند. ناتوانی در بیان هم ناشی از این واقعیت است که گزارش‌های کلامی صرفاً برچسب‌هایی نمایه‌ای برای این جاذب‌ها هستند که نمی‌توانند معناها و پیوندهای چندبعدی آن‌ها را بازتاب دهند. این معانی و پیوندها به خودِ حالت برداری جاذب و وزن‌های سیناپسی بازگشتی وابسته‌اند که از فردی به فرد دیگر متفاوت است.

اینکه آیا چنین نظریه‌ای بسیاری از افراد را متقاعد می‌کند که «مسئله دشوار» آگاهی واقعاً وجود ندارد، اهمیت چندانی ندارد؛ نکته اصلی این است که توضیحات تازه‌ای برای ارائه می‌شود و بی‌تردید گروهی را متقاعد خواهد کرد. مسیر تاریخی علم در این زمینه روشن بوده است؛ هرچه شناخت بیشتری از مغز و به‌طورکلی از هوش حاصل شود، معمای فلسفی آگاهی برای افراد بیشتری رنگ می‌بازد و در نتیجه جامعه علمی آمادگی بیشتری برای پذیرش این خواهد داشت که سامانه‌های مصنوعی نیز می‌توانند آگاه باشند. حتی اکنون، بدون اجماع علمی، بیشتر افراد شرکت‌کننده در یک نظرسنجی اخیر باور داشتند که مدل‌های زبانی بزرگ می‌توانند آگاه باشند، صرفاً به دلیل رفتار عامل‌محور و انسان‌مانندی که دارند.

پیامدها

اما پیامدهای عملی جامعه‌ای که سامانه‌های هوش مصنوعی را آگاه بداند چه خواهد بود؟ چنین جامعه‌ای ممکن است آن‌ها را دارای جایگاه اخلاقی یا حقوقی مشابه انسان‌ها در نظر بگیرد. فارغ از درستی یا نادرستی این رویکرد، نهادها و چارچوب‌های حقوقی باید به طور اساسی تغییر کنند و پرسش‌های فراوانی درباره چگونگی آن مطرح است. برای نمونه، سامانه‌های هوش مصنوعی مانند انسان‌ها فناپذیر و شکننده نخواهند بود. نرم‌افزار و حافظه‌ها می‌توانند کپی شوند و به طور نامحدود ادامه یابند. حال‌آنکه فناپذیری و شکنندگی انسان، اساس بسیاری از اصولی است که قراردادهای اجتماعی بر آن استوارند.

همچنین مشخص نیست مفاهیمی مانند عدالت و برابری که پایه بسیاری از هنجارهای اجتماعی و نظام‌های سیاسی هستند چگونه می‌توانند اعمال شوند وقتی برخی از این «افراد» به‌مراتب از انسان‌ها باهوش‌تر هستند (و این پرسش پیش می‌آید که چه نوع برابری‌ای مطرح است) و نیازهای منابعی کاملاً متفاوت با انسان‌ها دارند (و این پرسش ایجاد می‌شود که عدالت چگونه باید برقرار شود). افزون بر این، شاید تصور سامانه‌های هوش مصنوعی به‌عنوان «افراد منفرد» نادرست باشد، زیرا گروهی از رایانه‌های هوش مصنوعی می‌توانند اطلاعات و اهداف خود را به اشتراک بگذارند و کنش‌هایشان را هماهنگ کنند، و این گروه می‌تواند هرچه منابع محاسباتی بیشتر در دسترس باشد، نامحدود رشد کند.

اگر برخی انسان‌ها صرفاً بر پایه ظاهر آگاهانه بودن، برای هوش مصنوعی «هدف حفظ بقا» قائل شوند؛ یعنی هدفی که میان همه موجودات زنده مشترک است، نگرانی‌های خاص‌تری هم پدید می‌آیند. دلایلی جدی نیز برای نگرانی وجود دارد که حداکثرسازی هر تابع هدفی که شامل سازوکارهای خودحفاظتی چه به‌صورت مستقیم و چه ابزاری باشد؛ به این منجر شود که هوش مصنوعی تلاش کند مطمئن شود انسان‌ها هرگز نتوانند آن را خاموش کنند. یک هوش مصنوعی به‌اندازه کافی هوشمند با هدف خودحفاظتی، اگر احتمال خاموش‌شدن توسط انسان‌ها را پیش‌بینی کند، به طور طبیعی زیرهدف‌هایی برای کنترل یا حتی حذف انسان‌ها ایجاد خواهد کرد.

نگرانی دیگر این است که اگر نظام‌های حقوقی اصلاح شوند تا حقوقی مشابه «زندگی، آزادی و جستجوی خوشبختی» برای سامانه‌های خودمحافظ هوش مصنوعی به رسمیت شناخته شود، انسان‌ها با خطر ایجاد تعارضاتی روبه‌رو می‌شوند که با حقوق خودشان رقابت می‌کند. ایمنی انسانی ممکن است ایجاب کند دسته‌ای از سامانه‌ها خاموش شوند، اما اگر آن سامانه‌ها حق بقا داشته باشند، دست انسان‌ها در چهارچوب قانون بسته خواهد شد. وضعیت را می‌توان با خلع سلاح هسته‌ای مقایسه کرد؛ موضوع در آنجا نیز به‌قدر کافی پیچیده است، با این تفاوت که هیچ‌کس استدلال نمی‌کند خود بمب‌ها حق دارند که «زنده نگه داشته شوند.»

مسیر کنونی پژوهش در هوش مصنوعی می‌تواند جامعه را به سمتی سوق دهد که بخش بزرگی از افکار عمومی و حتی جامعه علمی باور کنند سامانه‌های هوش مصنوعی آگاه‌اند. در شرایط فعلی، علم هوش مصنوعی نمی‌داند چگونه سامانه‌هایی بسازد که ارزش‌ها و هنجارهای انسانی را به اشتراک بگذارند و جامعه هم نه چارچوب حقوقی و نه بنیان اخلاقی لازم برای ادغام سامانه‌های به‌ظاهر آگاه را در اختیار دارد. اما این مسیر اجتناب‌ناپذیر نیست. تا زمانی که درک بهتری از این مشکلات حاصل نشده است، انسان‌ها توانایی دارند خود را از قرارگرفتن در چنین موقعیت‌های خطرناکی دور نگه دارند؛ به‌جای آن می‌توانند سامانه‌های هوش مصنوعی‌ای بسازند که بیشتر شبیه ابزارهای کارآمد عمل کنند و کمتر همچون عاملان آگاه.