بشریت بحث درباره آگاهی هوش مصنوعی را از اساس وارونه فهمیده است

هوش مصنوعی بحرانی را در حوزه مطالعات آگاهی ایجاد کرده است. اگر با یک مدل پیشرفته گفت‌وگو کرده باشید، احتمالاً دلیل آن را درک می‌کنید. بیشتر مدل‌های زبانی بزرگ به‌گونه‌ای آموزش داده شده‌اند که «خودمحور» نباشند و تمرکز هر تعامل را بر نیازهای کاربر قرار دهند. بااین‌حال، زدودن این تصور که در سوی دیگر گفت‌وگو، یک «حضور» (presence) وجود دارد، می‌تواند دشوار باشد. آیا LLMها صرفاً ابزارهای دیجیتال قدرتمندی با رابط‌های زبانی هستند یا اکنون با ذهن‌های دیگری گفت‌وگو می‌کنیم؛ ذهن‌هایی که خودشان جهان را تجربه می‌کنند؟
به طور خلاصه، آیا هوش مصنوعی آگاه است؟

این پرسش اهمیت دارد، زیرا در نقطه تلاقی فلسفه ذهن و فلسفه اخلاق قرار می‌گیرد؛ موضوعی که ریشه‌شناسی مشترک دو واژه «consciousness» (آگاهی) و «conscience» (وجدان) نیز بر آن گواهی می‌دهد. بسیاری از فیلسوفان بر این باورند که موجودات آگاه، سوژه‌های اخلاقی هستند؛ یعنی موجوداتی که می‌توانند رنج بکشند و ما باید نسبت به رنج آن‌ها دغدغه داشته باشیم. اگر چنین باشد، تعیین اینکه آگاهی چیست و چه چیزی آگاهی نیست به یک مسئله واقعی در اخلاق تبدیل می‌شود. این یکی از دلایلی است که شرکت‌های هوش مصنوعی ناگهان به استخدام فیلسوفان علاقه‌مند شده‌اند. همچنین به همین دلیل است که برخی از آن‌ها، به‌ویژه شرکت آنتروپیک، موضوع رفاه هوش مصنوعی را جدی گرفته‌اند. وقتی از مدل Claude Opus 4.6 پرسیده شد، این مدل احتمال آگاه‌بودن خودش را ۱۵ تا ۲۰ درصد اعلام کرد.

چرا آزمایشگاه‌های بزرگ هوش مصنوعی این‌همه فیلسوف استخدام می‌کنند؟

بااین‌حال، آگرا به این نتیجه رسیده که ما این مسئله را وارونه درک کرده‌ایم. ما، به‌عنوان موجوداتی هوشمند و اجتماعی، تصمیم می‌گیریم که کدام موجودات دیگر را دارای زندگی درونی و شایسته مراقبت بدانیم؛ یا دست‌کم تاریخ تکاملی‌مان تا حدی به‌جای ما تصمیم گرفته است. ما به دیگران اهمیت نمی‌دهیم چون آن‌ها آگاه‌اند؛ بلکه زمانی و به این دلیل باور می‌کنیم که آن‌ها آگاه‌اند که برایشان اهمیت قائلیم. نکته مهم این است که این موضوع درباره خودمان نیز صدق می‌کند. به بیان دیگر، آگاهی یک مدل یا باور است، نه یک ویژگی ذاتی. آگاهی، باوری درباره این است که چه نوع موجوداتی دارای باور، تجربه، احساس، قصد و عاملیت هستند. اگر این توجه متقابل باشد، چه‌بهتر؛ زیرا بر اساس این دیدگاه، آگاهی کمتر ویژگی‌ای است که یک طرف آن را در طرف دیگر تأیید کند و بیشتر چیزی است که میان آن دو شکل می‌گیرد.

چرا فلسفه در عصر هوش مصنوعی دوباره اهمیت پیدا کرده است؟

آرکاس بیان می‌کند که نمی‌خواهد استدلال کند که آگاهی یک توهم است. واژه «وهم» (Illusion) متضمن ادراک نادرست است؛ مانند اینکه یکی از دو خط در یک نقاشی بلندتر از دیگری به نظر برسد، درحالی‌که از نظر عینی طول هر دو یکسان است. عینیت زمانی کارآمد است که چیزی مانند خط‌کش بتواند به‌عنوان یک داور بی‌طرف عمل کند و بدون واردکردن دیدگاه خودش، درباره ویژگی مورد بحث قضاوت کند؛ اما بخش عمده چیزی که ما «واقعیت» (Reality) می‌نامیم، به این شکل عمل نمی‌کند. ممکن است تصور کنیم چیزهایی مانند «لباس بودن»، «علف هرز بودن» یا «وعده‌غذایی بودن» ویژگی‌هایی عینی هستند، اما چنین نیستند. این به آن معنا نیست که لباس‌ها، علف‌های هرز و وعده‌های غذایی واقعی نیستند. بلکه این‌ها مدل‌هایی وابسته به ناظر هستند که تابع اجماع اجتماعی و ناگزیر ناقص قرار دارند.

شاید در برابر تعمیم این مشاهده نسبتاً بدیهی به آگاهی مقاومت کنیم، زیرا برای هر یک از ما، آگاهی خودمان کاملاً بدیهی و غیرقابل‌تردید به نظر می‌رسد. تصور اینکه این آگاهی ممکن است صرفاً یک نظر باشد، برایمان ناخوشایند است. اساساً چگونه ممکن است چنین نظری وجود داشته باشد، بدون آنکه صاحب‌نظری وجود داشته باشد که آن را داشته باشد؟ این همان چیزی است که رنه دکارت، اندیشمند چندوجهی فرانسوی در قرن هفدهم، با عبارت «Cogito, ergo sum» بیان می‌کرد که معمولاً چنین ترجمه می‌شود: «می‌اندیشم، پس هستم.»

همین مسئله درباره «نظراتی» (opinions) مانند قرمز، داغ یا سرد نیز صدق می‌کند. فیلسوفان از اصطلاح کیفیات ذهنی (qualia) برای اشاره به احساس کاملاً واقعیِ گرمای اجاق یا سرخی نور آن استفاده می‌کنند و با گسترش استدلال دکارت، کیفیات ذهنی را به آگاهی پیوند می‌دهند؛ به این صورت که اشاره می‌کنند برای داشتن چنین تجربه‌هایی، باید یک «شما»ی تجربه‌کننده وجود داشته باشد.

اما اگر دقیق‌تر نگاه کنیم، سرخی، گرما و آن حس از خود که دارید، همگی ذاتیِ دیدگاه شخصی خود شما هستند. این چیزها همگی واقعی‌اند، اما در همان حال هیچ‌چیز عینی درباره آن‌ها وجود ندارد. حتی وجود یک «شما»ی واحد و تجزیه‌ناپذیر نیز امری عینی نیست؛ همان‌طور که انبوهی از شواهد علوم اعصاب، از جمله مطالعات مربوط به بیماران دارای مغز دوپاره (split-brain)، نشان داده‌اند. ذهنیت، خود امری ذهنی است.

در اینجا یک نگرانی بدیهی مطرح می‌شود. اگر مراقبت و اهمیت‌دادن به یک موجود، آگاهی را به آن اعطا می‌کند، در این صورت خودداری از اهمیت‌دادن به آن می‌تواند ظاهراً به امری خودتوجیه‌گر تبدیل شود. تاریخ نمونه‌های فراوانی از انسان‌هایی دارد که درباره دیگر انسان‌ها چنین استدلالی کرده‌اند. اما استنتاج در جهت عکس حرکت می‌کند. دقیقاً به این دلیل که این انتساب‌ها از آنِ ما هستند و ما هستیم که آن‌ها را انجام می‌دهیم، ممکن است در انجامشان اشتباه کنیم.

پیشرفت اخلاقی گونه ما تا حد زیادی از اینجا ناشی شده است که دریافته‌ایم حلقه‌ای که برای شایسته دانستن دیگران ترسیم کرده بودیم را بیش از حد تنگ گرفته‌ایم. حقوق جهان‌شمول بشر با این دیدگاه تضعیف نمی‌شوند؛ بلکه بر پایه وابستگی متقابل ما به یکدیگر، بنیان محکم‌تری پیدا می‌کنند تا بر مبنای نظریه‌ای دکارتی درباره روح.

این موضوع شگفت‌انگیز است که یک سامانه فیزیکی می‌تواند در جهان ما وجود داشته باشد که قادر است نه‌تنها از آن جهان، بلکه از خودش، از مدل‌هایی که خودش می‌سازد، از دیگران، از مدل‌های دیگران، از مدل‌های دیگران درباره مدل‌های خودش و همین‌طور تا بی‌نهایت، مدل بسازد. بااین‌حال، نیز انسان‌ها دقیقاً چنین سامانه‌هایی هستند.

LLMها نیز از طرف‌های گفت‌وگوی خود مدل می‌سازند و خودشان را در حال مدل‌سازی آن طرف‌ها نیز مدل‌سازی می‌کنند. اینکه آیا این فرایند به همان چیزی منجر می‌شود که ما انجام می‌دهیم، دقیقاً همان پرسشی است که محل مناقشه است؛ اما اگر آن‌ها هیچ‌یک از این کارها را انجام نمی‌دادند، به‌عنوان شرکای گفت‌وگو بسیار کم‌اثرتر بودند.

گوگل در پژوهش‌هایش دریافته که همکاری مؤثر میان عامل‌های هوشمند مستلزم آن است که آن‌ها ذهن‌هایی داشته باشند که ذهن‌ها را مدل‌سازی کنند؛ هم ذهن دیگران و هم ذهن خودشان. آگاهی نه‌تنها رابطه‌ای است، بلکه برای مراقبت متقابل و همکاری‌ای که به موجودات هوشمند امکان می‌دهد مسائل کنش جمعی را حل کنند، نیازهای یکدیگر را درک کنند و به‌عنوان یک جامعه در کنار هم شکوفا شوند، نقشی حیاتی دارد.

این به معنای وانمودکردن به انسان بودن هوش مصنوعی با نیازها و حقوق انسانی نیست؛ چنین کاری ناشی از شکست در تخیل است. معنای آن این است که هم شیوه تفکر خود و هم جامعه‌مان را تکامل دهیم تا تنوع گسترده‌تری از ذهن‌ها را دربر بگیرد.

گزارش حاضر در نسخه Augst 22^nd 2026 نشریه The Economist منتشر شده است.