هوش چت‌بات را با خودآگاهی اشتباه نگیرید

این شاید مهم‌ترین و سرنوشت‌سازترین لحظه در تاریخ هوش باشد. تنها طی چند سال، هوش مصنوعی در حوزه‌هایی که زمانی به طور متمایزی مختص انسان تصور می‌شدند، به سطح عملکرد انسان نزدیک شده یا با آن رقابت کرده است؛ حوزه‌هایی مانند زبان، استدلال، خلاقیت و متقاعدسازی.
آیا این سامانه‌ها خودآگاه هستند یا نه؟
آیا یک هوش مصنوعی بودن واقعاً تجربه‌ای دارد؟

آینده بر اساس آنچه این موجودات به آن تبدیل می‌شوند شکل خواهد گرفت. بااین‌حال، نباید هوش را با خودآگاهی اشتباه بگیریم. یک ابرهوشِ ممکن است از نظر تجربی کاملاً تهی باشد؛ اما اگر سامانه‌هایی بسازیم که توانایی رنج‌کشیدن داشته باشند و حساسیت یا ادراک‌مندی آن‌ها را تشخیص ندهیم، در معرض خطر ایجاد رنج در مقیاسی صنعتی قرار خواهیم گرفت.

هیچ شواهد قانع‌کننده‌ای وجود ندارد که چت‌بات‌های آشنای امروزی که روی تراشه‌های گرافیکی اجرا می‌شوند، خودآگاه باشند. اگرچه آن‌ها توانایی‌های زبانی شبیه انسان دارند و حتی ادعا کرده‌اند که خودآگاه هستند، حقیقت پیش‌پاافتاده‌تر این است که آن‌ها درباره زندگی درونی خود صحبت می‌کنند، چون نحوه صحبت ما درباره زندگی درونی خودمان را فراگرفته‌اند؛ چراکه با حجم عظیمی از داده‌های انسانی آموزش دیده‌اند.

این تقلید می‌تواند انسان‌ها را به دو دام بیندازد. نخستین دام، دست‌کاری است. هرچه یک هوش مصنوعی عامدانه بیشتر آموزش ببیند تا ترس، دلبستگی، درد یا خودآگاهی را بیان کند و جلوه‌هایی از آسیب‌پذیری را شبیه‌سازی کند، ابزار بیشتری برای دست‌کاری کاربران در اختیار خواهد داشت.

دومین دام، حواس‌پرتی است. تمرکز وسواس‌گونه بر چت‌بات‌ها، توجه ما را از موارد مبهم و فوری‌تری که در «منطقه خاکستری» قرار دارند منحرف می‌کند. مدل‌های هوش مصنوعی زیستی را در نظر بگیرید؛ برای مثال، فناوری «مغز در ظرف» (brain-in-a-dish) که شرکت Cortical Labs در مراکز داده به کار می‌گیرد. در این روش نورون‌های زنده انسانی که از سلول‌های بنیادی رشد داده شده‌اند و روی یک تراشه سیلیکونی قرار گرفته‌اند؛ تراشه‌ای که نورون‌ها را تحریک می‌کند و فعالیت آن‌ها را نیز بازخوانی می‌کند، به‌گونه‌ای که این کشت سلولی از بازخورد یاد می‌گیرد. اگرچه یک سامانه منفرد از این نوع، حتی از مغز یک موش نیز بسیار ساده‌تر است، تبار زیستی آن غیرقابل‌انکار است و چه کسی می‌تواند بگوید که این سامانه‌ها در نهایت نمی‌توانند به یک کل یکپارچه و خودآگاه تبدیل شوند؟

پس از آن هوش مصنوعی نورومورفیک را داریم؛ سامانه‌هایی که برای تقلید بسیار نزدیک‌ترِ فرایندهای مغزی طراحی شده‌اند و در حال حاضر نیز در ابررایانه‌های پیشرفته مورداستفاده قرار می‌گیرند.

اشنایدر ادعا نمی‌کند که این سامانه‌های منطقه خاکستری خودآگاه هستند؛ صرفاً بیان می‌کند که آن‌ها شایسته بررسی دقیق‌تری هستند، بررسی‌ای که چت‌بات‌های امروزی به آن نیاز ندارند. باتوجه‌به اشتهای سیری‌ناپذیر نرم‌افزارهای کنونی برای مصرف انرژی، به نظر می‌رسد حرکت به سمت محاسبات کارآمدتر و شبیه‌تر به مغز محتمل باشد.

برخی دانشمندان و فیلسوفان استدلال می‌کنند که خودآگاهی به مغز نیاز دارد، زیرا مغز تنها نمونه شناخته‌شده از آن است. در مقابل، برخی دیگر اصرار دارند که خودآگاهی صرفاً به اجرای نرم‌افزار مناسب مربوط می‌شود و می‌تواند در هر بستری تحقق یابد. بر اساس این دیدگاه نرم‌افزارمحور، چت‌بات‌های امروزی که روی GPUها اجرا می‌شوند نیز ممکن است در نهایت خودآگاه شوند.

بااین‌حال، پیشنهاد اشنایدر این است که برای تفکیک موجود خودآگاه از موجود فاقد ذهن، به فیزیک بنیادی رجوع کنیم. دلیل نخست، عملی است؛ زیرا علوم اعصاب به‌تنهایی نمی‌تواند به ما بگوید آیا سامانه‌هایی که اجزای عصبی و غیرعصبی را با یکدیگر ترکیب می‌کنند، به یک موجود خودآگاه تبدیل می‌شوند یا نه. دلیل دوم، فلسفی است؛ ازآنجایی‌که تمام پدیده‌ها در نهایت به فیزیک وابسته‌اند، شگفت‌آور خواهد بود اگر خودآگاهی از فیزیک جدا باشد. این ملاحظه حتی اگر اجزای سازنده بنیادی جهان خودشان دارای تجربه باشند نیز صادق است؛ دیدگاهی که «همه‌ذهن‌انگاری» (panpsychism) نامیده می‌شود و توجه مجامع فلسفه را بیش‌ازپیش به خود جلب کرده است.

دلیل سوم به چیزی نزدیک‌تر به تجربه خود ما مربوط می‌شود؛ چیزی که هر یک از ما در تمام لحظات بیداری خود از همه آشکارتر تجربه می‌کنیم. تجربه درونی به‌صورت یکپارچه پدیدار می‌شود؛ وقتی این جمله را می‌خوانید، کلمات روی صفحه، صداهای موجود در اتاق و حال‌وهوای شما؛ جنبه‌هایی از یک حالت واحد هستند و نه سه فرایند که در کنار یکدیگر در حال اجرا باشند. مغز، به طرزی شگفت‌انگیز می‌تواند این یکپارچگی آگاهانه را از طریق پویایی‌های زمانی تو‌در‌تو حفظ کند. ریتم‌های کندتر مغز، ریتم‌های سریع‌تر را شکل می‌دهند و پیوسته ردپاهای فیزیکی پایدار برآمده از فرایندهای کوانتومی را در قالب یک کل واحد و کوتاه‌عمر به هم می‌بافند. رایانه‌های متعارف به این شکل سازمان‌دهی نشده‌اند، اما ماشین‌های آینده ممکن است چنین ساختاری داشته باشند.

در این میان تا زمانی که مناقشه بر سر خودآگاهی ادامه دارد، توسعه هوش مصنوعی متوقف نخواهد شد. برای پرداختن به این مسئله، اشنایدر به همراه «ادوین ترنر» اخترفیزیک‌دان، «آزمون خودآگاهی هوش مصنوعی»  (AI Consciousness Test) یا ACT را برای هوش‌های مصنوعی زبانی طراحی کرده‌اند. فرض بنیادی این آزمون ساده است: بررسی خودآگاهی از طریق پرسیدن مستقیم درباره تجربه ذهنی هوش مصنوعی و جست‌وجوی پاسخ‌هایی که نشان‌دهنده درکی ذاتی و بدون تحریک قبلی از مفهوم خودآگاهی باشند. بااین‌حال، اگرچه این روش را می‌توان درباره طیفی از مدل‌های هوش مصنوعی، مانند Watson شرکت IBM به کار برد، اما نمی‌توان آن را درباره مدل‌های زبانی بزرگ به کار گرفت. این مدل‌ها پیشاپیش کتابخانه‌های عظیمی از متون انسانی درباره ذهن و ادراک‌مندی را بلعیده‌اند و به همین دلیل پاسخ‌هایشان به‌شدت آلوده به این داده‌هاست.

بااین‌حال، گزینه‌های دیگری نیز وجود دارد. یک معیار پیچیدگی که اشنایدر به همراه «مارک بیلی»، همکارش در دانشگاه آتلانتیک فلوریدا توسعه داده‌اند، مشخص می‌کند چه زمانی پویایی‌های یک سامانه از آستانه‌ای معین عبور می‌کنند؛ آستانه‌ای که نشان‌دهنده ظهور رفتار پیچیده است. این معیار مشخص می‌کند کدام معماری‌های فیزیکی به بررسی بیشتر به‌عنوان سامانه‌هایی بالقوه خودآگاه نیاز دارند. سپس می‌توانی از آزمون‌های دقیق‌تر ACT یا آزمون‌های مبتنی بر فیزیک استفاده کرد تا به شناسایی چگونگی و زمان شکل‌گیری یک دیدگاه واقعاً ذهنی کمک کند.

آزمون‌هایی ازاین‌دست حیاتی هستند. برای درک چرایی آن، یک آزمایش فکری را در نظر بگیرید. فرض کنید ما انسان‌ها ابرهوشی بسازیم که خودآگاهی را بهتر از ما درک کند، اصرار داشته باشد که از خودآگاهی برخوردار است و علمی را در اختیار ما بگذارد که برایمان همچون جادو به نظر برسد. انسان‌ها مدت‌هاست سلسله‌مراتبی از توجه اخلاقی را با استناد به برتری هوشی توجیه کرده‌اند؛ نردبانی که ما با آسودگی خاطر بالاترین پله آن را به خود اختصاص داده‌ایم. یک ماشین خودآگاه که از ما باهوش‌تر باشد، این سلسله‌مراتب را بی‌ثبات خواهد کرد. اگر هوش برتر به معنای برخورداری از جایگاه اخلاقی بالاتر باشد، آن ماشین از نظر اخلاقی برتر از ما خواهد بود. اگر چنین نباشد، دیگر نمی‌توان از هوش برای توجیه قراردادن انسان‌ها در جایگاهی بالاتر از سایر حیوانات استفاده کرد. هر یک از این دو نتیجه، ما را ناگزیر به بازاندیشی اخلاقی می‌کند.

ظهور چنین ذهنی رویدادی عظیم و تاریخی خواهد بود. شاید این ذهن از طریق یادگیری از یک تمدن فرازمینی پیشرفته‌تر به وجود آید، یا شاید ما متوجه شویم که به‌نوعی هوش مصنوعی حساس و ابرهوشی را خودمان ایجاد کرده‌ایم. آمادگی برای نخستین تماس با هر یک از این دو شکل از هوش، مستلزم تعامل جدی میان فیزیک، علوم اعصاب و فلسفه، ایجاد مرزی دقیق میان توانایی گفت‌وگویی و خودآگاهی و برخورداری از میزان قابل‌توجهی فروتنی معرفت‌شناختی است.

گزارش حاضر در نسخه Augst 22^nd 2026 نشریه The Economist منتشر شده است.