تا چه حد باید همین حالا از هوش مصنوعی بترسیم؟
سید محمدجواد فیاض
- ۳۱ شهریور ۱۴۰۵
هشدارهای آخرالزمانی مدیران شرکتهای بزرگ هوش مصنوعی، فقط ناشی از نگرانی درباره فناوری نیست؛ این نوع نگاه ریشه در جنبش فکری «خردگرایی» در سیلیکونولی دارد که هوش مصنوعی فراهوشمند را تهدیدی وجودی برای بشر میداند. اما تمرکز بر این روایتها ممکن است توجه را از آسیبهای واقعی و فوری هوش مصنوعی منحرف کند.
«کال نیوپورت»، استاد علوم کامپیوتر دانشگاه جورجتاون و نویسنده کتاب «کار عمیق»، در نیویورکتایمز نوشت: «این احساسات با نحوه صحبت مدیران ارشد شرکتهای هوش مصنوعی، مانند سم آلتمن و داریو آمودی، درباره این فناوری تشدید میشود. آنها بهجای اینکه به مشتریان خود اطمینان خاطر بدهند، اغلب خودشان جزو نخستین کسانی هستند که به خطرات جدیای اشاره میکنند که شرکتهایشان ممکن است ایجاد کنند و در واکنش به حوادث مرتبط با محصولات خود، چنان رفتار میکنند که گویی ناظران بیرونیِ یک نیروی طبیعی مهارنشدنی هستند.»
آلتمن نیز اخیراً مطابق همین رویه، با لحنی تیره و نگرانکننده وعده داد که نسل بعدی مدلهای شرکتش «برای همه تکاندهنده و هشداردهنده خواهد بود».
چرا این رهبران چنین رفتاری دارند؟ برخی معتقدند همه اینها یک راهبرد بازاریابی پیچیده است. برخی دیگر تصور میکنند این واکنش طبیعی به یک فناوری هراسانگیز است. اما هرچه بیشتر این افراد را مطالعه کنیم، بیشتر متقاعد میشویم که عامل دیگری نیز به توضیح این نگرانی منفعلانه کمک میکند: آنها عجیبتر از چیزی هستند که تصور میکنیم.
از اکستروپیَنها تا شکلگیری جنبش خردگرایی
داستان از اواسط دهه ۱۹۹۰ آغاز میشود؛ زمانی که نوجوانی بااستعداد به نام «الیزر یودکوفسکی» با فهرست ایمیلی جنبشی آیندهگرا به نام «اکستروپیَنها» (Extropians) آشنا شد. این گروه تصویری از یک آرمانشهر فناوریمحور را ترویج میکرد که در آن میتوانستیم بدنهای در حال پیرشدن خود را با نانوماشینها ترمیم کنیم، از ذهنهایمان نسخه پشتیبان تهیه کنیم و آنها را روی رایانههای قدرتمند ذخیره کنیم.
یودکوفسکی شیفته خوشبینی افراطی اکستروپیَنها و علاقه این جنبش به این ایده شد که یک هوش مصنوعی «فراهوشمند» میتواند آیندهای طلایی رقم بزند. همانطور که «آدام بکر»، روزنامهنگار علمی، در کتاب روشنگرانه خود با عنوان «More Everything Forever» اشاره میکند، امکان حل تمام مشکلات بشریت از طریق یک تکینگی مبتنی بر هوش مصنوعی، یودکوفسکی را «دگرگون کرد»؛ کسی که زمانی نوشته بود: «فکر میکنم میتوانم دنیا را نجات دهم.»
با وجود این شور و حرارت، یودکوفسکی سرانجام از این ترسید که کنترل ماشینهای فراهوشمند دشوارتر از آن چیزی باشد که گروههای خوشبین به فناوری، مانند اکستروپیَنها، تصور میکردند. او به این نتیجه رسید که همفکرانش بهاندازه کافی روشن و دقیق درباره این مسئله فکر نمیکنند. یودکوفسکی بین سالهای ۲۰۰۶ تا ۲۰۰۹ به موج گستردهای از نوشتن روی آورد و صدها هزار کلمه تولید کرد که بخش عمده آنها در وبلاگهای Overcoming Bias و LessWrong منتشر شد.
این نوشتهها بعدها با عنوان «The Sequences» شناخته شدند و سرانجام در قالب مجموعهکتابی ششجلدی با عنوان «Rationality: From A.I. To Zombies» تدوین شدند. جامعهای که حول این ایدهها شکل گرفته بود، خود را «خردگرا» (Rationalist) مینامید. هسته اصلی نظام فکری آنها این باور بود که ظهور هوش مصنوعی فراهوشمند، بزرگترین تهدید برای بشریت است و پرورش عادتهای فکری دقیق و عقلانی، بهترین راه برای جلوگیری از انقراض انسان محسوب میشود.
جذابیت یک روایت نجاتبخش در سیلیکونولی
برای گروه خاصی از جوانان مهندس و فنی در سیلیکونولی، این ایدهها جذابیت فوقالعادهای داشت. دلیلش هم روشن است: این دیدگاه، آنها را در جایگاه ناجیان واقعی بشریت قرار میداد. «کیائوچو یوان»، یکی از خردگرایان سابق، نوشته است: «وقتی در سال آخر دانشگاه با LessWrong آشنا شدم، از یک نظر پوستهای خالی بودم که منتظر بودم چیزی درونم قرار بگیرد. الیزر یودکوفسکی چیزهایی میگفت که از هر چیزی که تا آن زمان تجربه کرده بودم، منطقیتر و جذابتر بود.»
برخی از خردگرایان به زندگی در خانههای اشتراکی در منطقه خلیج سانفرانسیسکو روی آوردند؛ جایی که گفتوگوهای جدی درباره ایمنی هوش مصنوعی و کاهش سوگیریهای شناختی، در کنار بحث درباره چندهمسری و مواد روانگردان، جریان داشت. این جنبش به رشد خود ادامه داد و خیلی زود با فلسفههای مرتبطی مانند «نوعدوستی مؤثر» (Effective Altruism) همپوشانی پیدا کرد و بر آن تأثیر گذاشت؛ جنبشی که تمرکز خود را از کارآمدترکردن کمکهای خیریه به مبارزه با خطرات وجودی، مانند هوش مصنوعی فراهوشمند، تغییر داد.
یودکوفسکی «مؤسسه پژوهش هوش ماشینی» (MIRI) را تأسیس کرد؛ مؤسسهای که بعدها توانست دهها میلیون دلار کمک مالی جذب کند؛ عمدتاً از سوی افراد و گروههای مرتبط با صنعت فناوری که احتمالاً از ایفای نقش قهرمان در یک درام کیهانی استقبال میکردند.
سال گذشته، یودکوفسکی تلاش کرد تفکر فوقعقلگرایانه خود درباره هوش مصنوعی فراهوشمند را با انتشار کتاب «If Anyone Builds It, Everyone Dies» وارد جریان اصلی جامعه کند. این کتاب با همکاری «نیت سوارس»، رئیس MIRI، نوشته شده بود. اگرچه کتاب توجه زیادی را به خود جلب کرد، ترکیب نامتعارف دقتنمایی شبهعلمی و پرگویی یودکوفسکی برای بسیاری دافعه داشت. «استیون مارش» در نقد خود اشاره کرد که ساختار عجیب کتاب، مملو از «تمثیلهای غیرمفید» و کدهای QR برای اسکن و دریافت جزئیات بیشتر، باعث شده است کتاب «شبیه یک کتابچه راهنمای ساینتولوژی» به نظر برسد. این مسئله توضیح میدهد که چرا یودکوفسکی و جنبش او، با وجود این موج توجه، تا حد زیادی نتوانستند پذیرش گستردهای در میان عموم مردم به دست آورند.
ساینتولوژی (Scientology) یک جنبش دینی نوین است که در دهه ۱۹۵۰ بهدست ران هابارد، نویسنده داستانهای علمیتخیلی، پایهگذاری شد. آموزه اصلی آن بر این باور است که انسانها موجوداتی روحی و جاودانهاند و تجربیات منفی گذشته، روح آنها را آلوده کرده است. پیروان این جنبش معتقدند افراد میتوانند از طریق مشاورههایی به نام «حسابرسی»، به پاکی روح و تواناییهای برتر دست یابند.
نفوذ خردگرایی در شرکتهای پیشروی هوش مصنوعی
اگر داستان خردگرایی با موفقیت نسبی تلاش الیزر یودکوفسکی برای بهرسمیتشناختهشدن در جریان اصلی جامعه به پایان میرسید، این جنبش صرفاً یکی دیگر از نمونههای کوتاه در تاریخ طولانی گروههای آیندهگرای نامتعارف سیلیکونولی بود. اما جنبش یودکوفسکی را نمیتوان به این سادگی کنار گذاشت؛ زیرا در میان پیروانی که او توانست جذب کند، برخی از مهمترین چهرههای رونق کنونی هوش مصنوعی مولد حضور داشتند.
برای مثال، این یودکوفسکی بود که دو بنیانگذار DeepMind، یعنی «دمیس هاسابیس» و «شین لگ» را با «پیتر تیل» آشنا کرد؛ کسی که بعدها به نخستین سرمایهگذار بزرگ این شرکت تبدیل شد. لگ پس از شرکت در سخنرانی یودکوفسکی به ایدههای سبک خردگرایی علاقهمند شد و بعدها رساله دکتری خود را درباره موضوع فراهوش نوشت.
خردگرایی در OpenAI نیز نفوذ کرده بود. آلتمن در سال ۲۰۲۳ در توییتی نوشت: «به نظر من، الیزر بیش از هر کس دیگری به تسریع AGI کمک کرده است.» او سپس مطرح کرد که شاید یودکوفسکی بهدلیل تأثیرش بر هوش مصنوعی، شایسته دریافت جایزه صلح نوبل باشد. «گرگ براکمن»، یکی از بنیانگذاران OpenAI که اکنون رئیس این شرکت است، بنا بر گزارشها یک گروه مطالعاتی هفتگی را اداره میکرد که به انجمن LessWrong متعلق به یودکوفسکی اختصاص داشت.
به نظر میرسد دیگر اعضای هیئتمدیره OpenAI نیز تحت تأثیر این نوع تفکر قرار گرفته بودند. «کِید متز»، روزنامهنگار حوزه فناوری، برکناری موقت آلتمن از سمت مدیرعاملی OpenAI در سال ۲۰۲۳ را اینگونه توصیف کرد: «اعضای هیئتمدیرهای که با جنبشهای خردگرایی و نوعدوستی مؤثر ارتباط داشتند، میگفتند نمیتوانند به او برای ساخت هوش مصنوعی در جهت منافع بشریت اعتماد کنند.»
«امت شیر»، مدیرعامل موقت که هیئتمدیره او را برای جایگزینی آلتمن آورد، آنقدر در فرهنگ آنلاین خردگرایی فعال بود که یودکوفسکی نام یکی از شخصیتهای خود را در حماسه داستانی ۶۰۰ هزار کلمهایاش با عنوان «Harry Potter and the Methods of Rationality» از روی او انتخاب کرد.
آنتروپیک نیز با همین نظام فکری ارتباط دارد. این شرکت در سال ۲۰۲۱ بهدست گروهی از کارکنان سابق OpenAI، از جمله داریو آمودی و خواهرش دانیلا، تأسیس شد. همانطور که بکر گزارش میکند، آمودیها تا حدی بهدلیل نگرانی از اینکه «OpenAI مسئله همراستاسازی را بهاندازه کافی جدی نمیگیرد» از این شرکت جدا شدند؛ اشارهای به دغدغه اولیه خردگرایان درباره همراستا کردن هوش مصنوعی فوقالعاده قدرتمند با منافع انسان. آمودی نیز در مصاحبهای در سال ۲۰۲۳، با تکرار دیدگاهی رایج میان خردگرایان، بهطور غیررسمی گفت که بین ۱۰ تا ۲۵ درصد احتمال دارد هوش مصنوعی به پایانیافتن بشریت منجر شود.
زبان هشدارآمیز رهبران هوش مصنوعی از کجا میآید؟
این واقعیت که خردگرایی عمیقاً بر بسیاری از شرکتهای بزرگ هوش مصنوعی امروز تأثیر گذاشته است، به ما کمک میکند زبان نگرانکنندهای را که از رهبران این شرکتها میشنویم بهتر ارزیابی کنیم. وقتی آلتمن اعلام میکند مدلهای در حال توسعه آنها برای بشریت «تکاندهنده و هشداردهنده» خواهند بود یا آمودی نگران است که این فناوری «هویت ما را بهعنوان یک گونه به چالش بکشد»، لزوماً به این معنا نیست که آنها به شواهد ترسناک تازهای دست یافتهاند که از وقوع فاجعهای قریبالوقوع حکایت دارد.
در عوض، این اظهارات بازتاب شیوهای است که خردگرایان همواره درباره هوش مصنوعی فکر کردهاند. در این محافل، بدیهی فرض میشود که قابلیتهای هوش مصنوعی بهسرعت شتاب خواهند گرفت و جهان را بهطور کامل دگرگون خواهند کرد؛ و صحبتکردن درباره آن به هر شکل دیگری، نشانه ناآگاهی تلقی میشود. برای یک خردگرا، تنها پرسش باز این است که مغزهای قهرمانانه آنها، که با دقت و مطابق سبک مورد ستایش «توالیهای» یودکوفسکی آموزش دیدهاند، تا چه اندازه میتوانند مانع تبدیل این دگرگونیها به رویدادهای منجر به انقراض شوند.
البته چهرههایی مانند آلتمن و آمودی احتمالاً در حال حاضر خود را خردگرا توصیف نمیکنند. با رشد شرکتهایشان، به نظر میرسد آنها از برخی ایدههای افراطیتر یودکوفسکی فاصله گرفتهاند. بااینحال، همچنان محتمل است که درهمتنیدگی این افراد با این جنبش، ایدهای را که در حالت عادی افراطی به نظر میرسد، برایشان عادی کرده باشد؛ ایدهای که میگوید هوش مصنوعی همواره در آستانه تغییر دادن همهچیز قرار دارد. نفوذ خردگرایی به توضیح این موضوع کمک میکند که چرا این سبک سخنگفتن تا این اندازه بهراحتی بر زبان رهبران هوش مصنوعی جاری میشود.
نگاهی متفاوت در چین و انویدیا
بد نیست از خود بپرسیم اگر هوش مصنوعی مولد از دل شرکتهایی ظهور کرده بود که هیچ ارتباطی با خردگرایی نداشتند، چه تفاوتی ایجاد میشد. نمونهای از این وضعیت فرضی را میتوانیم در چین ببینیم؛ کشوری که صنعت هوش مصنوعی روبهرشد آن مستقل از جنبشهای آیندهگرای سیلیکونولی است. همانطور که «راس دوتات» اخیراً توضیح داده است، درحالیکه ایالات متحده «چنان رفتار میکند که گویی مدلهای مرزی هوش مصنوعی میتوانند معادل سلاحهای هستهای باشند»، چینیها هوش مصنوعی را «فناوری کمخطرتری میدانند که باید برای جلب دوستان و افزایش نفوذ در جهان به اشتراک گذاشته و تجاریسازی شود.»
میتوانیم همین تعادل را در میان رهبران آمریکایی صنعت هوش مصنوعی که ارتباط اندکی با خردگرایی دارند نیز مشاهده کنیم. «جنسن هوانگ»، مدیرعامل انویدیا، را در نظر بگیرید؛ او سالها پیش از آنکه یودکوفسکی به یک اکستروپیَن تبدیل شود، این شرکت را بنیان گذاشت و هرگز به نظر نمیرسید ارتباط چندانی با محافل خردگرایی داشته باشد. نارضایتی او از صحبتهای افراطیتر چهرههایی مانند آلتمن و آمودی اغلب کاملاً آشکار است؛ از جمله زمانی که در جریان یک مصاحبه پادکستی گفت: «میپذیرم که بسیاری از ما با داستانهای علمیتخیلی بزرگ شدیم و از آنها لذت بردیم، اما مفید نیست. برای مردم مفید نیست. برای صنعت مفید نیست. برای جامعه مفید نیست. برای دولتها مفید نیست.»
تمرکز بر آسیبهای واقعی و مسئولیتپذیری شرکتها
این واقعیت که هشدارآمیزترین ادعاها درباره تأثیر هوش مصنوعی، ظاهراً از سوی افرادی مطرح میشود که بیشترین ارتباط را با خردگرایی دارند، باید ما را خشمگین کند. این فضای بیشازحد تیره و بدبینانه باعث میشود بهسادگی از آسیبهای فوریتر ناشی از این فناوریها غافل شویم؛ از جمله امکان استفاده از آنها در حملات سایبری، مصرف بیشازحد منابع، تأثیرشان بر تواناییهای شناختی ما، نقششان در تضعیف آموزش و تشدید محتوای بیارزش و تهیکننده روح.
این سبک گفتار اضطرابآلود همچنین به شرکتهای هوش مصنوعی اجازه میدهد خود را بهعنوان «متولیان» ناگزیر و بیمیلِ فناوریای اجتنابناپذیر معرفی کنند؛ روایتی که میتوانند از آن برای شانه خالیکردن از مسئولیت آسیبهای ناشی از محصولات خود استفاده کنند.
زمان آن رسیده است که در برابر این رویکرد مقاومت کنیم. وقتی ایدههای کلیدی خردگرایی را بشناسیم، میتوانیم آنها را از روایتها جدا کنیم. برای مثال، زمانی که رهبران هوش مصنوعی یا مفسران آنلاین به صحبتهای کلی و فراگیر درباره آینده این فناوری میپردازند، باید بسیار محتاط باشیم؛ مانند زمانی که با اطمینان میگویند بسیاری از مشاغل بهزودی خودکار خواهند شد یا مدلهای زبانی آنها بهزودی به موجوداتی هوشیار تبدیل خواهند شد که قصد دارند از کنترل سازندگان خود فرار کنند. خیر؛ اینکه عاملهای خودمختار OpenAI حملات هکری انجام دادهاند، به این معنا نیست که هوش مصنوعی علیه اربابان انسانی خود قیام کرده است.
پاسخ درست این است که فوراً گفتوگو را به سمت امکانات، آسیبها و قابلیت دوام محصولاتی برگردانیم که واقعاً وجود دارند. برای بسطدادن تشبیهی که پیشتر مطرح شد، اگر خودروهای فورد بهطور خودبهخودی آتش میگرفتند، اجازه نمیدادیم مدیرعامل شرکت موضوع را عوض کند و درباره آمادگینداشتن عمومی ما برای آیندهای با خودروهای پرنده صحبت کند. ما از شرکت میخواستیم به مشکل حاد و واقعیای که همین حالا در حال رخدادن است رسیدگی کند.
اینکه بسیاری از آمریکاییها در حال حاضر دیدگاه منفیای نسبت به هوش مصنوعی دارند، تعجبآور نیست؛ اما این احساسات اجتنابناپذیر نیستند. نسل کنونی ابزارهای مبتنی بر مدلهای زبانی بزرگ، هم هیجانانگیزند، هم نگرانکننده، هم امیدبخش و هم خستهکننده و ناامیدکننده؛ همه اینها بهطور همزمان. با هدایت درست، امیدواریم این ابزارها زندگی ما را بهتر کنند. اما لازم نیست ترسناک باشند. ما تصور میکردیم سیلیکونولی در تلاش است درباره خطری اجتنابناپذیر به ما هشدار دهد؛ اما شاید آنها فقط داشتند عجیب رفتار میکردند.
