آیا هوش مصنوعی را به‌اندازه کافی جدی می‌گیریم؟

به عقیده The New Yorker بسیاری از مردم نمی‌دانند باید هوش مصنوعی را تا چه اندازه جدی بگیرند. درکش هم دشوار است؛ هم به این دلیل که فناوری هنوز تازه است و هم به این خاطر که هیاهو و تبلیغات مسیر را گمراه می‌کند. مقاومت در برابر تبلیغات اغراق‌آمیز تصمیمی عاقلانه است، چون آینده ذاتاً غیرقابل‌پیش‌بینی است. اما ضد‌هیاهوبودن (anti-hype) که به‌نوعی واکنش ایمنی در برابر شور تبلیغاتی است، لزوماً وضعیت را روشن‌تر نمی‌کند.

در سال ۱۸۷۹، روزنامه تایمز مجموعه گزارش‌هایی در صفحه اول خود درباره لامپ با تیتر «نور الکتریکی ادیسون اظهارات متناقض درباره کارایی آن» (Edison’s Electric Light Conflicting Statements as to Its Utility) منتشر کرد. در بخشی با عنوان «دیدگاه علمی»، روزنامه از یک مهندس برجسته و رئیس مؤسسه فناوری استیونز و نقل کرده بود که «در اعتراض به تبلیغات گسترده درباره نتایج آزمایش‌های ادیسون در زمینه لامپ الکتریکی به‌عنوان موفقیتی شگفت‌انگیز سخن گفته است». او غیرمنطقی نبود: مخترعان دهه‌ها در تلاش برای ساخت لامپی کارآمد شکست خورده بودند. در بسیاری موارد دیگر، چنین رویکرد ضد‌هیاهویی کاملاً موجه بود.

هیاهوی پیرامون هوش مصنوعی دو نوع واکنش ضد‌هیاهو ایجاد کرده است. نوع اول معتقد است که این فناوری به‌زودی به سقف رشد خود می‌رسد. شاید هوش مصنوعی همچنان در برنامه‌ریزی آینده یا تفکر منطقی و صریح در مقابل تفکر شهودی، ناتوان بماند. طبق این دیدگاه، تا زمانی که به چیزی برسیم که «هوش جامع مصنوعی» یا AGI خوانده می‌شود، به پیشرفت‌های بیشتری نیاز داریم. نوع دوم از ضد‌هیاهو می‌گوید جهان اساساً به‌سختی تغییر می‌کند. حتی اگر یک هوش مصنوعی بسیار پیشرفته بتواند به ما کمک کند شبکه برق بهتری طراحی کنیم، باز هم باید مردم را متقاعد کرد تا آن را بسازند. از این منظر، پیشرفت همیشه با گلوگاه‌هایی مهار می‌شود؛ موضوعی که برای برخی افراد مایه آسودگی خاطر است، چون ادغام هوش مصنوعی در جامعه را کندتر می‌کند.

این ایده‌ها قانع‌کننده به نظر می‌رسند و نوعی نگرش آرامِ «باید صبر کنیم و ببینیم» را القا می‌کنند. اما چنین دیدگاهی را در کتاب «عصر مقیاس‌پذیری: تاریخ شفاهی هوش مصنوعی، ۲۰۱۹ تا ۲۰۲۵» (The Scaling Era: An Oral History of AI, 2019-2025) اثری گسترده و آموزنده که گزیده‌ای از مصاحبه‌های «دوارش پاتل» (Dwarkesh Patel)، پادکستر شناخته‌شده، با افراد درون صنعت هوش مصنوعی و منتشرشده توسط Stripe Press است، پیدا نمی‌کنید. پاتل، مصاحبه‌گر نابغه بیست‌وچهارساله، با طرح پرسش‌های فنی دقیقی که دیگران حتی نمی‌دانند چگونه باید بپرسند، مخاطبان زیادی را جذب کرده است. در این کتاب پاتل مجموعه‌ای از مصاحبه‌ها را به‌هم می‌تند تا تصویری کلی از مسیر رشد هوش مصنوعی ارائه دهد. حتی عنوان کتاب به «فرضیه مقیاس‌پذیری» (scaling hypothesis) اشاره دارد؛ ایده‌ای که می‌گوید با بزرگ‌تر کردن مدل‌های هوش مصنوعی، خیلی سریع‌تر آن‌ها را هوشمندتر می‌کنیم. و ظاهراً این فرضیه در حال جواب دادن است.

تقریباً هیچ‌یک از افرادی که با آن‌ها در این کتاب مصاحبه شده، از مدیران بزرگی مثل مارک زاکربرگ گرفته تا مهندسان و تحلیل‌گران ارشد، نگفته‌اند که ممکن است رشد هوش مصنوعی متوقف شود. برعکس، تقریباً همه اشاره می‌کنند که این فناوری با سرعتی شگفت‌انگیز در حال پیشرفت است؛ بسیاری می‌گویند که  AGI ممکن است تا سال ۲۰۳۰ یا حتی زودتر فرابرسد. پیچیدگی‌های تمدن هم ظاهراً بیشترشان را نگران نمی‌کند. بسیاری از پژوهشگران تقریباً مطمئن‌اند که نسل بعدی سیستم‌های هوش مصنوعی که احتمالاً اواخر امسال یا اوایل سال آینده میلادی عرضه می‌شوند، سرنوشت‌ساز خواهند بود. این نسل جدید، امکان پذیرش گسترده «نیروی کار شناختی خودکار» (automated cognitive labor) را فراهم می‌کند و آغازگر دوره‌ای از شتاب فناوری با پیامدهای عمیق اقتصادی و ژئوپلیتیکی خواهد بود.

ماهیت زبانی چت‌بات‌های هوش مصنوعی باعث شده به‌راحتی بتوان تصور کرد که از آن‌ها برای نوشتن، وکالت، آموزش، خدمات مشتری و دیگر وظایف مرتبط با زبان استفاده شود. اما تمرکز توسعه‌دهندگان هوش مصنوعی لزوماً بر این حوزه‌ها نیست. «لئوپولد آشِن‌برِنِر» ( Leopold Aschenbrenner)، پژوهشگر سابق بخش هم‌راستایی هوش مصنوعی در OpenAI به پاتل می‌گوید. «یکی از نخستین مشاغلی که خودکار می‌شود، شغل پژوهشگر یا مهندس هوش مصنوعی خواهد بود.» آشن‌برنر که در سال ۲۰۲۱ و در نوزده‌سالگی به‌عنوان دانش‌آموخته برتر دانشگاه کلمبیا شناخته شد، در وب‌سایتش اشاره کرده که در «زندگی قبلی‌اش» درباره رشد اقتصادی مطالعه می‌کرده! توضیح می‌دهد که اگر شرکت‌های فناوری بتوانند «ارتش‌هایی از پژوهشگران هوش مصنوعی» بسازند و آن پژوهشگران راه‌هایی برای باهوش‌تر کردن سیستم‌ها بیابند، نتیجه می‌تواند یک حلقه بازخورد هوشمندی باشد. آشن‌برنر می‌گوید: «در این حالت، همه‌چیز می‌تواند خیلی سریع پیش برود.» پژوهشگران خودکار می‌توانند به حوزه‌هایی مانند رباتیک گسترش یابند و اگر کشوری در چنین تلاشی از دیگران پیشی بگیرد، به‌گفته او، این امر «می‌تواند در رقابت نظامی تعیین‌کننده باشد.» او حتی پیشنهاد می‌کند که در نهایت ممکن است خود را در وضعیتی بیابیم که دولت‌ها درباره شلیک موشک به مراکز داده‌ای که به‌نظر می‌رسد در آستانه خلق «ابرهوش» هستند، تصمیم‌گیری کنند. آشن‌برنر نتیجه در انتها می‌گیرد: «عملاً در موقعیتی خواهیم بود که مراکز داده را با تهدید حمله هسته‌ای محافظت می‌کنیم. شاید این حرف کمی دیوانه‌وار به نظر برسد.»

هرچند این شدیدترین سناریوی ممکن است؛ اما حتی سناریوهای کم‌تنش‌تر هم هنوز پرتنش‌اند. «تایلر کوون» (Tyler Cowen) اقتصاددان دیدگاهی تدریجی‌تر دارد. او طرفدار دیدگاه «زندگی پیچیده است» است و استدلال می‌کند که ممکن است مسائلی در جهان وجود داشته باشند که هر چقدر هم که رایانه‌ها باهوش شوند، نتوانند آن‌ها را حل کنند. او اشاره می‌کند که در سطح جهانی، تعداد پژوهشگران در حال افزایش است و «چین، هند و کره جنوبی اخیراً استعدادهای علمی را وارد اقتصاد جهانی کرده‌اند» ولی این امر هنوز به یک شتاب فناورانه در مقیاس علمی-تخیلی منجر نشده است. در عوض، او معتقد است که هوش مصنوعی ممکن است دوره‌ای از نوآوری را آغاز کند که تقریباً مشابه تحولات میانه قرن بیستم باشد؛ یعنی همان زمانی که به گفته پاتل «جهان در عرض چند دهه از موشک‌های V2 به فرود بر ماه رسید». این دیدگاه شاید کمی فروکاهنده به نظر برسد و در مقایسه با دیدگاه آشن‌برنر نیز همین‌طور است. اما از سوی دیگر، ببینیم آن چند دهه چه دستاوردهایی داشت: بمب اتم، ماهواره‌ها، سفر هوایی با جت، انقلاب سبز، رایانه‌ها، جراحی قلب باز و کشف DNA.

«ایلیا اسوتسکِوِر» (Ilya Sutskever)، دانشمند ارشد پیشین OpenAI، احتمالاً محتاط‌ترین صدا در کتاب پاتل است. وقتی پاتل از او می‌پرسد که چه زمانی فکر می‌کند AGI فرامی‌رسد، پاسخ می‌دهد: «در دادن عددی دقیق تردید دارم.» بنابراین پاتل مسیر دیگری را پیش می‌گیرد و از سوتسکِوِر می‌پرسد که به نظرش چه مدت ممکن است هوش مصنوعی «از نظر اقتصادی بسیار ارزشمند باشد، مثلاً در مقیاس هواپیماها»، پیش از آنکه بخش‌های وسیعی از اقتصاد را خودکار کند. سوتسکِوِر، با اتخاذ موضعی میان کوون و آشن‌برنر، حدس می‌زند که مرحله گذارِ «هوش مصنوعی در نقش هواپیما» ممکن است «چند سال خوب» طول بکشد؛ دوره‌ای که بعدها، وقتی به عقب نگاه کنیم «احساس کنیم تنها یکی دو سال بوده است». شاید این شبیه دوره بین سال‌های ۲۰۰۷؛ یعنی زمان معرفی آیفون تا حدود ۲۰۱۳ باشد، زمانی که یک میلیارد نفر صاحب گوشی هوشمند شدند. با این تفاوت که این بار، فناوری جدیدی که به‌سرعت همه‌گیر می‌شود، به‌اندازه کافی باهوش خواهد بود تا به ما در اختراع فناوری‌های تازه‌تر نیز کمک کند.

اغواکننده است که بگذاریم این دیدگاه‌ها در فضای خودشان وجود داشته باشند، انگار دارید تریلر فیلمی را می‌بینید که احتمالاً هرگز نسخه اصلی آن را نخواهید دید. در نهایت، هیچ‌کس واقعاً نمی‌داند چه اتفاقی خواهد افتاد! اما در واقع، ما چیزهای زیادی می‌دانیم. در حال حاضر، هوش مصنوعی می‌تواند درباره بسیاری از موضوعات در سطح دکترای تخصصی بحث کند و توضیح دهد، پیش‌بینی کند که پروتئین‌ها چگونه تا می‌خورند، برنامه‌نویسی کند، ارزش یک میم‌کوین را بالا ببرد، و کارهای دیگر. همچنین می‌توانیم مطمئن باشیم که در چند سال آینده به‌طور قابل‌توجهی بهبود خواهد یافت و مردم راه‌هایی برای استفاده از آن پیدا خواهند کرد که بر نحوه زندگی، کار، کشف، ساختن و خلق کردن ما تأثیر می‌گذارد. هنوز پرسش‌هایی درباره اینکه این فناوری تا کجا می‌تواند پیش برود وجود دارد و اینکه آیا از نظر مفهومی واقعاً «فکر می‌کند»، خلاق است یا هر چیز دیگری. با این حال، در مدل ذهنی ما از یک یا دو دهه آینده، مهم است که ببینیم دیگر هیچ سناریویی وجود ندارد که در آن هوش مصنوعی به حاشیه رانده شود. پرسش واقعی درباره درجه‌های شتاب فناوری است.

«درجه‌های شتاب فناوری» (Degrees of technological acceleration) ممکن است چیزی به نظر برسد که فقط دانشمندان نسبت به آن وسواس دارند، اما در واقع موضوعی سیاسی است. «آجیا کوترا» (Ajeya Cotra)، مشاور ارشد در بنیاد Open Philanthropy، سناریوی «دنیای رؤیایی» را چنین توصیف می‌کند که در آن شتاب هوش مصنوعی آهسته‌تر پیش می‌رود و به پاتل می‌گوید: «در این دنیا، علم به‌گونه‌ای است که گذر از سطوح مختلف هوش به‌سرعت ممکن نیست.» اگر حلقه «هوش مصنوعی که هوش مصنوعی را خودکار می‌کند» دیرتر شکل بگیرد «در آن صورت فرصت‌های زیادی برای جامعه وجود دارد تا به‌صورت رسمی و فرهنگی، کاربردهای هوش مصنوعی را تنظیم و کنترل کند.»

البته، کوترا می‌داند که ممکن است چنین نشود و می‌گوید: «من نگرانم که بسیاری از چیزهای قدرتمند خیلی سریع پدیدار شوند.» محتمل بودنِ آزاردهنده‌ترین سناریوها، پژوهشگران هوش مصنوعی را در موقعیت دشواری قرار داده است. آن‌ها به پتانسیل این فناوری باور دارند و نمی‌خواهند آن را دست‌کم بگیرند؛ از طرفی، به‌درستی نگران آن هستند که در نوعی آخرالزمان هوش مصنوعی دخیل شوند و درعین‌حال، از محتمل‌ترین فرضیات تخیلی آن نیز هیجان‌زده شده‌اند. این ترکیب از عوامل، بحث پیرامون هوش مصنوعی را به دو سرِ افراط می‌کشاند. پیام اصلی برای ما که دانشمند کامپیوتر نیستیم این است که لازم نیست وارد بحث شویم؛ هوش مصنوعی یا شکست می‌خورد یا جهان را از نو می‌سازد. در نتیجه، با اینکه هوش مصنوعی در میان ماست، تصور پیامدهای آن عمدتاً به دست افراد فنی صورت می‌گیرد. هوش مصنوعی بر همه ما تأثیر خواهد گذاشت، اما سیاستی درباره آن هنوز شکل نگرفته است. قابل‌درک است که جامعه مدنی به‌کلی درگیر بحران‌های سیاسی و اجتماعی حول دونالد ترامپ است و ظاهراً وقتی برای دگرگونی فناورانه‌ای که در آستانه بلعیدن ماست ندارد. اما اگر به آن توجه نکنیم، کسانی که این فناوری را می‌سازند، به‌تنهایی مسئول خواهند بود که چگونه زندگی ما را تغییر دهد.

این افراد بدون شک باهوش هستند، اما بدون کوچک‌ترین بی‌احترامی‌ای باید بگوییم که آن‌ها نماینده مردم عادی نیستند؛ زیرا مهارت‌ها و تمایلات خاصی ارزش‌های ویژه‌ای دارند. در یکی از بهترین لحظات کتاب پاتل، او از سوتسکِوِر می‌پرسد که پس از اختراع AGI قصد دارد چه کند. آیا از زندگی در نوعی «خانه سالمندان اقتصاد پساکمیابی» راضی نخواهد بود؟ سوتسکِوِر در پاسخ می‌گوید: «سؤال اینکه من یا دیگران پس از AGI چه خواهیم کرد، بسیار پیچیده است. مردم در کجا معنا پیدا خواهند کرد؟» او ادامه می‌دهد؛ اما این سؤالی است که هوش مصنوعی می‌تواند به ما کمک کند. تصور می‌کنم ما روشن‌تر خواهیم شد، چون با یک AGI تعامل خواهیم داشت. این تعامل به ما کمک می‌کند جهان را درست‌تر ببینیم و در نتیجه از درون بهتر شویم. تصور کنید با بهترین معلم مدیتیشن صحبت می‌کنید. این کار مفید خواهد بود.

آیا اکثر مردم؛ یعنی افرادی که دانشمند کامپیوتر نیستند و زندگی خود را به خلق هوش مصنوعی اختصاص نداده‌اند، فکر می‌کنند که ممکن است معنای زندگی‌شان را از طریق صحبت با چنین موجودی بیابند؟ آیا اکثر مردم باور خواهند کرد که یک ماشین آن‌ها را «از درون بهتر» می‌کند؟ مشکل این نیست که این دیدگاه‌ها غیرمعقول‌اند. (ممکن است، به طور شگفت‌انگیزی، درست از آب درآیند.) اما این به این معنا نیست که جهان‌بینی پشت آن‌ها باید ستاره راهنمای ما در ورود به عصر فناوری بعدی باشد.

چالش این است که بیان دیدگاه‌های جایگزین؛ دیدگاه‌هایی که قاطعانه توضیح می‌دهند چه چیزی از هوش مصنوعی می‌خواهیم و چه چیزی نمی‌خواهیم، نیازمند کار فکری جدی و گسترده‌ای است. کاری که حوزه‌های سیاست، اقتصاد، روان‌شناسی، هنر و دین را در بر می‌گیرد و زمان انجام این کار نیز روبه‌اتمام است. در این مرحله، این وظیفه ما که بیرون از حوزه هوش مصنوعی هستیم است که خودمان را وارد گفت‌وگو کنیم. ما چه چیزهایی را در انسان‌ها و در جامعه ارزشمند می‌دانیم؟ می‌خواهیم هوش مصنوعی در چه زمینه‌هایی به ما کمک کند و در چه مواقعی باید کنار بماند؟ اگر هوش مصنوعی مدارس را با صفحه‌نمایش جایگزین کند، آیا آن را موفق یا شکست‌خورده می‌دانیم؟ اگر نهادهای سنتی مانند دانشگاه‌ها، دولت‌ها، حرفه‌ها را جایگزین کند، چه؟ اگر یک هوش مصنوعی دوست، محرم راز یا معشوق شود، آیا از مرزها عبور کرده و چرا؟ شاید موفقیت هوش مصنوعی را بتوان با میزان بازگرداندن تعادل به سیاست و پایداری به زندگی‌مان یا تقویت نهادهایی که در غیر این صورت ممکن است تحلیل بروند سنجید. شاید شکست آن را بتوان در میزان تضعیف ارزش ذهن‌ها و آزادی انسانی دید. به‌هرحال، برای کنترل هوش مصنوعی، باید درباره یک مجموعه جدید از ارزش‌های انسانی بحث و آن‌ها را مطرح کنیم که در گذشته مجبور نبودیم مشخص کنیم. در غیر این صورت، آینده را به دست گروهی می‌سپاریم که عمدتاً می‌خواهند بدانند فناوری‌شان کار می‌کند یا نه.