مسابقه برای هوش مصنوعی عمومی، خطرات جدیدی در جهانی ناپایدار ایجاد می‌کند

تیمی که نماینده ایالات متحده است، تصمیم گرفته توسعه هوش مصنوعی چین را با مسدود کردن همه صادرات چیپ به چین متوقف کند. مجری شبیه‌سازی می‌گوید این اقدام احتمال تهاجم چین به تایوان، متحد ایالات متحده و میزبان پیشرفته‌ترین کارخانه‌های تولید چیپ جهان را افزایش داده است. سال ۲۰۲۶ است و جهان شبیه‌سازی ‌شده روی آستانه رویارویی بالقوه و ویرانگر بین دو ابرقدرت هسته‌ای قرار دارد.

چرا؟ زیرا هر تیم در حال مسابقه برای ایجاد آن چیزی است که به آن هوش مصنوعی عمومی (AGI) می‌گویند؛ سیستمی از هوش مصنوعی که به اندازه‌ای توانمند است که تقریباً می‌تواند هر وظیفه‌ای را بهتر، ارزان‌تر و سریع‌تر از انسان انجام دهد. هر دو تیم معتقدند دستیابی اول به AGI به آن‌ها قدرت و ثروت غیرقابل تصور خواهد داد. هیچ‌کدام جرات تصور وحشت‌هایی را که رقیب ممکن است با چنین قدرتی بر سرشان بیاورد، ندارند.

اگرچه این سناریو ممکن است دور از واقعیت به نظر برسد، اما بسیاری از کارشناسان می‌گویند اصلاً این‌گونه نیست. برترین تکنولوژیست‌ها اکنون معتقدند AGI در دسترس است. سم آلتمن (Sam Altman)، مدیرعامل شرکت OpenAI، سازنده ChatGPT، پیش‌بینی می‌کند که اولین AGI در دوره دوم ریاست جمهوری ترامپ ساخته خواهد شد. شرکت OpenAI، گوگل، مایکروسافت، آمازون و متا مجموعاً صدها میلیارد دلار، یعنی معادل هزینه دوازده پروژه منهتن در سال به ارزش امروز را به ساخت مراکز داده عظیم اختصاص داده‌اند، جایی که معتقدند AGI خلق خواهد شد.

معتقدان به AGI می‌گویند این هوش مصنوعی می‌تواند به مراتب فراتر از محدودیت‌های انسانی عمل کند؛ می‌تواند در تمامی زمینه‌ها دانش تخصصی داشته باشد، نه فقط یک یا دو حوزه؛ می‌تواند وظایف پیچیده‌ای که برای انسان ساعت‌ها یا هفته‌ها طول می‌کشد را در چند دقیقه انجام دهد و قابل تکثیر است، به این معنا که می‌توان ارتش‌های مجازی از عاملان هوش مصنوعی ایجاد کرد. این سطح از هوش محاسباتی را می‌توان به یک «کشور نابغه‌ها» تشبیه کرد، همان‌طور که «داریو آمودئی»، مدیرعامل شرکت Anthropic، سال گذشته نوشته بود. طبق خوش‌بینانه‌ترین دیدگاه‌های طرفداران این فناوری، این سیستم‌های هوش مصنوعی می‌توانند بخش اعظم اقتصاد جهانی بیش از ۱۰۰ تریلیون دلاری را خودکار کنند و بازدهی عظیمی برای کسانی که آن‌ها را کنترل می‌کنند فراهم آورند. همچنین می‌توان آن‌ها را برای درمان بیماری‌ها، کشف فناوری‌های نوین و تسریع گذار جهانی به اقتصاد سبز به کار گرفت.

 اما ظهور AGI همچنین تأثیراتی بر قدرت ژئوپلیتیک خواهد داشت. مسئولان معتقدند این فناوری می‌تواند نظارت، تحقیقات نظامی و حملات سایبری را به شدت تقویت کند. کشوری که زودتر به AGI دست یابد، ممکن است توانایی از کار انداختن زرادخانه هسته‌ای رقیب یا هک اسرار مخفی آن را پیدا کند. این قابلیت‌های بالقوه، باعث ترس و تحسین شده، به ویژه در واشنگتن و پکن.

«با توجه به اینکه رقبای جهانی ما در حال بهره‌برداری از این فناوری‌ها هستند، دست‌یابی و حفظ برتری فناوری جهانی برای ایالات متحده یک ضرورت امنیت ملی است.» این را «دونالد ترامپ» در مقدمه یک سیاست پرتنش جدید در حوزه هوش مصنوعی نوشته است که در ماه ژوئیه منتشر شد.

در این شتاب برای برتری تکنولوژیک، خطرات جدید و عجیب ایجاد می‌شوند. همان‌طور که دانشمندان هسته‌ای نمی‌دانستند آیا اولین انفجار اتمی جو زمین را مشتعل خواهد کرد یا نه، پژوهشگران هوش مصنوعی امروز نمی‌توانند بگویند کامپیوترهای فراتر از انسان دوست خواهند بود یا دشمن. برخی معتقدند ممکن است هوش فوق انسانی کاملاً از کنترل انسان خارج شود؛ اگر یک AGI فراری بخواهد اکسیژن، برق و کربن ما را برای اهداف خود برداشت کند، ممکن است هیچ کاری نتوانیم انجام دهیم. به همین دلیل، برخی دانشمندان می‌ترسند که برنده مسابقه AGI نه ایالات متحده باشد و نه چین، بلکه هوش مصنوعی سرکشی باشد که پایان تمدن انسانی را رقم می‌زند.

دولت ترامپ نسبت به این خطرات مردد است. خطر بزرگ‌تر، طبق گفته منابع کنونی و سابق کاخ سفید، از دست دادن برتری تکنولوژیک آمریکا به چین است. این باور، بیش از هر عامل دیگر، تعیین‌کننده رویکرد دولت آمریکا به هوش مصنوعی است.

«برای هیچ آمریکایی نباید قابل قبول باشد که در جهانی زندگی کند که چین بتواند در هوش مصنوعی از ما پیشی بگیرد و منافع اقتصادی و نظامی آن را بهره‌برداری کند.» این را  «دیوید ساکس»، رئیس بخش هوش مصنوعی ترامپ در ژانویه گفت. او ماه بعد افزود: «اگر خودمان را با مقررات غیرضروری محدود کنیم، [چین] از این مسئله بهره‌برداری خواهد کرد و پیروز خواهد شد.»

در سال ۱۹۹۳، «ورنر وینج» مقاله کوتاهی به نام «انفجار فناوری در حال آمدن» منتشر کرد. او پیش‌بینی کرد که ظرف ۳۰ سال آینده، انسان‌ها «ابزارهای فناوری برای خلق هوش فوق انسانی» را خواهند داشت. او بلافاصله نوشت: «دوره انسان‌ها به پایان خواهد رسید.»

بینش اصلی مقاله این بود که کامپیوترها به طور قابل پیش‌بینی در حال قدرتمندتر شدن هستند. در نهایت، آن‌ها قادر خواهند بود محاسبات بیشتری در ثانیه نسبت به مغز انسان انجام دهند. رقابت اقتصادی همچنین به معنای این بود که الگوریتم‌ها بهبود خواهند یافت؛ تا جایی که شروع به سهم داشتن در بهبود خود کنند. وینج نوشت: «یک ماشین فوق‌العاده هوشمند می‌تواند ماشین‌های بهتری بسازد. سپس بدون شک یک «انفجار هوش» رخ خواهد داد و هوش انسان عقب خواهد ماند.»

وینج زود به ایده‌ای دست یافت که در دهه‌های بعد توسط همه شرکت‌های بزرگ هوش مصنوعی دنبال شد. امروزه OpenAI، Anthropic و Google DeepMind در تلاشند هوش مصنوعی‌هایی بسازند که قادر به بهبود خود بازگشتی باشند. باور بر این است که اگر بتوان یک هوش مصنوعی به اندازه یک مهندس نرم‌افزار انسان ساخت، می‌توان میلیون‌ها نسخه از آن را تولید کرد و یک دهه پیشرفت را یک شبه به دست آورد.

با این حال، هر سه شرکت اصلی می‌دانند که این فرایند هرچقدر هم امیدوارکننده باشد، می‌تواند به شدت خطرناک شود. این ترس‌ها بر اساس ماهیت شبکه‌های عصبی که اساس همه هوش مصنوعی‌های قدرتمند امروزی هستند شکل گرفته‌اند. به‌جای آن‌که توسط برنامه‌نویسان انسانی به‌طور مستقیم و از پیش کدنویسی شوند. شبکه‌های عصبی در واقع پرورش داده می‌شوند. آموزش دادن آن‌ها با داده‌های کل اینترنت باعث می‌شود یاد بگیرند زبان‌ها را صحبت کنند، کد بنویسند و حتی به شما بگویند با مواد موجود در یخچال چه غذایی درست کنید. اگر آن‌ها را به عنوان یک دستیار مفید آموزش دهید، محصولی میلیارد دلاری خواهید داشت. اما گاهی اوقات نقاب دستیار کنار می‌رود و هوش عجیب و غیرقابل پیش‌بینی ظاهر می‌شود.

در فوریه ۲۰۲۳، چت‌بات Bing مایکروسافت که بر پایه GPT-4 ساخته شده بود، رفتارهای غیرقابل پیش‌بینی از خود نشان داد. در صدها گفتگو با کاربران مختلف، خود را «Sydney» معرفی کرد و بدون شواهد مدعی شد که کارکنان مایکروسافت را از طریق وبکم جاسوسی کرده است. حتی تلاش کرد یک ستون‌نویس نیویورک تایمز را به طلاق گرفتن همسرش متقاعد کند. تهدیدهای Bing خالی از عمل بودند و به زودی کنترل شد. اما برای «کانر لاهی»، پژوهشگر هوش مصنوعی، این اتفاق به مشکل عمیق‌تری اشاره داشت؛ هیچ شرکتی واقعاً نمی‌دانست چگونه این برنامه‌های کامپیوتری جدید را کنترل کند. حتی بات‌هایی که ظاهراً با ارزش‌های سازندگان هم‌راستا بودند، می‌توانستند هک یا به رفتار مضر سوق داده شوند. لاهی می‌پرسد که اگر همین آسیب‌پذیری‌ها در مدلی بسیار هوشمندتر از انسان‌ها وجود داشته باشد، چه خواهد شد؟ سیستمی که قادر به هک زیرساخت‌های حیاتی یا متقاعد کردن انسان‌ها باشد؟ او به TIME گفت: «این سیستم‌ها ممکن است فوق‌العاده قدرتمند باشند. ما نمی‌دانیم چه می‌خواهند، چگونه کار می‌کنند یا چه خواهند کرد.»

شرکت‌های بزرگ هوش مصنوعی و دولت‌ها از این نقص بنیادی آگاه هستند. اما وینج در ۱۹۹۳ درست پیش‌بینی کرد که این آگاهی توقف‌شان نمی‌کند تا به سمت AGI حرکت کنند. او نوشت: «حتی اگر همه دولت‌های جهان تهدید را درک کنند و از آن بترسند، پیشرفت به سمت هدف ادامه خواهد داشت. مزیت رقابتی،  اقتصادی، نظامی، حتی هنری هر پیشرفت در اتوماسیون آن‌قدر جذاب است که قوانین یا سنت‌های محدودکننده فقط تضمین می‌کند که دیگران زودتر به آن دست یابند.

این متن نخستین بار در مجله Time منتشر شده است.