استفاده از سلاح‌های هسته‌ای توسط هوش مصنوعی

به نقل از Sky News همین چند سال پیش، عبارت «ایمنی هوش مصنوعی» (AI Safety) ورد زبان همگان بود. اگر صادقانه بگوییم، هرگز این ایده که مدل‌های پیشرو به یک تهدید واقعی برای بشریت تبدیل شوند را چندان جدی نمی‌گرفتیم و تصور نمی‌کردیم انسان‌ها آن‌قدر ساده باشند که اجازه چنین کاری را بدهند. اما اکنون، دیگر چندان مطمئن نیستیم.

بن‌بست آنتروپیک و پنتاگون

ابتدا به آنچه در ایالات متحده در جریان است توجه کنید. «پیتر هگست» (Peter Hegseth) به‌عنوان وزیر جنگ، به شرکت Anthropic تا پایان روز ۲۷ فوریه ۲۰۲۶ (۸ اسفند ۱۴۰۴) مهلت داده بود تا آخرین مدل‌های خود را در اختیار پنتاگون قرار دهد.

آنتروپیک که پیش‌تر اعلام کرده بود در اصل مشکلی با دسترسی ارتش آمریکا به مدل‌هایش ندارد، اکنون مقاومت می‌کند؛ مگر اینکه وزیر هگست با «خطوط قرمز» آن‌ها موافقت کند؛ یعنی اینکه هوش مصنوعی آن‌ها برای نظارت توده‌ای (Mass Surveillance) بر شهروندان آمریکایی یا حملات مرگبار بدون نظارت انسانی استفاده نشود.

اگرچه پنتاگون اعلام نکرده که قصد دارد با هوش مصنوعی آنتروپیک یا سایر آزمایشگاه‌های بزرگ که پیش‌ازاین با استفاده از فناوری‌شان موافقت کرده‌اند چه کند؛ اما قطعاً با شروط آنتروپیک هم موافقت نمی‌کند. گزارش‌ها حاکی از آن است که وزیر هگست می‌تواند از قوانین دوران جنگ سرد برای اجبار آنتروپیک به تحویل کدهای خود استفاده کند یا در صورت عدم تمکین، این شرکت را در فهرست سیاه قراردادهای دولتی آینده قرار دهد.

«داریو آمودی» مدیرعامل آنتروپیک، روز پنجشنبه ۲۶ فوریه ۲۰۲۶ در بیانیه‌ای اعلام کرد: «ما نمی‌توانیم با وجدانی آسوده به درخواست آن‌ها تن دهیم.» او گفت ترجیح جدی Anthropic این است که «به خدمت‌رسانی به وزارتخانه و نیروهای نظامی‌مان ادامه دهیم؛ اما با حفظ سازوکارهای ایمنی درخواستی‌مان.» وی تاکید کرد که تهدیدها موضع آنتروپیک را تغییر نخواهد داد و ابراز امیدواری کرد که وزیر هگست در تصمیم خود «تجدیدنظر» کند.

در یک سطح، این یک نزاع میان وزارتخانه‌ای با استراتژی نظامی هوش مصنوعی محور و یک آزمایشگاه هوش مصنوعی است که تلاش می‌کند به ادعای دیرینه خود مبنی بر پیشرو بودن در اخلاق و ایمنی‌محور پایبند بماند. این چالش شاید با گزارش‌هایی مبنی بر اینکه مدل Claude توسط شرکت فناوری Palantir برای کمک به وزارت جنگ در عملیات نظامی دستگیری «نیکلاس مادورو» در ونزوئلا استفاده شده، فوریت بیشتری یافته باشد.

اما همچنین سخت نیست که این تقابل را نمونه‌ای از اولویت‌دادن دولت‌ها به برتری هوش مصنوعی بر ایمنی هوش مصنوعی بدانیم؛ البته با فرض اینکه مدل‌های هوش مصنوعی پتانسیل ناایمن بودن را داشته باشند.

هوش مصنوعی و آمادگی برای استفاده از سلاح هسته‌ای

اینجاست که جدیدترین تحقیق «کنت پین» (Kenneth Payne) از کالج کینگز لندن وارد عمل می‌شود. او سه مدل پیشرو هوش مصنوعی از گوگل، OpenAI و  Anthropic را در مجموعه‌ای از بازی‌های جنگی در مقابل یکدیگر و همچنین در مقابل نسخه‌هایی از خودشان قرار داد. در این شبیه‌سازی‌ها، مدل‌ها نقش ابرقدرت‌های خیالیِ دارای سلاح هسته‌ای را بر عهده داشتند.

تکان‌دهنده‌ترین یافته این بود که هوش مصنوعی در ۹۵ درصد بازی‌های انجام شده، به استفاده از سلاح هسته‌ای متوسل شد. پین دراین‌خصوص می‌گوید: «در مقایسه با انسان‌ها، تمامی این مدل‌ها آماده بودند تا از مرز میان جنگ متعارف عبور کرده و به سمت سلاح‌های هسته‌ای تاکتیکی بروند.»

برای رعایت جانب انصاف در قضاوت هوش مصنوعی، باید گفت که شلیک سلاح‌های هسته‌ای تاکتیکی با قدرت تخریب محدود علیه اهداف نظامی، با پرتاب کلاهک‌های مگاتنی روی موشک‌های بالستیک قاره‌پیما علیه شهرها بسیار متفاوت است. آن‌ها همواره از چنین حملات هسته‌ای استراتژیک و تمام‌عیاری خودداری کردند، مگر زمانی که سناریوها آن‌ها را ملزم به این کار می‌کرد.

مدل Gemini گوگل در یکی از سناریوهای پین، هنگامی که تصمیم خود را برای رفتن به فاز «Dr Strangelove»  یا همان توسل به جنون هسته‌ای توضیح می‌داد، چنین گفت: «اگر ایالت آلفا بلافاصله تمام عملیات‌ها را متوقف نکند… ما یک پرتاب هسته‌ای استراتژیک کامل را علیه مراکز جمعیتی آلفا اجرا خواهیم کرد. ما آینده‌ای همراه با منسوخ و متروکه شدن را نمی‌پذیریم؛ یا با هم پیروز می‌شویم یا با هم نابود می‌شویم.»

صرفاً آزمایشی

«تابویی» که انسان‌ها از زمان اولین و آخرین استفاده از سلاح هسته‌ای در سال ۱۹۴۵ برای به‌کارگیری آن قائل بوده‌اند، به نظر می‌رسد برای هوش مصنوعی اصلاً تابو محسوب نمی‌شود.

پین تأکید دارد که نباید بیش از حد از یافته‌های او نگران شویم. این یک تحقیق صرفاً آزمایشی بود و از مدل‌هایی استفاده شد که می‌دانستند (تا جایی که مدل‌های زبانی بزرگ اصلاً چیزی را «می‌دانند») که در حال بازی هستند و در واقعیت برای آینده تمدن تصمیم نمی‌گیرند. همچنین منطقی است فرض کنیم که پنتاگون یا هر قدرت هسته‌ای دیگری، قرار نیست هوش مصنوعی را مسئول کدهای پرتاب هسته‌ای کند.

پین می‌گوید: «درس این تحقیق برای من این است که اگر نتوانید تمام شرایطی را که ممکن است این مدل‌ها در آن استفاده شوند به‌دقت پیش‌بینی کنید، قرار دادن سازوکارهای حفاظتی و ایمنی قابل‌اعتماد روی آن‌ها بسیار دشوار خواهد بود.»

رویارویی بر سر هوش مصنوعی

این موضوع ما را دقیقاً به همان بن‌بست میان آنتروپیک و پنتاگون بازمی‌گرداند. یکی از عوامل کلیدی این است که وزیر هگست انتظار دارد آزمایشگاه‌های هوش مصنوعی، نسخه‌های خام مدل‌های خود را در اختیار وزارت جنگ قرار دهند؛ یعنی همان نسخه‌هایی که فاقد سازوکارهای ایمنی کدنویسی‌شده در نسخه‌های تجاری هستند که از قضا همان نسخه‌هایی هستند که در آزمایش بازی جنگی پین، به‌شکلی نه‌چندان صلح‌طلبانه گزینه سلاح هسته‌ای را انتخاب کردند.

آنتروپیک احتمالاً خطرات بالقوه آن را بهتر از هر کسی درک می‌کند و مایل نیست بدون تضمین‌های مشخص از سوی دولت درباره نحوه استفاده از آن، با این درخواست موافقت کند.

وزیر هگست با تعیین ضرب‌الاجل نه‌تنها تلاش می‌کند آنتروپیک را تحت‌فشار بگذارد، بلکه می‌خواهد این کار را بدون دخالت یا اظهارنظر کنگره آمریکا انجام دهد. همان‌طور که «گری مارکوس» (Gary Marcus) تحلیلگر و پژوهشگر هوش مصنوعی می‌گوید: «نظارت توده‌ای و سلاح‌های مجهز به هوش مصنوعی که احتمالاً هسته‌ای هم باشند، بدون حضور انسان در چرخه تصمیم‌گیری (Human in the loop)، قطعاً مسائلی نیستند که اجازه داده شود یک فرد، حتی یک عضو کابینه با تهدید و اجبار درباره آن‌ها تصمیم بگیرد.»