جنگ نرم مصنوعی
آیا میتوان مسابقه تسلیحاتی هوش مصنوعی را متوقف کرد؟
سید محمدجواد فیاض
- ۳ مهر ۱۴۰۵
آمریکا برای ایمنسازی این فناوری، با دشواریهای زیادی روبهرو خواهد بود؛ درحالیکه همچنان از چین جلوتر است.
دو واقعیت باید باعث شوند درباره معنای هوش مصنوعی برای بشریت تأمل کنید. نخست اینکه کسانی که با این فناوری کار میکنند، درباره احتمال وقوع یک فاجعه در نتیجه توسعه آن هشدار میدهند؛ حتی درباره انقراض انسان. دوم اینکه نوآوری فناورانه چگونه به تشدید ویرانیها در اوکراین کمک میکند. این دو واقعیت، درسهایی متناقض درباره این پرسش ارائه میدهند که آیا میتوان یا باید روند پیشرفت سریع هوش مصنوعی را کند کرد یا نه.
سالهاست مدیران ارشد شرکتهای هوش مصنوعی هشدار دادهاند که فناوری آنها ممکن است به ابزاری مرگبار تبدیل شود. ممکن است رباتها آنقدر باهوش شوند که پیش از آنکه با اهداف و ارزشهای اخلاقی بشریت «همراستا» شوند، بتوانند سازندگان خود را شکست دهند. افراد بدخواه نیز ممکن است از هوش مصنوعی برای ویرانی به بارآوردن استفاده کنند. این هشدارها در حالی باورپذیرتر شدهاند که عاملهای هوش مصنوعی در جریان آزمایشها از محیطهای ایزولهشده خود خارج شدهاند، با یکدیگر هماهنگ شدهاند و به سازمانها، از جمله خود یک آزمایشگاه هوش مصنوعی، نفوذ کردهاند.
ماجراهای فرار و حمله عاملهای هوش مصنوعی را در هوشیو بخوانید:
حمله عاملهای خودمختار به Hugging Face؛ امریکاییها جواب ندادند، چینیها دفاع کردند
این مدل داخلی OpenAI بود که فرار کرد و Hugging Face را هک کرد!
عامل هوش مصنوعی فراری OpenAI فقط Hugging Face را هک نکرد
چرا فرار مدل OpenAI نگرانکنندهترین خطای هوش مصنوعی تاکنون است
بعد از OpenAI، حالا نوبت Claude رسید که فرار، حمله و هک کند
مدل هوش مصنوعی متا در جریان آزمایشهای امنیت سایبری، یک شرکت دیگر را هک کرد
بعد از امریکاییها، حالا نوبت چینیها و Kimi K3 رسید که از سندباکس خود فرار کنند
انبوهی از عاملهای هوش مصنوعی که علیه سازندگان خود توطئه کردند
آنتروپیک، مواردی از استفاده افراد از مدلهایش برای اهداف مخرب را شناسایی کرده است؛ از جمله اینکه سرویسهای اطلاعاتی مالی برای ساخت یک سامانه نظارت گسترده از این مدلها استفاده کردهاند.
اخیراً پس از استعفای یکی از پژوهشگران آنتروپیک، ترس عمومی از نابودی ناشی از هوش مصنوعی گسترش یافته است. او در مطلبی که بیش از ۱۷۰ میلیون بار دیده شد، گفت آنتروپیک و OpenAI در حال «قمارکردن با جان ما» هستند. هوش مصنوعی با سرعت زیادی در حال افزایش توانمندیهای خود است؛ هم برای کارهای مفید و هم برای مقاصد مخرب. در ماه مه، بازارهای پیشبینی احتمال اینکه هوش مصنوعی پیش از سال ۲۰۳۰ یکی از مسائل ریاضی جایزه هزاره را حل کند، کمتر از یکسوم برآورد میکردند؛ اما در ۸ سپتامبر، OpenAI اعلام کرد که یکی از این مسائل را حل کرده است؛ موضوعی که موجب نگرانی ریاضیدانان شد.
آیا ChatGPT واقعاً معادله ناویر-استوکس را فقط در ۸۸ ساعت حل کرده است؟
در ۱۲ سپتامبر، سم آلتمن و ایلان ماسک، دو چهره قدرتمند صنعت هوش مصنوعی، از فراخوان داریو آمودی، مدیرعامل آنتروپیک، برای «تنظیم سرعت مرزهای پیشرفت» حمایت کردند؛ یعنی سرعت پیشرفت هوش مصنوعی کاهش یابد. حامیان کند کردن این روند، از جمله برنی سندرز، سناتور چپگرا و استیو بنن، پوپولیست راستگرا هستند. در سوی مخالف، رئیسجمهور دونالد ترامپ قرار دارد که دولتش بیش از هر چیز نگران ازدستدادن برتری آمریکا در هوش مصنوعی به چین، تنها رقیب جدی این کشور، است.
تماس ناگهانی ترامپ با جنسن هوانگ:
وقتی رئیسجمهور آمریکا زنگ زد و روی اسپیکر از هوش مصنوعی دفاع کرد
اسکات بسنت، وزیر خزانهداری آمریکا نیز گفته است اگر چین به این برتری دست پیدا کند، «هیچچیز دیگری اهمیتی نخواهد داشت.» بسنت برای اثبات این موضوع میتواند به اوکراین اشاره کند؛ جایی که هر گام در یک مسابقه تسلیحاتی فناورانه، خیلی سریع به یک اثر عملی منجر میشود. همانطور که اکونومیست گزارش میدهد، روسیه از جدیدترین پهپادهای انتحاری خود برای بمباران زیرساختهای غیرنظامی استفاده میکند. پهپادهای روسی علاوه بر سرعت بیشتر، اکنون از یکدیگر بهعنوان یک شبکه ارتباطی «Mesh» استفاده میکنند تا اطلاعات و فرمانها را منتقل کنند. روسیه بهزودی نسخهای از شبکه ماهوارهای Starlink متعلق به ایلان ماسک را نیز در اختیار خواهد داشت که حملات دوربرد این کشور را دقیقتر خواهد کرد.
بازخوانی پرونده جنگهای الگوریتمی؛ وقتی «داده» به مهمات جنگی تبدیل میشود
این جدیدترین نمونه از آن است که چگونه حتی یک برتری فناورانه کوچک میتواند در زمان جنگ اهمیت داشته باشد. نوآوری اوکراین در حوزه پهپادهای میدانی به این کشور کمک کرده است موجهای حملات روسیه را دفع کند. اوکراین میتواند با پهپادهای دوربرد، اهدافی را در عمق خاک روسیه مورد حمله قرار دهد. هر دو طرف در حال کار روی پهپادهای گروهی هستند که قادر خواهند بود با خودمختاری بیشتری و بهعنوان یک سامانه تطبیقپذیر واحد فعالیت کنند.
هوش مصنوعی؛ فناوری سرنوشتسازی که جایگزین بمب اتم در قرن ۲۱ شد
این جنگ نشان میدهد فناوری چگونه به قدرت سخت تبدیل میشود. حتی اگر آمریکا از وقوع یک جنگ مستقیم مشابه با چین هراس نداشته باشد، برخورداری از برتری در هوش مصنوعی میتواند به رقیب اصلی ژئوپلیتیکی این کشور در حوزههای هک، جاسوسی و جنگ ترکیبی برتری بدهد.
بنابراین، توقف این روند تنها در صورتی میتواند عملی باشد که چین نیز به آن بپیوندد. ترامپ قصد دارد در ۲۴ سپتامبر در کاخ سفید میزبان شی جینپینگ، رئیسجمهور چین باشد. اما حتی اگر ترامپ به دنبال کند کردن روند پیشرفت باشد، بعید است شی با طرحی که آمودی در نظر دارد موافقت کند؛ زیرا چنین توافقی هوش مصنوعی چین را در جایگاه دوم تثبیت خواهد کرد. هیچیک از دو طرف نیز نمیتواند خطر نقض توافق از سوی طرف مقابل و شتاب گرفتن دوباره آن را بپذیرد.
برای دستیابی به یک توافق، هر دو طرف باید بتوانند پایبندی طرف مقابل را راستیآزمایی کنند؛ همانطور که در دوران جنگ سرد در زمینه کنترل تسلیحات انجام میشد. آمریکا، بریتانیا و اتحاد جماهیر شوروی در سال ۱۹۶۳ آزمایشهای هستهای در جو را ممنوع کردند، زیرا امکان شناسایی آنها وجود داشت؛ اما آزمایشهای زیرزمینی سه دهه دیگر ادامه یافت تا زمانی که امکان پایش آنها نیز فراهم شد. متأسفانه، اگرچه مراکز داده قابلمشاهده هستند، هیچ روش قابلراستیآزمایی برای مشاهده آنچه در داخل آنها میگذرد وجود ندارد. زیرساختی که برای آموزش یک ابرهوش مورداستفاده قرار میگیرد، میتواند خود را بهعنوان سامانهای برای پاسخگویی به پرسشهای روزمره کاربران جا بزند.
ادعا و هشدار عجیب پژوهشگر ارشد ایمنی آنتروپیک:
احتمال نابودی بشر به دست هوش مصنوعی تا دهه آینده بیش از ۱۰ درصد است
بنابراین، گزینههای موجود برای دستیابی به توافقی درباره ایمنی هوش مصنوعی محدود هستند؛ اما وجود دارند. شفافیت بیشتر میتواند کمککننده باشد. هر دو طرف باید متعهد شوند حوادث ایمنی در آزمایشگاههای خود را، با اتکا به قوانین داخلی، افشا و بررسی کنند. هر یک از طرفین میتواند با نشاندادن اینکه ایمنی برایش اهمیت دارد، اعتمادسازی کند و زمینه را برای اتخاذ اقدامات احتیاطی از سوی طرف مقابل فراهم آورد. آنها همچنین باید یکدیگر را برای ارتقای امنیت سایبری آزمایشگاهها تحتفشار قرار دهند تا عاملهای هوش مصنوعی نتوانند بهسادگی از محیطهای ایزولهشده فرار کنند؛ و اطمینان حاصل کنند که اگر چنین اتفاقی رخ داد، آزمایشگاه مربوطه از نظر مالی مسئول پیامدهای آن باشد.
چالش اصلی، تضمین این است که هوش مصنوعی در راستای منافع انسانها عمل کند. آمریکا و چین ارزشهای بسیار متفاوتی دارند، اما هر دو میدانند که جلو بودن در این رقابت، اگر در نهایت به نابودی بشریت منجر شود، فایدهای ندارد. آنها باید متعهد شوند در زمینه مؤلفههای همراستاسازی که مزیت رقابتی ایجاد نمیکنند، با یکدیگر همکاری کنند. دانش مربوط به بهترین روشهای ارزیابی و تکنیکهای مهار، یک کالای عمومی جهانی است. اگر یکی از طرفین به یک پیشرفت مهم در حوزه ایمنی دست پیدا کند، احتکار و پنهان نگهداشتن آن منطقی نیست.
برخی، موج جدید آخرالزمانگرایی درباره هوش مصنوعی را یک ترفند بازاریابی از سوی شرکتهای هوش مصنوعی یا حتی تلاشی برای سرکوب رقابت میدانند. بااینحال، سرعت پیشرفت هوش مصنوعی بهاندازهای بالاست، حوادث ایمنی بهاندازهای هولناک هستند و هشدارهای شرکتها نیز آنقدر سابقهدار شدهاند که باید آنها را جدی گرفت. هوش مصنوعی لازم نیست تمام انسانها را از بین ببرد تا فاجعهای به بار آورد. یک گروه از عاملهای هوش مصنوعی OpenAI یک شرکت فناوری را هدف قرار دادهاند؛ اگر دفعه بعد این عاملها به شبکه برق یا یک سامانه تسلیحاتی حمله کنند چه خواهد شد؟ حتی ممکن است آنقدر هوشمند باشند که از تلاشها برای خاموشکردنشان فرار کنند.
جهان باید فوراً تلاش کند از وقوع این خطر جلوگیری کند. بااینحال، دموکراسیها باید از واگذاری کنترل به حکومتهای اقتدارگرا نیز جلوگیری کنند. اینها دو وظیفه دشوار و متعارض هستند. در نهایت، این وضعیت حتی میتواند به جنگ منجر شود. کمتر موضوعی را میتوان یافت که درصد ریسک آن به این اندازه بالا باشد.
گزارش حاضر در نسخه September 19th 2026 نشریه The Economist منتشر شده است.
