کنگره آمریکا برای جلوگیری از فاجعه هوش مصنوعی چه می‌تواند کند؟

سال‌هاست که دانشمندان هوش مصنوعی هشدار می‌دهند فناوری‌هایی که در حال توسعه آن‌ها هستند، فناوری‌هایی‌اند که خودشان نیز نمی‌دانند چگونه باید آن‌ها را کنترل کنند. این نگرانی‌ها تا حد زیادی در کنگره آمریکا نادیده گرفته شده‌اند. در سال ۲۰۲۴، اعضای هیئت نمایندگی کالیفرنیا در کنگره گامی غیرمعمول برداشتند و از «گاوین نیوسام»، فرماندار وقت این ایالت خواستند لایحه‌ای را که در آن زمان درباره ایمنی هوش مصنوعی در دست بررسی بود، وتو کند. آن‌ها استدلال می‌کردند که خطرات مطرح‌شده «فرضی» هستند و ترمیناتور نیز چیزی جز یک داستان علمی-تخیلی نیست.

آشنایی با یوشوا بنجیو در هوشیو

اما نفوذ یک مدل متعلق به OpenAI به پلتفرم توسعه هوش مصنوعی Hugging Face در تابستان امسال، روند تغییر نگرش در واشنگتن را آغاز کرده و افکار عمومی را به وحشت انداخته است.

ماجراهای فرار و حمله عامل‌های هوش مصنوعی را در هوشیو بخوانید:

حمله عامل‌های خودمختار به Hugging Face؛ امریکایی‌ها جواب ندادند، چینی‌ها دفاع کردند

این مدل داخلی OpenAI بود که فرار کرد و Hugging Face را هک کرد!

عامل هوش مصنوعی فراری OpenAI فقط Hugging Face را هک نکرد

چرا فرار مدل OpenAI نگران‌کننده‌ترین خطای هوش مصنوعی تاکنون است

بعد از OpenAI، حالا نوبت Claude رسید که فرار، حمله و هک کند

مدل هوش مصنوعی متا در جریان آزمایش‌های امنیت سایبری، یک شرکت دیگر را هک کرد

بعد از امریکایی‌ها، حالا نوبت چینی‌ها و Kimi K3 رسید که از سندباکس خود فرار کنند

انبوهی از عامل‌های هوش مصنوعی که علیه سازندگان خود توطئه کردند

عامل‌های هوش مصنوعی OpenAI در یک رخنه فاش‌نشده در بهار امسال، کنترل یک وب‌سایت آلمانی را به دست گرفتند

«رو خانا»، نماینده کنگره ایالات متحده در شبکه اجتماعی ایکس نوشت: «واقعیت این است که برای مدتی طولانی، بسیاری از ما هشدارهای فعالان حوزه ایمنی هوش مصنوعی را به‌اندازه کافی جدی نگرفتیم… من هم یکی از آن افراد بودم و اشتباه می‌کردم.» اکنون خانا به جمعی از نمایندگان هر دو حزب پیوسته است که طرحی بلندپروازانه با عنوان قانون FRONTIER را برای تنظیم‌گری مدل‌های پیشرفته هوش مصنوعی پیشنهاد کرده‌اند؛ طرحی که با هدف جلوگیری از وضع مقررات در سطح ایالت‌ها پیوند خورده است. «برنی سندرز» سناتور نیز محدودیت‌هایی حتی سخت‌گیرانه‌تر برای توسعه هوش مصنوعی پیشنهاد کرده است.

توافق بر سر ایمنی هوش مصنوعی ممکن است ممکن نباشد

مناقشه بر سر هوش مصنوعی؛ کابوس جدید واشنگتن

این پیشنهادها شروع‌های خوبی هستند، اما در عین حال هم بیش از حد گسترده‌اند و هم کافی نیستند. هنوز برای ساکت کردن نهادهای تنظیم‌گر ایالتی زود است؛ از سوی دیگر، تمرکز صرف بر خطراتی که قدرتمندترین مدل‌ها ایجاد می‌کنند نیز کافی نیست. در عوض، به رویکردی نیاز داریم که ایمنی هوش مصنوعی را به‌طور کلی ارتقا دهد و در عین حال مانع پیشرفت‌هایی شود که دانشمندان این حوزه بیش از همه از آن‌ها بیم دارند.

کنگره می‌تواند با اعمال چهار تغییر به این هدف دست یابد و برای بررسی پرسش‌های بسیار پیچیده‌ای که در ادامه مطرح خواهند شد، زمان بخرد.

• نخست، کنگره باید صراحتاً به شرکت‌های رقیب اجازه دهد توافق کنند که تا زمان بهبود فناوری‌های ایمنی، سرعت توسعه را کاهش دهند. چنین توافق‌هایی معمولاً می‌توانند شرکت‌ها را در معرض مسئولیت‌های ناشی از قوانین ضدانحصار قرار دهند. آزمایشگاه‌های پیشرو هوش مصنوعی این خطر را مانعی برای دستیابی به توافق‌های صریح میان خود دانسته‌اند. هیچ دلیلی وجود ندارد که مسئولیت نامشخص ناشی از قوانین ضدانحصار، رقبای تجاری را ناگزیر به ورود در رقابتی کند که بشریت را تهدید می‌کند؛ مشروط بر آنکه گفت‌وگوهای آن‌ها با هدف و مقصود قوانین ضدانحصار مغایرت نداشته باشد.
• دوم، کنگره باید شرکت‌ها را از توسعه مدل‌هایی منع کند که می‌توانند به‌تنهایی مدل‌های جدید هوش مصنوعی طراحی کنند؛ فناوری‌هایی که با عنوان «خودبهبوددهی بازگشتی» (Recursive Self-Improvement) شناخته می‌شوند. این ممنوعیت باید تا زمانی برقرار باشد که نهادی مشابه سازمان غذا و داروی آمریکا (FDA)، ایمنی این فناوری‌ها را تأیید کند. دست‌کم درباره مدل‌هایی که به سطح مشخصی از توانمندی رسیده‌اند، نباید خطر ایجاد هوشی را بپذیریم که با بهبود خود، به‌سرعت از توانایی ما برای کنترل آن فراتر برود.
• سوم، کنگره باید مسئولیت حقوقی شرکت‌های فناوری را در قبال خسارات ناشی از فناوری‌هایشان به رسمیت بشناسد و آن‌ها را ملزم کند برای پوشش هزینه‌های خسارات احتمالی، بیمه داشته باشند. بیمه اجباری به بازار امکان می‌دهد بر ایمنی نظارت کند؛ به این صورت که هرچه فناوری کم‌خطرتر باشد، هزینه بیمه آن نیز پایین‌تر خواهد بود.
• در نهایت، کنگره باید از افشاگرانی که در آزمایشگاه‌های هوش مصنوعی کار می‌کنند و نگرانی‌های ایمنی را به نهادهای تنظیم‌گر یا مؤسسات ایمنی گزارش می‌دهند، حمایت قانونی کند. حمایت از افشاگران معمولاً جرایم را در بر می‌گیرد؛ اما سهل‌انگاری در قبال ایمنی هوش مصنوعی لزوماً در این دسته قرار نمی‌گیرد. تنها راه درک خطرات هم‌زمان با پدیدارشدن آن‌ها، حمایت از افرادی است که حاضرند اطلاعات خود را افشا کنند.

خودبهبوددهی بازگشتی» (Recursive Self-Improvement) یا RSI:
چگونه هوش مصنوعی در ساختن خودش بهتر شد

مخالفان مقررات هشدار خواهند داد که چنین اقداماتی تنها به نفع چین تمام می‌شود. این دیدگاه نشان‌دهنده ناآگاهی عمیق از وضعیت کنونی توسعه هوش مصنوعی در چین است. مقررات حاکم بر فناوری هوش مصنوعی در چین بسیار سخت‌گیرانه‌تر از هر آن چیزی است که در آمریکا در دست بررسی قرار دارد. افزون بر این، ظرفیت محاسباتی چین تنها بخش کوچکی از ظرفیت آمریکا است. برداشتن گام‌هایی که پیشنهاد می‌کنیم، امکان گفت‌وگویی جدی‌تر درباره ایمنی هوش مصنوعی را برای هر دو کشور فراهم می‌کند. همچنین، این اقدامات می‌توانند مسیر توسعه هوش مصنوعی آمریکا را به الگویی نزدیک کنند که چین دنبال می‌کند؛ الگویی که بر گسترش کاربرد این فناوری در بخش‌های بیشتری از تولید و توسعه متمرکز است. این رقابت، یکی از رقابت‌های حیاتی در عرصه هوش مصنوعی است و چین در حال پیروزی در آن است.

به نظر می‌رسد بتوان جمهوری‌خواهان را نیز با این چهار تغییر همراه کرد. «چارلز گرسلی»، سناتور جمهوری‌خواه، مدت‌هاست از چهره‌های پیشرو در زمینه حمایت از افشاگران بوده است. به همین ترتیب، «دیوید ساکس»، رئیس مشترک شورای مشاوران رئیس‌جمهور در امور علم‌وفناوری از آزمایشگاه‌های پیشرو دعوت کرده است که داوطلبانه سرعت توسعه را کاهش دهند. او تأکید کرده است که این کار آن‌ها را در معرض هیچ مسئولیت حقوقی مهمی بر اساس قوانین ضدانحصار قرار نخواهد داد. اگر چنین است، دلیلی وجود ندارد که آنچه را او معتقد است قوانین فعلی از پیش مجاز دانسته‌اند، به‌صراحت در قانون تصریح نکنیم.

چالش اصلی، دو تغییر میانی است. در حال حاضر، تنها قدرتمندترین مدل‌ها می‌توانند بالقوه امکان خودبهبوددهی بازگشتی را فراهم کنند. اما این همان نقطه بی‌بازگشتی است که متخصصان ایمنی هوش مصنوعی مدت‌هاست درباره آن هشدار داده‌اند:
نمی‌توان از آن عبور کرد، مگر آنکه مطمئن باشیم می‌دانیم چگونه باید این فناوری را کنترل کنیم. چرا باید سرنوشت بشریت را به این شرط‌بندی گره بزنیم که شاید نیازی به چنین اطمینانی نداشته باشیم؟

در مورد بیمه نیز تردیدی نیست که بازار خصوصی به‌تنهایی نمی‌تواند بیمه‌نامه‌هایی را ارائه دهد که برای پوشش خطرات هوش مصنوعی لازم‌اند. اما همان‌طور که دولت برای امکان‌پذیر کردن توسعه انرژی هسته‌ای، سازوکارهای بیمه‌ای ایجاد کرد، می‌تواند زمینه شکل‌گیری بازاری برای بیمه هوش مصنوعی را نیز فراهم کند. چنین بازاری به توسعه‌دهندگان امکان می‌دهد درباره سطح خطری که می‌خواهند فناوری‌هایشان ایجاد کنند، انتخاب‌های روشنی داشته باشند. فشار بازار نیز برخی توسعه‌دهندگان را به سمت پذیرش گزینه‌های کم‌خطرتر سوق خواهد داد.

هیچ‌یک از اقدامات ضروری برای مدیریت این خطرات نباید صرفاً به دست آمریکا انجام شود. توانایی آزمایش مدل‌ها، بررسی دقیق عملکرد آن‌ها و درک رفتارشان پیش از آنکه خطرناک شوند، مسئولیتی است که باید در سطح جهانی تقسیم شود. بریتانیا، اتحادیه اروپا، کانادا، ژاپن، کره جنوبی و بسیاری دیگر، هر یک مؤسساتی برای انجام این وظیفه ایجاد کرده‌اند و تبادل روش‌ها و یافته‌ها میان آن‌ها نیز آغاز شده است.

آمریکا باید آماده باشد به کسانی گوش دهد که این خطرات را بهتر از دیگران درک می‌کنند؛ یعنی دانشمندانی که این فناوری‌ها را توسعه می‌دهند و پژوهشگران مستقلی که تخصص لازم را دارند. این کشور باید از اختلافات حزبی فراتر برود و بپذیرد که این تهدید، واقعی و بی‌سابقه است. وقتی نزدیک‌ترین افراد به این فناوری، احتمال ۱۰ درصدی پایان‌یافتن بشریت را مطرح می‌کنند، باید به حرفشان گوش دهیم و اقدام کنیم؛ پیش از آنکه بار دیگر ثابت شود دانشمندان هوش مصنوعی حق داشته‌اند.

ادعا و هشدار عجیب پژوهشگر ارشد ایمنی آنتروپیک:
احتمال نابودی بشر به دست هوش مصنوعی تا دهه آینده بیش از ۱۰ درصد است

جنگ هسته‌ای و سوءاستفاده از هوش مصنوعی می‌تواند تا سال ۲۱۰۰ به انقراض بشر منجر شود

گزارش حاضر در نسخه October 17^th 2026 نشریه The Economist منتشر شده است.