احتمال نابودی بشر به دست هوش مصنوعی تا دهه آینده بیش از ۱۰ درصد است

«ایوان هابینگر»، پژوهشگر ارشد ایمنی آنتروپیک در پستی در X هشدار داده است که با شتاب فعلی پیشرفت هوش مصنوعی، بیش از ۱۰ درصد احتمال دارد این فناوری طی دهه آینده به نقطه‌ای برسد که «تمام انسان‌ها را از بین ببرد».

او تأکید کرده که ریسک مدل‌های فعلی پایین است؛ نگرانی اصلی، ظهور سیستم‌هایی است که بتوانند توانایی‌های خود را به‌صورت فزاینده‌ای بهبود دهند. به گفته هابینگر، آنتروپیک برای حل مسئله هم‌ترازی ابرهوش هنوز برنامه‌ای قطعی ندارد و مشخص نیست در مسیر رسیدن به آن قرار گرفته باشد.

این هشدار در شرایطی مطرح می‌شود که نگرانی‌ها درباره کنترل‌پذیری هوش مصنوعی افزایش یافته است. طی ماه‌های اخیر، شرکت‌هایی از جمله OpenAI، آنتروپیک و Meta از حملات سایبری انجام‌شده توسط ابزارهای هوش مصنوعی خود خبر داده‌اند.
هم‌زمان، «جیکوب پاچوکی»، دانشمند ارشد OpenAI، خواستار «احتیاط شدید» در برابر سرعت پیشرفت AI شده و بر ضرورت اطمینان از باقی‌ماندن کنترل آینده در دست انسان‌ها تأکید کرده است. در همین زمینه، بیش از ۱۳۰۰ نفر از کارکنان شرکت‌های هوش مصنوعی نیز خواستار تلاش بین‌المللی برای ایجاد ابزارهای فنی و حاکمیتی جهت کنترل سرعت توسعه هوش مصنوعی مرزی شده‌اند.