یک نقطه عطف خطرناک
ترامپ در حال استفاده از هوش مصنوعی برای هدایت جنگهایش است
سید محمدجواد فیاض
- ۲۲ اسفند ۱۴۰۴
فناوریای که اکثر مردم تنها بهعنوان ابزاری گفتوگومحور برای انجام کارهای روزمره از آن استفاده میکنند، ظاهراً در حال یاریرسانی به تجاوزات نظامی ایالات متحده است و در این زمینه، تقریباً کاری از دست ما برنمیآید.
وبسایت گاردین در گزارشی به قلم «کریس استول-واکر» روزنامهنگار برجسته که سابقه سردبیری «راهنمای کلیدی نیو ساینتیست: انقلاب هوش مصنوعی» را نیز در کارنامه خود دارد؛ این موضوعی را مطرح کرده است. هوش مصنوعی تواناییهای زیادی دارد؛ میتواند فهرست خرید شما را مرتب کند، فرزندانتان را با ایجاد داستانی سفارشی برای زمان خواب، سرگرم کند، میتواند بهرهوری شما در کار را افزایش دهد و به دولتها کمک کند تا مؤثرتر عمل کنند.
آنچه کمتر درباره آن نوشته میشود و اکنون باید با صدای بلند هشدار دهیم، خطرات ذاتی نظامیسازی هوش مصنوعی است. در سه ماه گذشته، کاخ سفید تحت رهبری دونالد ترامپ ظاهراً دو بار از هوش مصنوعی برای مقاصد نظامی خود استفاده کرده است.
ابتدا، مدل هوش مصنوعی Claude از شرکت Anthropic که اکثر مردم آن را جایگزینی کمی دقیقتر از ChatGPT میدانند؛ ظاهراً هم برای برنامهریزی و هم برای اجرای ربایش «نیکلاس مادورو» در ونزوئلا استفاده شده است، هرچند جزئیات دقیق استفاده از مدل مشخص نیست. سپس مشخص شد که این ابزار هوش مصنوعی دوباره به کار گرفته شده است تا از میان دادههای اطلاعاتی عبور کند و به حمله عظیم موشکی علیه ایران و ظاهراً در شناسایی اهداف و اجرای شبیهسازیها کمک کند.
نمیتوان اهمیت این دو اتفاق را دستکم گرفت. هوش مصنوعی در برنامهریزی و اجرای عملیات نظامی به کار گرفته شده که منجر به تعداد نامعلومی تلفات شده و خاورمیانه را دستخوش آشوب کرده است.
اگر این موضوع شما را نگران میکند، تنها نیستید. «داریو آمودی» مدیرعامل Anthropic درگیر یک مناقشه بسیار زشت و علنی با رئیسجمهور آمریکا شده است؛ زیرا از دو «خطقرمز» تعیینشده برای Claude کوتاه نیامد.
- Claude نباید برای نظارت جمعی داخلی به کار رود.
- Claude نباید برای ساخت سلاحهای کاملاً خودکار که بدون کنترل معنادار انسانی اهداف را انتخاب و فعال میکنند، استفاده شود.
OpenAI بلافاصله وارد عمل شد و توافقی با پنتاگون امضا کرد؛ اگرچه ادعا میکند که مفاد توافق آنها در واقع سازوکارهای حفاظتی قویتری نسبت به مواردی دارد که Anthropic دنبال میکرد.
صرفنظر از جزئیات قرارداد، بر یک نکته باید تأکید شود. ابزاری که چرخه حیات خود را بهعنوان یک رابط گفتوگومحور برای خلاصهسازی ایمیلها و کمک به نوشتن شروع کرد؛ اکنون در جایی از زنجیرهای قرار گرفته که اطلاعات را به خشونت تبدیل میکند.
پیشتر پرسشهایی مانند «چه کسی باید بر هوش مصنوعی کنترل داشته باشد و اگر بهصورت نظامی استفاده شود، چه میشود؟» در میان دانشگاهیان و پنلهای تخصصی بهصورت انتزاعی مطرح میشد. نگرانیها وجود داشت، اما دور و ناملموس بودند؛ زیرا تحقق نیافته بودند. وقتی مادورو در ژانویه توسط نیروهای ویژه دستگیر شد و بمبها بر ایران فرود آمد و ظاهراً همه اینها با کمک هوش مصنوعی بود؛ محاسبات تغییر کردند.
اصول پایهای درگیریهای مسلحانه این بوده که شما سلاحهای بزرگ و ترسناک دارید، اما هرگز از آنها استفاده نمیکنید. آنها برای بازدارندگی هستند. «نظریه نابودی تضمینشده متقابل» باعث شد مردم از فشاردادن دکمه بمبهای هستهای خودداری کنند.
برای آشنایی بیشتر با «نظریه نابودی تضمینشده متقابل» میتوانید گزارش «باید برای پیامدهای ژئوپلیتیکی هوش مصنوعی آماده شویم» در رسانه تخصصی هوش مصنوعی هوشیو یا نسخه فارسی «ویژهنامه ۲۰۲۵ هوش مصنوعی مجله تایم» را مطالعه کنید.
اکنون آن بهانه دیگر وجود ندارد. کشورهای بیشتری از هوش مصنوعی در برنامهریزی و اقدامات نظامی خود استفاده خواهند کرد؛ زیرا تأثیر خود را نشان داده است، اگرچه که سؤالات اخلاقی آشکاری در زمینه استفاده از هوش مصنوعی در اخذ تصمیمات نظامی وجود دارد. وقتی تاریخنگاران نظامی به ماههای گذشته نگاه کنند، آسان است که تصور کنند استفاده از هوش مصنوعی به این شکل، مشابه سلاحهای هستهای رهاشده بر ژاپن خواهد بود، لحظهای که یک «قبل» روشن و یک «بعد» نامعلوم را مشخص میکند.
نکته نگرانکننده دیگری نیز وجود دارد و این است نشانههای اولیه از سناریوهای بازیهای جنگی وجود دارد که نشان میدهد مدلهای هوش مصنوعی نسبت به تصمیمگیری به استفاده از سلاحهای هستهای شتابزده عمل میکنند.
در هوشیو بخوانید:
هوش مصنوعی در ۹۵درصد مواقع به استفاده از سلاحهای هستهای در بازیهای جنگی تمایل دارد.
پس چه کاری میتوان انجام داد؟ کارهایی بسیار اندک. باید ممنوعیت کلی استفاده از هوش مصنوعی نظامی وجود میداشت. بیش از یک دهه است که از این مسیر فاصله گرفتهایم؛ یعنی از زمانی که «دمیس هاسابیس» موضع اصولی گرفت و گفت شرکتش DeepMind را فقط به گوگل خواهد فروخت، آن هم به شرطی که اگر موافقت کند از فناوری برای مقاصد نظامی استفاده نکند. سال گذشته میلادی آلفابت آرامآرام وعده خود مبنی بر عدم استفاده از هوش مصنوعی در ساخت سلاح را کنار گذاشت و اقدامات ترامپ این ایده را واضحاً نقض کرده است.
اما اکنون جامعه بینالمللی باید سخت تلاش کند تا ترامپ را از لبه پرتگاه بازگرداند. متحدان باید فشار بیاورند تا کاخ سفید ترامپ نهتنها در استفاده نظامی از هوش مصنوعی مسئول باشد، بلکه محدودیتهای الزامآور را بپذیرد. این امر باید شامل تعهدات بینالمللی، استانداردهای شفاف خرید و نظارت معنادار باشد که دیگران نیز به آن پایبند شوند، نه اینکه اخلاق را بهعنوان مانعی برای اقدام در نظر بگیرند. اگر قدرتمندترین نیروی نظامی جهان مدلهای هوش مصنوعی رایج را بهعنوان بخشی از عملیات نظامی خود استفاده کنند، وارد دنیای جدید و بهمراتب خطرناکتری از هوش مصنوعی خواهیم شد.
