نبردی برای آینده جنگ

اگر در سال ۲۰۲۶ جنگی در جایی از جهان در جریان باشد؛ احتمالی بسیار قوی وجود دارد که هوش مصنوعی نقشی در آن داشته باشد. از هوش مصنوعی در جنگ علیه ایران و اوکراین استفاده شده و ایالات متحده در عملیات دستگیری رئیس‌جمهور ونزوئلا از آن بهره برد. اسرائیل نیز در جنگ غزه از آن استفاده کرد.

کاربرد هوش مصنوعی در میدان نبرد تازه آغاز شده است. به همین دلیل، نبرد دیگری که هفته گذشته میان دولت ترامپ و شرکت Anthropic رخ داد، حیاتی است. دو تن از روزنامه‌نگاران نیویورک‌تایمز (Katrin Bennhold و Julian E. Barnes) در گفت‌وگویی با یکدیگر به بررسی این پرسش پرداختند این درگیری چه معنایی برای آینده جنگ‌ها، شهروندان و برای جهان دارد.

به نقل از این منبع، Anthropic یکی از پیشروترین شرکت‌های هوش مصنوعی در جهان است و مدل Claude در پنتاگون به گسترده‌ترین شکل برای جمع‌آوری اطلاعات، شناسایی اهداف، ترسیم نقشه عملیات و موارد دیگر به‌کاررفته است. اما سؤال اصلی نه درباره چگونگی کاربرد فعلی هوش مصنوعی، بلکه درباره چگونگی کاربرد احتمالی آن در آینده است. اما قرارداد Anthropic دو محدودیت اساسی را مشخص کرده بود:

• دولت حق ندارد از فناوری این شرکت برای نظارت بر شهروندان آمریکا استفاده کند.
• دولت نمی‌تواند از مدل Claude در تسلیحات خودمختاری استفاده کند که بدون دخالت انسان اقدام کنند.

پنتاگون در برابر این شروط ایستادگی کرد. مقامات نظامی اعلام کردند که خودشان تمایلی به استفاده از هوش مصنوعی برای نظارت‌های داخلی یا ساخت ربات‌های قاتل خودمختار ندارند؛ اما از اینکه یک شرکت خصوصی بخواهد بر نحوه استفاده نیروی نظامی از محصول خود محدودیت تحمیل کند، به‌شدت خشمگین بودند. این بن‌بست، ترکیبی آشفته از یک اختلاف قراردادی و یک جنگ فرهنگی بود و کانونی برای ترس‌ها درباره هوش مصنوعی و نگرانی‌ها درباره رقابتی بودن ایالات متحده در مسابقه جهانی برای برتری هوش مصنوعی.

در روز جمعه، پس از شکست مذاکرات با Anthropic، ترامپ به تمام آژانس‌های فدرال دستور توقف همکاری با Anthropic را صادر کرد. پنتاگون نیز این شرکت را به‌عنوان «ریسک زنجیره تأمین برای امنیت ملی» برچسب‌گذاری کرد؛ اقدامی که عملاً هر پیمانکار نظامی آمریکایی را از انجام کسب‌وکار با این شرکت منع می‌کند.

در ادامه به بررسی گفت‌وگوی این دو روزنامه‌نگار نیویورک‌تایمز، می‌پردازیم:

هوش مصنوعی تا چه حد در جنگ‌افزایی و امنیت ملی ایالات متحده ادغام شده است؟

این ادغام کامل و فراگیر است. استفاده از هوش مصنوعی در جنگ دیگر یک فرض نظری نیست؛ هوش مصنوعی هم‌اکنون در میدان نبرد حضور فیزیکی دارد. ما معتقدیم که هنوز از مدل‌های زبانی بزرگ برای فرماندهی پهپادها یا شلیک سلاح‌ها استفاده نمی‌شود؛ اما هوش مصنوعی عمیقاً در فرایند جمع‌آوری اطلاعات و استفاده از آن‌ها برای شکل‌دهی به تصمیمات راهبردی نفوذ کرده است.

Anthropic دقیقاً نگران چیست؟

یکی از نگرانی‌های آن‌ها این است که دولت ممکن است از هوش مصنوعی برای تحلیل داده‌های تجاری در دسترس درباره شهروندان آمریکا استفاده کند. داده‌های مرور وب، متادیتای تلفن‌ها که شرکت‌های تجاری می‌توانند این داده‌ها را جمع‌آوری کرده و از هوش مصنوعی برای تشخیص اینکه شما کجا بوده‌اید، از چه مکان‌هایی را بازدید کرده‌اید و چه چیزهایی خریده‌اید، استفاده کنند. Anthropic همچنین نگران ایده پهپادهای قاتل است.

چرا دولت با این خط‌قرمز مخالف است؟

ایالات متحده می‌گوید که همیشه یک انسان را در فرایند تصمیم‌گیری هوش مصنوعی برای کشتن یا نکشتن کسی دخیل خواهد کرد؛ اما چالش‌هایی نیز در این مورد وجود دارد؛ زیرا در نبرد، آن گروهی که بتواند سریع‌تر مشاهده کند، فکر کند و تصمیم بگیرد، پیروز خواهد شد و حضور انسان می‌تواند سرعت این فرایند را کاهش دهد.
سوال اساسی اینجاست که نقش انسان در جنگ‌های آینده چیست؟ این نقش احتمالاً بسیار متفاوت از آنچه امروز می‌بینیم خواهد بود. ما هنوز به انسان‌ها نیاز داریم، اما هنوز تصمیم نگرفته‌ایم نقش آن‌ها دقیقاً چه خواهد بود. همین ابهام، نوشتن قوانین برای هوش مصنوعی را دشوار می‌کند.

قانون در مورد هوش مصنوعی و جنگ چه می‌گوید؟

پنتاگون می‌گوید قوانین موجود که رفتار در جنگ را تنظیم می‌کنند کافی هستند؛ زیرا اصول جنگ‌افزاییِ اخلاقی یکسان است، چه بمب رها شود و چه از نرم‌افزاری برای بهبود هدف‌گیری استفاده شود.

اما Anthropic معتقد است هوش مصنوعی مانند سایر سلاح‌ها نیست. سایر سلاح‌ها توسط سخت‌افزار خود محدود شده‌اند. مدل‌های زبانی بزرگ متفاوت هستند. می‌توانید از آن‌ها بخواهید داده‌ها را برای استخراج بینش‌ها تحلیل کنند، می‌توانید از آن‌ها بخواهید مکان‌های بمباران را پیشنهاد دهند و می‌توانید از آن‌ها بخواهید حملات سایبری طراحی کنند. کاربرد آن‌ها دائماً در حال تکامل است. خط فکری Anthropic این است که هوش مصنوعی یک فناوری ویژه است و ما نیازمند تدابیر و سازوکارهای حفاظتی ویژه برای آن هستیم.

به طور خلاصه، این نبرد واقعاً درباره چیست؟

این نبرد هم درباره سیاست و هم درباره اصل و اصول اخلاقی است؛ در هر دو طرف. Anthropic می‌خواهد نشان دهد که شرکتی مسئولیت‌پذیر و مبتنی بر ایمنی است و این امر برند تجاری آن‌هاست. در مقابل، پنتاگون می‌گوید: «این شرکت هوش مصنوعی بیدار و آگاه (woke) است! ما بر ضد بیداری وارد عمل می‌شویم!» و این برند تجاری MAGA (آمریکا را بازسازی کنیم) است. از منظر اصول اخلاقی، پنتاگون می‌گوید که یک استاندارد برای تمام شرکت‌هایی که با ما تعامل می‌کنند وجود دارد: ما در برابر استفاده قانونی از این فناوری محدود می‌شویم، نه در برابر شرایطی که شرکت‌های خصوصی تحمیل می‌کنند و Anthropic می‌گوید که قوانین موجود برای تنظیم هوش مصنوعی مناسب نیستند.

جنگ ترامپ با هوش مصنوعی بیدار

این درگیری چگونه در رقابت بزرگ هوش مصنوعی بین ایالات متحده و چین می‌گنجد؟ فرض را بر این می‌گذارم که شرکت‌های چینی از دولت نمی‌خواهند تدابیر ایمنی تحمیل کنند.

قطعاً نه. قانون چین شرکت‌های چینی را مجبور می‌کند تا فناوری خود را در اختیار دولت قرار دهند. به همین دلیل نیز، تهدید چین بر آنچه اخیراً در واشنگتن رخ داد سایه افکنده است. زیرا ایالات متحده معتقد است که اگر جنگی بر سر تایوان بین ایالات متحده و چین رخ دهد، شروع آن با پهپادها در تنگه تایوان خواهد بود. پهپادهایی که بتوانند سریع‌تر حرکت کنند و تصمیم بگیرند، پیروز خواهند شد.

عدم وجود تدابیر ایمنی همچنین به این معناست که دولت چین از شرکت‌های هوش مصنوعی خواسته است تا ابزارهای گسترده برای انتشار اطلاعات نادرست (Disinformation) توسعه دهند. آن‌ها از هوش مصنوعی برای نظارت توده‌ای و شناسایی معترضان استفاده کرده‌اند. بنابراین، نحوه استفاده چین از هوش مصنوعی، دقیقاً همان سناریوی وحشتناکی است که Anthropic در مورد آن هشدار می‌دهد.