هوش مصنوعی Claude به حمله به ایران کمک کرد؛ اما دقیقاً چگونه؟

طبق گزارشی در وال‌استریت ژورنال، فرماندهی مرکزی ایالات متحده (سنتکام) از مدل هوش مصنوعی Claude ساخته شرکت Anthropic برای «ارزیابی‌های اطلاعاتی، شناسایی اهداف و شبیه‌سازی سناریوهای نبرد» در جریان حملات به ایران استفاده کرده است.

به نقل از بلومبرگ، چند ساعت پیش از این حملات، رئیس‌جمهور وقت ایالات متحده، دونالد ترامپ، دستور داده بود که استفاده از Claude پس از اختلاف با سازنده آن متوقف شود، اما ابزار Claude آن‌قدر عمیق در سیستم‌های پنتاگون ادغام شده بود که برچیدن آن و جایگزینی با رقیب مناسب ماه‌ها زمان می‌برد. همچنین این ابزار در عملیات ژانویه که منجر به دستگیری نیکولاس مادورو شد، مورداستفاده قرار گرفته بود.

اما در عمل، «ارزیابی‌های اطلاعاتی» و «شناسایی اهداف» به چه معناست؟ آیا Claude مکان‌هایی را برای حمله شناسایی می‌کرد یا برآوردهایی از تلفات انسانی ارائه می‌داد؟ هیچ‌کس هنوز این موضوع را روشن نکرده است و به‌طور نگران‌کننده‌ای، هیچ‌کسی هم موظف به افشای این اطلاعات نیست.

به نقل از این منبع هوش مصنوعی مدت‌هاست که در جنگ‌ها برای کارهایی مانند تجزیه و تحلیل تصاویر ماهواره‌ای، شناسایی تهدیدات سایبری و هدایت سیستم‌های دفاع موشکی استفاده می‌شود. اما اکنون از چت‌بات‌ها؛ همان فناوری زیربنایی که میلیاردها نفر از آن برای انجام کارهای روزمره‌ای مانند نوشتن ایمیل استفاده می‌کنند، در میدان نبرد بهره برده می‌شود.

در نوامبر سال گذشته میلادی، Anthropic با شرکت Palantir، یک شرکت تحلیل داده که بسیاری از پروژه‌های پنتاگون را انجام می‌دهد، همکاری کرد و مدل زبان بزرگ Claude را به موتور استدلالی داخل یک سیستم پشتیبانی تصمیم برای ارتش تبدیل کرد.

سپس در ژانویه ۲۰۲۶، Anthropic یک پیشنهاد ۱۰۰ میلیون دلاری به پنتاگون ارائه داد تا فناوری کنترل صوتی برای حملات خودکار پهپادها را توسعه دهد. پیشنهاد این شرکت؛ استفاده از Claude برای ترجمه قصد فرمانده به دستورالعمل‌های دیجیتال برای هماهنگ کردن یک ناوگان پهپادی بود. این پیشنهاد رد شد، اما قرارداد موردنظر بیش از تنها خلاصه‌سازی گزارش‌های اطلاعاتی بود. این قرارداد به‌دنبال توسعه «آگاهی مرتبط با هدف و اشتراک‌گذاری» و «پرواز تا انهدام» برای پهپادهای تهاجمی بود.

جالب توجه است که تمام این اتفاقات در یک خلأ نظارتی و با فناوری‌ای به توهم‌زدن شناخته می‌شود، در حال رخ دادن است. توهم در مدل‌های زبان بزرگ ناشی از آموزش آن‌ها است؛ جایی که این مدل‌ها برای یافتن پاسخی پاداش می‌گیرند، حتی اگر نتوانند عدم قطعیت را بپذیرند. برخی از دانشمندان می‌گویند چالش همیشگی توهم توسط هوش مصنوعی ممکن است هیچ‌گاه حل نشود.

این اولین بار نیست که سیستم‌های هوش مصنوعی در جنگ‌ها استفاده می‌شوند. Lavender یک پایگاه داده مبتنی بر هوش مصنوعی بود که برای شناسایی اهداف نظامی مرتبط با حماس در غزه استفاده می‌شد. این سیستم یک مدل زبانی بزرگ نبود، بلکه داده‌های نظارتی عظیمی مانند ارتباطات اجتماعی و تاریخچه مکان‌ها را تجزیه و تحلیل می‌کرد تا به هر فرد نمره‌ای از ۱ تا ۱۰۰ بدهد. وقتی نمره فردی از آستانه‌ای مشخص فراتر می‌رفت، Lavender او را به‌عنوان هدف نظامی شناسایی می‌کرد.

طبق گزارشی تحقیقی که توسط رسانه +972 منتشر شد؛ مشکل این بود که Lavender در ۱۰ درصد مواقع اشتباه می‌کرد. به گفته «ماریاروساریا تادئو» استاد اخلاق دیجیتال و فناوری دفاعی در Oxford Internet Institute: « حدود ۳۶۰۰ نفر به اشتباه هدف قرار گرفتند.»

«الکه شوارتز» استاد نظریه سیاسی در دانشگاه کویین مری لندن و نویسنده کتاب « Death Machines: The Ethics of Violent Technologies » می‌گوید: «این سیستم‌ها برای چیزی به این اندازه پویا، حساس و انسانی مانند جنگ؛ دارای آسیب‌پذیری‌های و عدم اعتماد شدیدی هستند.»

شوارتز اشاره می‌کند که هوش مصنوعی در جنگ اغلب برای تسریع روندها استفاده می‌شود که می‌تواند منجر به نتایج ناخواسته شود. تصمیم‌گیری‌های سریع‌تر با مقیاس بزرگ‌تر و نظارت انسانی کمتر صورت می‌گیرد. وی می‌گوید در پانزده سال گذشته، استفاده نظامی از هوش مصنوعی حتی بیشتر مبهم شده است. حتی ابهامات بیشتری در نحوه عملکرد آزمایشگاه‌های هوش مصنوعی حتی پیش از کاربردهای نظامی وجود دارد. این شرکت‌ها از افشای داده‌هایی که مدل‌هایشان بر اساس آن‌ها آموزش دیده‌اند یا نحوه رسیدن به نتیجه‌گیری‌ها خودداری می‌کنند.

البته عملیات‌های نظامی اغلب باید محرمانه بمانند تا از آن محافظت شود؛ اما عملیات دفاعی توسط قوانین انسانی بین‌المللی و استانداردهای آزمایش سلاح‌ها به شدت تنظیم شده است که باید به‌طور نظری کاربرد هوش مصنوعی را نیز شامل شوند. بااین‌حال، چنین استانداردهایی یا اصلاً وجود ندارند یا به شدت ناکافی.

تادئو اشاره می‌کند که ماده ۳۶ کنوانسیون ژنو از سیستم‌های تسلیحاتی جدید می‌خواهد که پیش از استفاده آزمایش شوند، اما یک سیستم هوش مصنوعی که از محیط خود یاد می‌گیرد، هر بار که به‌روزرسانی می‌شود به یک سیستم جدید تبدیل می‌شود. این موضوع آن را تقریباً غیرممکن می‌کند تا این قاعده را اعمال کنند.

در یک دنیای ایده‌آل، دولت‌هایی مانند ایالات متحده باید افشا کنند که چگونه این سیستم‌ها در میدان جنگ استفاده می‌شوند و پیشینه‌ای در این زمینه وجود دارد. آمریکایی‌ها از پهپادهای مسلح پس از ۱۱ سپتامبر استفاده کردند و این استفاده را تحت دولت باراک اوباما گسترش دادند، بدون اینکه اذعان کنند چنین برنامه‌ای وجود دارد.

نزدیک به ۱۵ سال فشارهای رسانه‌ای و اسناد درز کرده و شکایت‌های American Civil Liberties Union طول کشید تا کاخ سفید در سال ۲۰۱۶ تعداد تلفات ناشی از حملات پهپادی را منتشر کند. این آمارها به‌طور گسترده‌ای به‌عنوان کم‌شماری دیده شدند؛ اما به مردم، کنگره و رسانه‌ها اجازه دادند برای اولین بار دولت را پاسخگو کنند. کنترل هوش مصنوعی حتی سخت‌تر خواهد بود و به فشار عمومی و قانونی بیشتری نیاز خواهد داشت تا دولت ترامپ مقاوم را مجبور به ایجاد چارچوب مشابهی برای گزارش‌دهی کند.

طبق گفته شوارتز هدف این نخواهد بود که دقیقاً اعلام شود Claude چگونه در عملیات‌هایی مانند دستگیری رئیس‌جمهور ونزوئلا یا حمله به ایران استفاده شده، بلکه هدف این است که خطوط کلی آن افشا شود؛ به‌ویژه زمانی که چیزی اشتباه می‌شود.

بحث عمومی فعلی در مورد اختلاف Anthropic و پنتاگون درباره اینکه چه چیزی از نظر قانونی و اخلاقی برای هوش مصنوعی مجاز است، چه در نظارت گسترده بر آمریکایی‌ها یا ایجاد سلاح‌های کاملاً خودمختار، سوال بزرگ‌تر در مورد عدم شفافیت نحوه استفاده از این فناوری در جنگ را نادیده گرفته است. با سیستم‌های جدید و آزمایش نشده که مستعد اشتباه هستند، این موضوع به شدت نیازمند توجه است. تادئو می‌گوید: «ما هنوز به‌عنوان یک جامعه تصمیم نگرفته‌ایم که آیا موافقیم یک ماشین تصمیم بگیرد که آیا یک انسان باید کشته شود یا نه.»

فشار برای شفافیت پیش از آنکه هوش مصنوعی در جنگ به‌قدری عادی شود که هیچ‌کس دیگر نپرسد، حیاتی است؛ وگرنه ممکن است خود را در انتظار یک اشتباه فاجعه‌آمیز بیابیم و شفافیت را تنها پس از وقوع خسارت اعمال کنیم.