جنگ غزه و هوش مصنوعی؛ آزمایش‌های اسرائیل زیر ذره‌بین اخلاق
تیم تحریریه- ۶ مهر ۱۴۰۴
اسرائیل با توسعه ابزارهای نوین هوش مصنوعی، به دنبال کسب برتری در میدان نبرد است؛ فناوری‌هایی که گاه پیامدهای مرگبار به همراه داشته‌اند.
این گزارش اولین بار در نیویورک‌تایمز منتشر شده و ما در هوشیو آن را ترجمه و منتشر کردیم.
اسرائیل با توسعه ابزارهای نوین هوش مصنوعی، به دنبال کسب برتری در میدان نبرد است؛ فناوری‌هایی که گاه پیامدهای مرگبار به همراه داشته‌اند.
در اواخر سال ۲۰۲۳، اسرائیل در تعقیب یکی از اهداف اصلی خود «ابراهیم بیاری»، از فرماندهان ارشد حماس در شمال نوار غزه که در طراحی حملات ۷ اکتبر نقشی کلیدی داشت، بود. با این حال، سازمان‌های اطلاعاتی اسرائیل در یافتن او ناکام مانده بودند، زیرا معتقد بودند «بیاری» در شبکه پیچیده تونل‌های زیرزمینی غزه پنهان شده است.
به گفته سه مقام اسرائیلی و آمریکایی که در جریان این وقایع بودند، افسران اسرائیلی به یک فناوری نظامی نوین که با هوش مصنوعی تقویت شده بود، متوسل شدند. این فناوری یک دهه پیش توسعه یافته بود، اما تا آن زمان در میدان نبرد به کار گرفته نشده بود. تلاش برای یافتن «بیاری» انگیزه‌ای تازه برای بهبود این ابزار ایجاد کرد. در نتیجه، مهندسان «واحد ۸۲۰۰» اسرائیل (که معادل آژانس امنیت ملی آمریکا (NSA) محسوب می‌شود) به‌سرعت هوش مصنوعی را در این ابزار ادغام کردند.
کمی بعد، اسرائیل به تماس‌های «بیاری» گوش داد و ابزار صوتی مجهز به هوش مصنوعی را آزمایش کرد. این ابزار توانست مکان تقریبی تماس‌های او را مشخص کند. با استفاده از این اطلاعات، اسرائیل در ۳۱ اکتبر ۲۰۲۳ دستور حملات هوایی به آن منطقه را صادر کرد و «بیاری» مورد هدف قرار گرفت. اما این عملیات هزینه‌ای سنگین داشت؛ طبق گزارش «Airwars»، یک نهاد پایش درگیری مستقر در لندن، بیش از ۱۲۵ غیرنظامی نیز در این حمله جان باختند.
غزه: میدان آزمایش فناوری‌های نوین
به گفته ۹ مقام دفاعی آمریکایی و اسرائیلی که به شرط ناشناس ماندن سخن گفتند، ابزار صوتی تنها یکی از نمونه‌های استفاده اسرائیل از جنگ غزه برای آزمایش و به‌کارگیری سریع فناوری‌های نظامی مبتنی بر هوش مصنوعی بود؛ اقدامی در مقیاسی که پیش از این مشاهده نشده بود.
در طول ماه‌های گذشته، اسرائیل همچنین:
- هوش مصنوعی را با نرم‌افزار تشخیص چهره ترکیب کرده تا چهره‌های آسیب‌دیده یا نیمه‌پوشیده را با هویت‌های واقعی تطبیق دهد.
- هوش مصنوعی را برای تنظیم فهرست اهداف بالقوه حملات هوایی به کار گرفته است.
- یک مدل هوش مصنوعی عربی برای پشتیبانی از یک چت‌بات طراحی کرده که توانایی اسکن و تحلیل پیامک‌ها، پست‌های شبکه‌های اجتماعی و سایر داده‌های عربی را دارد.
به گفته سه فرد مطلع، بسیاری از این تلاش‌ها حاصل همکاری میان سربازان وظیفه در «واحد ۸۲۰۰» و نیروهای ذخیره‌ای بوده است که در شرکت‌های فناوری بزرگی مانند «گوگل»، «مایکروسافت» و «متا» فعالیت دارند. «واحد ۸۲۰۰» مرکزی نوآورانه با نام «استودیو» ایجاد کرد تا متخصصان را با پروژه‌های هوش مصنوعی همسان‌سازی کند.
با این حال، مقامات اسرائیلی و آمریکایی اذعان کرده‌اند که حتی با وجود شتاب اسرائیل برای توسعه زرادخانه هوش مصنوعی، به‌کارگیری این فناوری‌ها گاهی به شناسایی‌های اشتباه، بازداشت‌های نادرست و مرگ غیرنظامیان منجر شده است. برخی مقامات با پیامدهای اخلاقی این ابزارها دست‌وپنجه نرم کرده‌اند، زیرا می‌توانند به افزایش نظارت و مرگ‌های بیشتر غیرنظامیان بینجامند.
مقامات دفاعی اروپایی و آمریکایی گفته‌اند هیچ کشوری به اندازه اسرائیل در استفاده آزمایشی از ابزارهای هوش مصنوعی در میدان‌های نبرد واقعی فعال نبوده است. این وضعیت، چشم‌اندازی از آینده جنگ‌ها و خطرات بالقوه این فناوری‌ها را به نمایش می‌گذارد.
«هداس لوربر»، رئیس مؤسسه تحقیقات کاربردی در هوش مصنوعی مسئولانه در مؤسسه فناوری «هولون» اسرائیل و مدیر پیشین شورای امنیت ملی این کشور، می‌گوید: «نیاز فوری برای مقابله با بحران، نوآوری را ( که بیشتر آن با هوش مصنوعی پشتیبانی می‌شد ) سرعت بخشید. این روند به فناوری‌هایی دگرگون‌کننده در میدان نبرد و برتری‌هایی منجر شد که در نبرد حیاتی بودند.»
خانم «لوربر» افزود: اما این فناوری‌ها «همچنین پرسش‌های اخلاقی جدی را مطرح می‌کنند». او هشدار داد که برای هوش مصنوعی نیاز به سازوکارهای نظارت و تعادل وجود دارد و تأکید کرد که انسان‌ها باید تصمیم‌گیرندگان نهایی باشند.
یک سخنگوی ارتش اسرائیل گفت نمی‌تواند درباره فناوری‌های خاص اظهار نظر کند زیرا «ماهیتی محرمانه» دارند. او افزود اسرائیل «متعهد به استفاده قانونی و مسئولانه از ابزارهای فناوری داده است» و تصریح کرد که ارتش در حال بررسی حمله علیه «بیاری» است و «تا تکمیل این تحقیقات، نمی‌توان اطلاعات بیشتری ارائه کرد.»
«متا» و «مایکروسافت» از اظهار نظر خودداری کردند. «گوگل» اعلام کرد: «ما کارمندانی داریم که در کشورهای مختلف جهان خدمت وظیفه ذخیره انجام می‌دهند. کاری که آن‌ها به‌عنوان نیروهای ذخیره انجام می‌دهند، هیچ ارتباطی با گوگل ندارد.»
همکاری ارتش و غول‌های فناوری
اسرائیل پیش از این نیز از درگیری‌های غزه و لبنان برای آزمایش و پیشبرد ابزارهای فناورانه نظامی خود، از جمله پهپادها، ابزارهای نفوذ به تلفن همراه و سامانه دفاعی «گنبد آهنین» استفاده کرده بود.
پس از حملات ۷ اکتبر ۲۰۲۳، فناوری‌های هوش مصنوعی به سرعت مجوز استقرار گرفتند. این امر به همکاری میان «واحد ۸۲۰۰» و نیروهای ذخیره در «استودیو» برای توسعه سریع قابلیت‌های جدید هوش مصنوعی منجر شد.
به گفته «آوی حسون»، مدیرعامل «Startup Nation Central»، نیروهای ذخیره که در شرکت‌های بزرگی چون «متا»، «گوگل» و «مایکروسافت» مشغول به کار بودند، در پیشبرد نوآوری در پهپادها و یکپارچه‌سازی داده‌ها نقشی حیاتی ایفا کردند. او افزود: «نیروهای ذخیره دانش فنی و دسترسی به فناوری‌های کلیدی را به همراه آوردند که در ارتش در دسترس نبود.»
ارتش اسرائیل به‌زودی از هوش مصنوعی برای ارتقای ناوگان پهپادی خود استفاده کرد. «آویو شاپیرا»، بنیان‌گذار و مدیرعامل «XTEND»، یک شرکت نرم‌افزار و پهپادی که با ارتش همکاری دارد، گفت: الگوریتم‌های مجهز به هوش مصنوعی برای ساخت پهپادهایی به کار گرفته شدند که می‌توانند از فاصله دور روی اهداف قفل کرده و آن‌ها را با دقتی مرگبار رهگیری کنند.
چت‌بات عربی: ابزار تحلیل یا نظارت؟
یکی از ابزارهایی که توسط «استودیو» توسعه داده شد، یک مدل هوش مصنوعی عربی‌زبان بود. پیش‌تر توسعه‌دهندگان در ایجاد چنین مدلی با مشکل روبه‌رو بودند، زیرا داده‌های کافی به زبان عربی برای آموزش فناوری وجود نداشت. اما ارتش اسرائیل دهه‌ها پیامک‌های شنودشده، مکالمات تلفنی و پست‌های شبکه‌های اجتماعی به گویش‌های محاوره‌ای عربی را در اختیار داشت.
افسران اسرائیلی در چند ماه نخست جنگ، این مدل زبانی بزرگ را ایجاد کردند و یک چت‌بات برای اجرای پرسش‌ها به زبان عربی طراحی نمودند. وقتی اسرائیل در سپتامبر رهبر حزب‌الله، «سیدحسن نصرالله»، را ترور کرد، این چت‌بات واکنش‌ها در سراسر جهان عرب را تحلیل کرد تا به ارزیابی فشار افکار عمومی برای حمله متقابل کمک کند.
با این حال، این ابزار گاهی قادر به شناسایی اصطلاحات عامیانه مدرن نبود و پاسخ‌های نادرستی ارائه می‌داد. برای نمونه، به جای تصاویر سلاح، عکس لوله‌ها را بازمی‌گرداند.
چالش‌های اخلاقی و شناسایی‌های اشتباه
در ایست‌های بازرسی موقت میان شمال و جنوب نوار غزه، اسرائیل دوربین‌ها را به یک برنامه تشخیص چهره پشتیبانی‌شده با هوش مصنوعی مجهز کرد. به گفته دو افسر اطلاعاتی، این سامانه نیز گاهی در شناسایی افرادی که چهره‌شان پوشیده بود، مشکل داشت و منجر به بازداشت و بازجویی از فلسطینی‌هایی شد که به اشتباه علامت‌گذاری شده بودند.
اسرائیل همچنین از هوش مصنوعی برای غربالگری داده‌های مربوط به اعضای حماس استفاده کرد. پیش از جنگ، الگوریتمی مبتنی بر یادگیری ماشین با نام رمز «لاوندر» (Lavender) را طراحی کرده بود که می‌توانست به‌سرعت داده‌ها را برای شناسایی نیروهای رده‌پایین حماس غربال کند. اگرچه پیش‌بینی‌های این سامانه بی‌نقص نبود، اسرائیل در آغاز جنگ از آن برای کمک به انتخاب اهداف حمله استفاده کرد.
یافتن و حذف رهبران ارشد حماس در صدر اهداف قرار داشت و در بالای این فهرست، «بیاری» قرار داشت. پس از شنود تماس‌های او، اسرائیل به ابزار صوتی مبتنی بر هوش مصنوعی روی آورد تا محل دقیق او را شناسایی کند. پس از آنکه مکان تقریبی تماس‌ها در یک منطقه پرجمعیت مشخص شد، مقامات نظامی برای اطمینان از کشته شدن «بیاری»، عملیات حمله هوایی به چندین ساختمان را تأیید و اجرا کردند.
از آن زمان، اطلاعات اسرائیل از این ابزار صوتی همراه با نقشه‌ها و تصاویر شبکه تونل‌های زیرزمینی غزه برای شناسایی گروگان‌ها نیز استفاده کرده است. به گفته دو افسر اسرائیلی، این ابزار به مرور زمان اصلاح شده تا افراد را با دقت بیشتری مکان‌یابی کند.
