تصاویر جعلی مبتنی بر هوش مصنوعی منبعی برای اطلاعات نادرست در جنگ

تصویری که در شبکه X منتشر شد یک تصویر ماهواره‌ای را نشان می‌دهد که ادعا می‌کند پس از حمله پهپادی ایران به قطر، سامانه راداری آمریکایی آسیب دیده است. تحلیل فایننشال تایمز نشان می‌دهد این تصویر، در واقع یک تصویر ماهواره‌ای از منطقه‌ای در بحرین است که توسط هوش مصنوعی دستکاری شده است. ویدئوهایی که توسط فایننشال تایمز بررسی و تأیید شده‌اند، چندین حمله در نزدیکی سامانه راداری را نشان می‌دهند و تصاویر ماهواره‌ای ثبت‌شده توسط Planet Labs در تاریخ اول مارس تأیید می‌کند که سایت آسیب دیده است. بااین‌حال، تصویر رادار تخریب‌شده دارای نشانه‌های دستکاری است.

جنگ اطلاعاتی

این مورد نه اولین و نه آخرین مورد از تصاویر دستکاری شده است. احتمالا موارد بسیار دیگری از چنین تصاویری با هدف جنگ اطلاعاتی یا تاثیر در شبکه‌ها اجتماعی تولید یا دستکاری شده‌ باشند. چنانچه در درگیری بین هند و پاکستان و در شروع درگیری بین روسیه و اوکریان نیز شاهد پخش گسترده ویدیو‌های دیپ فیک بوده‌ایم. این حادثه بازتاب یک تغییر گسترده‌تر در حوزه جنگ اطلاعاتی است، زیرا هوش مصنوعی مولد تولید شواهد بصری متقاعدکننده را آسان‌تر و تشخیص میان مستندسازی واقعی و فریب را دشوارتر می‌کند.

شاید معروف‌ترین مورد استفاده از هوش‌مصنوعی برای جنگ اطلاعاتی، ویدیو منتشر شده از ولادیمر زلنسکی رئیس‌جمهور اوکراین در آغاز حمله روسیه به اوکراین بود، ویدیویی که در آن زلنسکی از نیرو‌های مسلح و مردم اوکراین میخواست که تسلیم شوند. یا در نمونه دیگر صدای تولید شده از یک زنرال ارتش پاکستان که در زمان در گیری با هند خبر از اقدام هسته‌ای علیه هند می‌داد.

هر چند که بسیاری از این تصاویر توسط طرفین درگیری با هدف جنگ اطلاعات تولید و پخش می‌شود. اما با دسترسی راحت و ساده همه افراد به ابزار‌های هوش‌مصنوعی، امکان تولید چنین تصاویری یا ویدیو‌هایی برای همه فراهم شده. تصاویری که تشخیص جعلی بودن یا دستکاری شده بودن آن‌ها کار بسیار دشواری است.

ممکن است در میانه یک بحران یا جنگ، شیطنت یک حساب کاربری در X یا دیگر شبکه‌های اجتماعی باعث پیامد‌های گسترده‌ای شود که سازنندگان و منتشرکنندگان این نوع محتوا‌ها به هیچ عنوان تصور آن را نمی‌کرده‌اند.

رگولاتوری در رسانه‌های اجتماعی

در پاسخ به افزایش ویدئوهای جعلی در پلتفرم X، «نیکیتا بییر» مدیر محصول  X روز سه‌شنبه ۳ مارس اعلام کرد که X تلاش‌های خود برای محدودکردن محتوای تولید شده توسط هوش مصنوعی را افزایش خواهد داد.

«برادی آفرک» پژوهشگر مستقل هوش منبع‌باز و مدیر روابط رسانه‌ای American Enterprise Institute عنوان می‌کند مردم معمولاً به تصاویر ماهواره‌ای به دلیل فناوری پیچیده‌ای که در ثبت آن‌ها به کار رفته است به‌عنوان منبعی از حقیقت اعتماد می‌کنند. به کفه وی: «تصاویر ماهواره‌ای می‌توانند مانند سایر تصاویر دستکاری شوند. هوش مصنوعی این کار را بسیار آسان‌تر کرده و تهدید جدی برای افرادی است که می‌خواهند اطلاعات آنلاین دریافت کنند.» وی افزود که نگرانی او این است که پیشرفت سریع این مدل‌ها تنها قدرت تشخیص و شناسایی تصاویر جعلی را در درگیری‌های آینده سخت‌تر خواهد کرد.

«هِنک ون اِس» متخصص روش‌های تحقیق آنلاین و نویسنده خبرنامه Digital Digging درباره دشواری شناسایی تصاویر ماهواره‌ای دستکاری شده گفت: «برخلاف دیپ‌فیک‌ها که نشانه‌های بیومتریک دارند، تصاویر ماهواره‌ای فاقد این نوع نشانه‌ها هستند.» او توضیح داد: «در یک چهره می‌توانید به پلک یا چشم‌های عجیب، بافت غیرطبیعی پوست، یا گوش‌های غیرمتعارف توجه کنید. اما در تصویر ماهواره‌ای شما ساختمان‌ها، جاده‌ها، زمین و مواردی را می‌بینید که این نشانه‌های ذاتی را ندارند. اکثر مردم نمی‌دانند یک تصویر ماهواره‌ای واقعی از یک سنسور مشخص و با وضوح مشخص باید چگونه باشد.»

ون اِس افزود: «قبلاً برای جعل یک تصویر ماهواره‌ای نیاز به یک آژانس اطلاعاتی دولتی با مهارت فتوشاپ بود؛ اما اکنون هر کسی با دسترسی به ابزارهای هوش مصنوعی رایگان می‌تواند چیزی تولید کند که کافی باشد تا بینندگان عادی را فریب دهد و حتی بازارها را تحت‌تأثیر قرار دهد؛ این یعنی مانع اصلی از بین رفته است.»

دستکاری ادراک با دستکاری تصویر

استفاده از هوش مصنوعی برای افزودن رنگ به تصاویر ماهواره‌ای می‌تواند برداشت مردم از صحنه را به‌طور نامحسوس تغییر دهد و تفاوت‌های ظاهری ایجاد کند که ممکن است در واقعیت وجود نداشته باشند، مطابق توضیح «بو ژائ»، استاد جغرافیای دیجیتال دانشگاه واشنگتن: «تصاویر سیاه‌وسفید جزئیات و پرسپکتیو اشیا یا تفاوت‌های زمینی را نشان نمی‌دهند. با افزودن رنگ، تشخیص آن‌ها آسان‌تر می‌شود.»

درگیری در خاورمیانه اولین جنگ تحت‌تأثیر اطلاعات نادرست مبتنی بر هوش مصنوعی نیست. گزارش‌هایی از تصاویر ماهواره‌ای جعلی پس از جنگ چهارروزه هند و پاکستان در سال گذشته میلادی نیز وجود داشت و ادعاهای مشابه در جریان جنگ اوکراین و روسیه نیز مطرح شده است. آفرک در پایان می‌گوید: «به نظر من، این امر تا حد زیادی مسئله آموزش و آگاهی است؛ برای اطمینان از اینکه هر چه تعداد بیشتری از مردم با روش‌های دستکاری رسانه‌های دیجیتال آشنا شوند. خود افراد باید بسیار مصمم باشند که منابع معتبر و مسئول را دنبال کنند.»