سلاح‌سازی از تشخیص محتوای هوش مصنوعی در جنگ ایران

به نقل از Tech Policy Press تصاویر شبیه‌سازی‌شده‌ای که بمباران و ویرانی را به تصویر می‌کشند، در کنار مستندات موثق از رویدادهای واقعی دست‌به‌دست می‌شوند و تمایز میان واقعیت و مجاز را به‌شدت دشوار می‌سازند. سازمان‌های خبری بزرگ از جمله WIRED, BBC و CNN نیز موج فزاینده تصاویر جعلی جنگی ساخته‌شده با هوش مصنوعی که در فضای مجازی دست‌به‌دست می‌شوند را مستند کرده‌اند؛ اما تاکتیک نگران‌کننده‌تری از دل این هرج‌ومرج در حال ظهور است؛ تحلیل‌هایی با ظاهر فنی به‌عنوان سلاحی برای اعتبارزدایی دروغین از شواهد موثق به کار گرفته می‌شوند. هیچ‌کدام از این‌ها غافلگیرکننده نیست؛ در واقع، این وضعیت کاملاً قابل‌پیش‌بینی بود.

تبدیل هشدارها به واقعیت

سال‌هاست که پژوهشگران و سازمان‌های جامعه مدنی، از جمله Tech Policy Press، هشدار داده‌اند که عرضه ابزارهای قدرتمند هوش مصنوعی مولد بدون سازوکارهای حفاظتی معنادار، در نهایت با بحران‌های ژئوپلیتیک روبه‌رو خواهند شد. به نظر می‌رسد این جنگ نقطه اوج همان مسیر پیش‌بینی‌شده است. مؤسسه CEIP در طول جنگ ۱۲ روزه اسرائیل و ایران، جهشی بی‌سابقه محتوای تولیدشده توسط هوش مصنوعی در طول یک درگیری فعال را مستند کرد. محتوای هوش مصنوعی در قالب پروپاگاندای حکومتی، روایت‌های نظامی اسرائیل و چت‌بات‌های هوش مصنوعی از جمله  Grok که احکام نادرستی درباره ویدئوهای مورد مناقشه صادر می‌کردند، همگی به طور هم‌زمان فعال بوده و یکدیگر را تقویت می‌کردند.

آنچه اکنون شاهد آن هستیم، همان محیط اطلاعاتی اما با شدتی به‌مراتب بیشتر است. اکنون ابزارهای هوش مصنوعی مولد خروجی‌هایی به‌مراتب واقع‌گرایانه‌تری تولید می‌کنند و در دسترس طیف بسیار وسیع‌تری از بازیگران قرار دارند. حکومت ایران، جنبش‌های اپوزیسیون، جوامع دور از وطن و دولت‌های خارجی منافع متمایزی در جهت‌دهی به نحوه درک مناقشه کنونی دارند.

نتیجه این وضعیت، حجم انبوهی از محتواست که کنترل آن از دست خارج شده است. شایان سرداری‌زاده، روزنامه‌نگار بخش راستی‌آزمایی بی‌بی‌سی (BBC Verify)، اشاره کرده است که این مناقشه ممکن است تا کنون رکوردهای مربوط به حجم محتوای ویروسی‌شده تولیدی با هوش مصنوعی در طول یک جنگ را شکسته باشد. تال هاگین، پژوهشگر حوزه اوسینت (OSINT) نیز به طور مشابه مشاهده کرده است که این مشکل دیگر محدود به فریب‌خوردن کاربران عادی رسانه‌های اجتماعی نیست؛ حجم محتوا حتی از ظرفیت راستی‌آزمایی اتاق‌های خبر حرفه‌ای نیز پیشی گرفته است. در چنین محیطی، شواهد موثق نه‌تنها سخت‌تر یافت می‌شوند، بلکه اصطلاحاً مدفون می‌شوند.

پیامدهای این وضعیت انتزاعی نیستند. وقتی مخاطبان نتوانند شواهد موثق را از شواهد دستکاری‌شده تشخیص دهند، انکار فجایع آسان‌تر می‌شود. مستندات واقعی از آسیب به غیرنظامیان را می‌توان به‌عنوان «هوش مصنوعی» رد کرد و پرسش‌های حیاتی درباره هزینه‌های انسانی جنگ زیر بهمنی از این نمایش‌های ساختگی پنهان می‌ماند.

اما در میان این وضعیت دشوار، پدیده جدیدی در حال ظهور است که تهدیدی متمایز برای زیرساخت‌های راستی‌آزمایی به شمار می‌رود؛ یعنی همان زیرساخت‌هایی که جوامع آسیب‌دیده از جنگ به آن‌ها وابسته‌اند. در میان پرونده‌هایی که Tech Policy Press مستند کرده، ابزارها و روش‌های راستی‌آزمایی نه برای تأیید اصالت یافته‌های رسانه‌ای، بلکه برای بخشیدن ظاهری از اعتبار علمی به نتایجی که از قبل گرفته شده‌اند، به کار گرفته می‌شوند. ممکن است بصری‌سازی‌ها ساختگی باشند، متدولوژی به طور بنیادین دارای نقص باشد، یا ابزار صرفاً با پاسخی تغذیه شود که کاربر مایل به تأیید آن است. در هر حالت، نتیجه یکسان است: شواهدی با ظاهر فنی ضمیمه یک ادعای دروغین می‌شود و سریع‌تر از آنکه هرگونه اصلاحیه‌ای بتواند آن را دنبال کند، منتشر می‌گردد. این همان سلاح‌سازی از خودِ فرایند تشخیص هوش مصنوعی و تحلیل‌های جرم‌شناسی دیجیتال است.

نقشه حرارتی که واقعی نبود

در یک پرونده که به طور گسترده به اشتراک گذاشته شد، از بصری‌سازی‌های «نقشه حرارتی» برای بی‌اعتبار کردن تصاویر میدان نیلوفر در شرق تهران استفاده شد. این عکس‌ها که توسط «عرفان کوچاری»، عکاس خبری خبرگزاری دانشجو (SNN) گرفته شده بود، از طریق سرویس Parspix/ABACA توزیع و بعداً توسط رسانه‌های بین‌المللی از جمله تلگراف و گاردین به‌عنوان عکسی خبری موثق منتشر شد.

مدت کوتاهی پس از شروع انتشار این تصاویر در فضای مجازی، کاربری که خود را هنرمند جلوه‌های بصری معرفی می‌کرد، در شبکه اجتماعی X پستی منتشر کرد (پستی که Tech Policy Press به آن ارجاع داده، در X در دسترس نیست و حذف شده است.) که آن را «لایه‌های نقشه حرارتی» و خروجی‌های Gemini و ChatGPT نامید و ادعا کرد که این عکس‌ها «به‌احتمال بسیار زیاد همگی تصاویر تولیدشده با هوش مصنوعی هستند». این بصری‌سازی‌ها به‌سرعت پخش شدند و به‌عنوان مدرکی دال بر جعلی بودن تصاویر مورد استناد قرار گرفتند.

اما خود این نقشه‌های حرارتی ساختگی به نظر می‌رسند. نقشه‌های حرارتی شکلی از بصری‌سازی داده‌ها هستند که مقادیر را از طریق شدت رنگ در یک تصویر یا مجموعه‌داده نشان می‌دهند. در جرم‌شناسی تصویر، نقشه‌های حرارتی معمولاً ناهنجاری‌ها را برجسته می‌کنند. بااین‌حال، نمونه‌های منتشرشده در فضای مجازی شباهتی به نقشه‌های حرارتی جرم‌شناسی معمول نداشتند.

«نیکوس ساریس»، پژوهشگر ارشد MeVer که این تصاویر را بررسی کرده است، گفت: «این نقشه حرارتی بسیار غیرعادی به نظر می‌رسد؛ زیرا ناهنجاری‌های معنایی مشخصی را مکان‌یابی و متمایز نمی‌کند.» طبق تجربه او، آشکارسازهای تصاویر تولیدشده با هوش مصنوعی معمولاً تصاویر را به‌عنوان یک کل تحلیل می‌کنند، نه اینکه بخش‌های مجزایی را جداسازی کنند. نقشه‌های ناهنجاری بومی‌سازی‌شده بیشتر مشخصه اشکال قدیمی‌تر دست‌کاری، مانند ترمیم تصویر (Inpainting) در فتوشاپ هستند تا تصاویر هوش مصنوعی مولد. وی افزود: «بدیهی است که در اینجا با چنین موردی روبه‌رو نیستیم.»

متخصص دیگری به نام «ایلکه دمیر»، مدیرعامل و بنیان‌گذار Cauth AI (استارتاپی که بر اصالت‌سنجی محتوا تمرکز دارد)، نگرانی‌های مشابهی را مطرح کرد. دمیر گفت: «این نقشه‌های حرارتی شبیه نمونه‌های واقعی نیستند و من معتقدم که خود آن‌ها با هوش مصنوعی تولید شده‌اند. فقط به راهنمای نمودار نگاه کنید: «Low / High / Map» (کم / زیاد / نقشه). اصلاً منطقی نیست.» برای مخاطبانی که با نحوه کارکرد واقعی ابزارهای جرم‌شناسی آشنا نیستند، بصری‌سازی‌هایی که در کنار ارجاع به Gemini و ChatGPT ارائه شده بودند، ظاهر یک تحلیل فنی دقیق را به همراه داشتند.

کوچاری در پاسخ به این اتهام، در اینستاگرام خود نسخه‌هایی را که «اصلی» و «ویرایش‌شده» نامیده بود، در کنار یکدیگر منتشر کرد که همان سه سوژه (یک مرد جوان، یک مرد مسن و دختری با لباس خواب) را در موقعیت‌های کاملاً یکسان نشان می‌داد؛ یکی تخت و با نور طبیعی و دیگری به‌شدت پردازش و ادیت شده. چنین ویرایش‌هایی ممکن است شامل فیلترهایی باشند که ابزارهای بهبود تصویر مبتنی بر هوش مصنوعی را در خود دارند؛ امری که می‌تواند سیستم‌های راستی‌آزمایی خودکار را گمراه کند و پتانسیل تغییر معنا را داشته باشد. اما همان‌طور که این اتهام آشکارا دروغینِ هوش مصنوعی نشان می‌دهد، در اینجا چنین موضوعی مطرح نبود. کپشن او به همان اندازه که حاوی مدرک بود، نشان از تسلیم و ناامیدی داشت.

آنچه این تاکتیک دست‌کاری را بسیار مؤثر می‌سازد، این است که تصاویر با ظاهر فنی چقدر راحت می‌توانند توهمی از اعتبار و مرجعیت ایجاد کنند. حتی برای محققان باذکاوت نیز در نگاه اول آسان است فرض کنند بصری‌سازی ارائه‌شده در کنار ارجاع به ابزارهای هوش مصنوعی باید معتبر باشد.

آنچه این مناقشه پنهان کرد، این بود که تأیید مستقل و جانبی پیش از آن وجود داشت. عکاس دومی به نام حمید وکیلی که او نیز برای Parspix/ABACA عکاسی می‌کرد، همان صحنه را چند ثانیه بعد از موقعیتی متفاوت ثبت کرده بود و از قربانیان دیگری در همان مکان عکس گرفته بود. هر دو مجموعه تصویر دارای مجوز بوده و به نام آژانس Alamy ثبت شده‌اند. به‌عبارت‌دیگر، زیرساخت راستی‌آزمایی در حال کار بود، دو عکاس، یک صحنه، یک سرویس عکس و مستندسازی دقیق. اما در یک محیط اطلاعاتی که از قبل برای بی‌اعتمادی آماده شده بود، نقشه‌های حرارتی نیازی به متقاعدکننده بودن نداشتند؛ آن‌ها فقط نیاز داشتند آنچه را که مخاطبان از قبل به آن ظنین بودند، تأیید کنند.

توهم اقتدار فنی

در پرونده دومی که در فضای مجازی منتشر شد، ابزارهای جرم‌شناسی واقعی ظاهراً به‌قدری اشتباه اعمال شده بودند که نتایج حاصل از آن‌ها با جعل و ساختگی بودن تفاوتی نداشت.

عکسی که در تاریخ ۹ مارس ۲۰۲۶ توسط نیویورک‌تایمز منتشر شد و تجمع مردم در تهران را پس از اعلام رهبر جدید ایران مستند می‌کرد، هدف یک تلاش هماهنگ برای بی‌اعتبار کردن قرار گرفت. در همان روز، حساب کاربری «مؤسسه تحقیقات تجربی و پیش‌بینی» (ERFI) در شبکه X که خود را تأسیس‌شده توسط یک دانشمند دارای مدرک دکترا مستقر در استرالیا معرفی می‌کند، رشته‌توئیتی منتشر کرد و مدعی شد که این تصویر «نشانه‌هایی از دست‌کاری دیجیتال را نشان می‌دهد» و «ساختگی» و «جعلی» است. این حساب به‌عنوان مدرک، اسکرین‌شات‌هایی از تحلیل‌های جرم‌شناسی از جمله «تحلیل سطح خطا» (ELA) را به اشتراک گذاشت. این رشته‌توئیت بیش از ۶۰۰,۰۰۰ بازدید در X گرفت و اسکرین‌شات‌های این تحلیل جرم‌شناسی ادعایی در اینستاگرام و سایر پلتفرم‌هایی که به طور گسترده توسط جوامع دور از وطن ایرانی استفاده می‌شوند، فراتر رفت.

همین حساب کاربری یک رندر «نقشه نرمال» (Normal Map) از همان اسکرین‌شات را منتشر کرد و آن را به‌عنوان مدرک قاطع جعل ارائه داد. در گرافیک کامپیوتری، یک نقشه نرمال در رندرینگ سه‌بعدی برای شبیه‌سازی نحوه تعامل نور با بافت‌های سطحی استفاده می‌شود؛ وقتی روی یک عکس تخت اعمال شود، صرفاً گرادیان‌های پیکسل را به الگوهای رنگی تبدیل می‌کند و یک ابزار جرم‌شناسی دیجیتال قادر به تشخیص نشانه‌های تولیدشده با هوش مصنوعی نیست. در این بستر، این رندر نقشی را ایفا می‌کند که «کریگ سیلورمن» روزنامه‌نگار آن را «کاسپلی جرم‌شناسی» (Forensic Cosplay) می‌نامد؛ یک بصری‌سازی با ظاهر فنی که القاکننده یک تحلیل پنهان و عمیق است؛ درحالی‌که در واقع صرفاً در خدمت اعتباربخشی ساختگی به یک ادعای ازپیش‌تعیین‌شده است.

مشکل در اینجا اساسی بود. همان‌طور که سیلورمن در خبرنامه خود به نام Indicator مستند کرده است، ERFI تحلیل خود را روی تصویر اصلی اجرا نکرده بود؛ بلکه روی اسکرین‌شاتی از یک پست اینستاگرامی شامل رابط کاربری پلتفرم پیرامون آن، انجام داده بود. همان‌طور که دمیر توضیح می‌دهد، اسکرین‌شات‌ها ناهنجاری‌های فشرده‌سازی (Compression Artifacts) ایجاد می‌کنند که هیچ ارتباطی به اصیل یا سنتزشده‌بودن تصویر اصلی ندارد. دمیر گفت: «به نظر می‌رسد این روزها هر کسی که یک edge detector یا ابزار بصری‌سازی نقشه روی تصاویر دارد، به یک متخصص تبدیل می‌شود.»

نیویورک‌تایمز پاسخی عمومی صادر کرد و خاطرنشان کرد که این تحلیل «رفتار استاندارد فشرده‌سازی تصویر را به‌اشتباه تفسیر کرده و وارونه جلوه می‌دهد». اما در میان جوامع ایرانیان خارج از کشور، جایی که این اسکرین‌شات‌ها به گسترده‌ترین شکل ممکن پخش شده بود، این نتیجه‌گیری که تصویر توسط هوش مصنوعی تولید شده، پیش از آن جا افتاده بود. این «کاسپلی جرم‌شناسی» به مخاطبانی به‌مراتب وسیع‌تر از آنچه هرگونه اصلاحیه‌ای می‌توانست به آن دست یابد، رسیده بود.

این وضعیت، تکامل یک تاکتیک دست‌کاری آشناست. سال‌هاست بازیگرانی که به دنبال تضعیف محتوای موثق هستند، به‌سادگی به آن برچسب «جعلی» می‌زنند و اخیراً نیز ادعای تشخیص‌های مثبت کاذب (False Positives) از سوی ابزارهای تشخیص غیرقابل‌اعتماد را مطرح می‌کنند. اما تاکتیک جدید پیچیده‌تر است؛ یعنی جعل شواهد جرم‌شناسی با ظاهر فنی برای حمایت از آن ادعاها. این تفاوت میان گفتن اینکه «این تصویر هوش مصنوعی است» با ارائه چیزی است که به‌عنوان اثبات علمی به نظر می‌رسد. این تاکتیک به‌ویژه ازآن‌رو خوب عمل می‌کند که بیشتر مردم با نحوه کارکرد واقعی ابزارهای جرم‌شناسی آشنا نیستند.

نتیجه این امر یک چرخه بازخورد خطرناک است؛ محتوای سنتزشده اعتماد به شواهد واقعی را تضعیف می‌کنند و تحلیل‌های جرم‌شناسی ساختگی، اعتماد به خودِ فرایند راستی‌آزمایی را از بین می‌برند. در چنین محیطی، ابزارهایی که برای تشخیص دست‌کاری طراحی شده‌اند، خود به ابزار دست‌کاری تبدیل می‌شوند که برای تعمیق شک و سردرگمی درباره رویدادهای واقعی و حتی تلفات واقعی به کار گرفته می‌شوند.

این بحران صرفاً نتیجه عملکرد بازیگران مخرب در یک اکوسیستم اطلاعاتی به‌شدت شکننده نیست؛ این امر همچنین پیامد مستقیم به‌کارگیری فناوری‌های مولدِ بسیار قدرتمند بدون سازوکارهای حفاظتی کافی، در کنار یک زیرساخت راستی‌آزمایی است که هرگز برای ایستادگی در برابر سرعتی که اعتبار دروغین اکنون با آن گسترش می‌یابد، طراحی نشده‌اند.

برخی سیگنال‌های اعتمادساز وجود دارند که می‌توانند کمک‌کننده باشند. به‌عنوان نمونه، اعتبارنامه‌های محتوا (Content Credentials) امکان می‌دهند اطلاعات مربوط به اصالت و منشأ اثر همراه با تصویر در هر پلتفرمی که توزیع می‌شود، منتشر شود. پذیرش این فناوری همچنان محدود است، اما حتی الزامات اولیه اعتبارنامه محتوا در سطح آژانس‌های عکس می‌تواند یک لایه از اعتماد را ایجاد کند.

پرونده‌هایی که Tech Policy Press مستند کرده موارد نادر و استثنایی نیستند؛ بلکه پیش‌نمایشی از یک محیط راستی‌آزمایی هستند که در آن اصلاحیه‌ها کندتر و محدودتر از ادعاهای دروغین اولیه حرکت می‌کنند و جایی که ابزارهای احراز اصالت وجود دارند؛ اما در فضاهایی که مناقشات واقعاً در آن‌ها رخ می‌دهد، ادغام و تعبیه نشده‌اند.

هنگامی که اعتماد به شواهد فرومی‌ریزد، بزرگ‌ترین قربانی تنها حقیقتِ آنلاین نیست؛ بلکه مسئولیت‌پذیری و پاسخگویی در قبال آسیب‌های جهان واقعی است.