تلاش اسرائیل برای تغییر روایت ChatGPT درباره غزه

دولت‌ها سال‌ها برای اثرگذاری بر افکار عمومی جهان از ابزارهایی مانند تبلیغات، شرکت‌های روابط عمومی، رسانه‌ها، شبکه‌های اجتماعی و انتشار مقالات استفاده کرده‌اند. اما با گسترش چت‌بات‌های هوش مصنوعی، یک هدف جدید به این فهرست اضافه شده است: تأثیرگذاری بر اطلاعاتی که مدل‌های هوش مصنوعی هنگام پاسخ‌گویی به کاربران دریافت و پردازش می‌کنند.

بر اساس گزارشی که Politico با بررسی اسناد منتشر کرده، اسرائیل در کارزاری که بخشی از آن با هدف اثرگذاری بر فضای اطلاعاتی آنلاین طراحی شده، اقدام به تولید و انتشار محتوایی درباره موضوعاتی مانند جنگ غزه، عملکرد ارتش اسرائیل و مسئله یهودستیزی کرده است.

اهمیت این اقدام در آن است که مدل‌های زبانی بزرگ یا LLMها مانند ChatGPT تنها بر اساس اطلاعاتی که مستقیماً از سوی شرکت سازنده در اختیارشان قرار گرفته پاسخ نمی‌دهند. ابزارهای جست‌وجوی مبتنی بر هوش مصنوعی نیز می‌توانند اطلاعات موجود در اینترنت را بازیابی، خلاصه و در پاسخ‌های خود استفاده یا به آنها استناد کنند.

در نتیجه، منبعی که در اینترنت منتشر می‌شود می‌تواند در نهایت به بخشی از زنجیره تولید پاسخ یک سامانه هوش مصنوعی تبدیل شود.

مؤسسه‌ای با محتوای هدفمند درباره غزه

در مرکز این کارزار، نام مؤسسه‌ای با عنوان Hanover Institute for Public Policy مطرح شده است؛ وب‌سایتی که ده‌ها گزارش بدون نام نویسنده درباره موضوعات سیاسی حساس منتشر کرده است.

برخی از مطالب این وب‌سایت مستقیماً به موضوعاتی مانند عملکرد ارتش اسرائیل، وضعیت غزه و سیاست‌های اسرائیل می‌پردازند. حتی پرسش‌هایی مانند اینکه آیا ارتش اسرائیل «اخلاقی‌ترین ارتش جهان» است یا اینکه آیا اسرائیل در غزه سیاست گرسنگی دادن را دنبال می‌کند، در این مجموعه دیده می‌شود.

بر اساس گزارش Politico، شرکت روابط عمومی فرانسوی Havas Media از طریق پیمانکاری به نام Piro Inc. در راه‌اندازی این مؤسسه نقش داشته است. اسناد ثبت‌شده در چارچوب قانون ثبت عوامل خارجی آمریکا یا FARA نیز نشان می‌دهد بیش از ۱۲ مقاله منتشرشده توسط این مؤسسه بخشی از یک کارزار ۱۰۰ هزار دلاری بوده‌اند.

طبق همین اسناد، هدف اعلام‌شده این کارزار، تولید و توزیع محتوایی «واقعی و مستند» برای آگاه‌سازی افکار عمومی آمریکا درباره اسرائیل و مسائل مرتبط با آن عنوان شده است.

چرا ساختار این محتوا برای هوش مصنوعی مهم است؟

نکته قابل توجه درباره مطالب منتشرشده در این وب‌سایت، صرفاً محتوای آنها نیست؛ بلکه نحوه ساخت و سازمان‌دهی آنهاست.

بسیاری از مطالب به جای آنکه مانند مقاله‌های معمول روابط عمومی یا یادداشت‌های سیاسی نوشته شوند، حول پرسش‌هایی دقیق تنظیم شده‌اند؛ پرسش‌هایی شبیه همان عباراتی که کاربران هنگام کار با ChatGPT یا موتورهای جست‌وجوی هوش مصنوعی وارد می‌کنند.

این ساختار می‌تواند اهمیت زیادی داشته باشد. ابزارهایی مانند ChatGPT و Perplexity برای پاسخ به برخی پرسش‌ها، اطلاعات موجود در وب را جست‌وجو و منابع مختلف را بازیابی می‌کنند. اگر یک محتوای آنلاین به‌خوبی ساختاربندی شده، قابل جست‌وجو و ظاهراً معتبر باشد، احتمال ورود آن به چرخه پاسخ‌دهی هوش مصنوعی افزایش پیدا می‌کند.

به بیان ساده، در عصر هوش مصنوعی، تولید محتوا دیگر فقط برای انسان‌ها انجام نمی‌شود؛ الگوریتم‌ها نیز به یکی از مخاطبان اصلی محتوا تبدیل شده‌اند.

ChatGPT و Perplexity به محتوای این مؤسسه استناد کردند

Politico اعلام کرده است که در آزمایش‌های خود، ChatGPT و Perplexity هنگام پاسخ به پرسش‌هایی درباره غزه، ضدصهیونیسم و یهودستیزی، به مطالب منتشرشده توسط Hanover Institute استناد کرده‌اند.

البته این یافته به‌تنهایی ثابت نمی‌کند که کارزار مذکور توانسته است به‌صورت سیستماتیک پاسخ‌های ChatGPT یا Perplexity درباره اسرائیل را تغییر دهد.

همچنین نمی‌توان نتیجه گرفت که تمام مطالب منتشرشده توسط این مؤسسه از ابتدا با هدف تأثیرگذاری بر مدل‌های هوش مصنوعی تولید شده‌اند.

اما یک نکته مهم را نشان می‌دهد: محتوایی که در چارچوب یک کارزار ارتباطی با حمایت مالی یک دولت تولید شده است، می‌تواند وارد منابع مورد استفاده ابزارهای پرکاربرد هوش مصنوعی شود.

این اتفاق تفاوت مهمی با تبلیغات سنتی دارد. کاربر ممکن است در برابر یک تبلیغ بداند که با محتوای تبلیغاتی مواجه است؛ اما وقتی همان پیام از طریق پاسخ یک چت‌بات ارائه شود، ممکن است آن را یک پاسخ بی‌طرفانه و مبتنی بر مجموعه‌ای از منابع مستقل تصور کند.

افشای ارتباط با دولت اسرائیل

وب‌سایت Hanover Institute اعلام کرده است که محتوای آن توسط Piro و به نمایندگی از Havas Media Germany توزیع می‌شود و در نهایت به آژانس تبلیغات دولتی اسرائیل، موسوم به LaPam، مرتبط است. با این حال، Hanover Institute for Public Policy و Havas Media Network و Havas Media Network Germany به پرسش‌های Arab News درباره این موضوع پاسخ نداده‌اند. در مقابل، Piro اتهام فریبکاری را رد کرده است.

دانیل روزنبرگ، هم‌بنیان‌گذار این شرکت، به Politico گفته است که Piro با اسرائیل قرارداد داشته و این ارتباط نیز در چارچوب قانون FARA اعلام شده است. به گفته او، هدف این همکاری قرار دادن اطلاعات دقیق و مستند در فضای عمومی و مقابله با آنچه شرکت «اطلاعات نادرست درباره اسرائیل» می‌داند، بوده است.

ردپای یک شرکت هوش مصنوعی در پشت پروژه

گزارش Politico همچنین به نشانه‌های فنی اشاره می‌کند که نشان می‌دهد وب‌سایت Hanover Institute با استفاده از خدمات شرکت هوش مصنوعی Res، مستقر در سیاتل، ساخته یا میزبانی شده است. Res خدماتی ارائه می‌دهد که به شرکت‌ها کمک می‌کند احتمال توصیه یا نمایش نام برندشان توسط مدل‌های هوش مصنوعی را افزایش دهند.

بر اساس گزارش مذکور، نسخه‌ای مشابه از صفحه اصلی Hanover Institute که روی زیرساخت Res میزبانی می‌شد، پس از تماس Politico با این شرکت دیگر در دسترس نبود. این موضوع اهمیت بیشتری پیدا می‌کند؛ زیرا نشان می‌دهد تلاش برای اثرگذاری بر خروجی مدل‌های هوش مصنوعی ممکن است تنها به تولید محتوای متنی محدود نباشد و به استفاده از ابزارها و روش‌های تخصصی برای افزایش دیده‌شدن محتوا در محیط‌های مبتنی بر هوش مصنوعی نیز گسترش پیدا کند.

«بهینه‌سازی برای موتورهای مولد» چیست؟

این پرونده مفهومی را مطرح می‌کند که گاهی از آن با عنوان Generative Engine Optimization یا به اختصار GEO یاد می‌شود. در گذشته، شرکت‌ها و رسانه‌ها برای افزایش دیده‌شدن در گوگل از SEO یا بهینه‌سازی موتور جست‌وجو استفاده می‌کردند؛ یعنی محتوا را به شکلی تولید می‌کردند که در نتایج جست‌وجوی گوگل رتبه بالاتری بگیرد.

در عصر هوش مصنوعی، هدف می‌تواند تغییر کند: به جای اینکه صرفاً تلاش شود یک صفحه در رتبه‌های بالای گوگل قرار بگیرد، تولیدکننده محتوا می‌کوشد احتمال انتخاب، بازیابی، استناد یا خلاصه‌شدن محتوای خود توسط مدل‌های هوش مصنوعی را افزایش دهد. این تغییر می‌تواند قواعد جنگ اطلاعاتی را به شکل قابل توجهی دگرگون کند.

این نخستین تلاش اسرائیل برای اثرگذاری بر خروجی GPT نیست

بر اساس اسناد قبلی FARA که Politico به آنها استناد کرده، Havas در گذشته نیز شرکت Clock Tower X را در قالب یک کارزار ۴۶.۵ میلیون دلاری مرتبط با اسرائیل به کار گرفته بود. در آن اسناد به استفاده از وب‌سایت‌ها و محتواهایی برای دستیابی به نتایج مطلوب در قالب «GPT framing results» اشاره شده بود.

این عبارت نشان می‌دهد تلاش برای تأثیرگذاری بر نحوه چارچوب‌بندی پاسخ‌های مدل‌های هوش مصنوعی، موضوعی جدید نیست و ممکن است بخشی از یک روند گسترده‌تر در ارتباطات سیاسی باشد.

چرا هوش مصنوعی به میدان تازه جنگ اطلاعاتی تبدیل شده است؟

تا پیش از ظهور چت‌بات‌های مولد، یک کارزار سیاسی برای اثرگذاری بر افکار عمومی باید روزنامه‌نگاران، سردبیران، تهیه‌کنندگان تلویزیونی، کاربران شبکه‌های اجتماعی یا مخاطبان مستقیم را متقاعد می‌کرد. اما هوش مصنوعی یک واسطه جدید ایجاد کرده است.

امروز میلیون‌ها کاربر برای فهم جنگ‌ها، بحران‌های سیاسی، اختلافات تاریخی و مسائل پیچیده اجتماعی مستقیماً از چت‌بات‌ها سؤال می‌کنند. پاسخ نهایی نیز می‌تواند تا حدی به این بستگی داشته باشد که چه منابعی در اینترنت وجود دارند، این منابع چگونه نوشته شده‌اند و الگوریتم‌ها تا چه اندازه آنها را قابل بازیابی و استفاده تشخیص می‌دهند.

در چنین شرایطی، دولت‌ها، شرکت‌ها، گروه‌های سیاسی و سازمان‌های ذی‌نفع انگیزه پیدا می‌کنند محتوایی تولید کنند که نه‌تنها برای خواننده انسانی، بلکه برای الگوریتم‌ها نیز بهینه شده باشد.

مرز میان «اطلاعات» و «تبلیغات» کجاست؟

یکی از مهم‌ترین نگرانی‌های این روند، مسئله شفافیت است.

فرض کنید کاربری از یک چت‌بات هوش مصنوعی می‌پرسد: «آیا در غزه قحطی وجود دارد؟» یا «آیا یک عملیات نظامی با قوانین بین‌المللی مطابقت دارد؟» یا «آیا انتقاد از اسرائیل یهودستیزی محسوب می‌شود؟»

کاربر ممکن است انتظار داشته باشد پاسخ هوش مصنوعی از مجموعه‌ای از منابع مستقل و متنوع استخراج شده باشد.

اما اگر بخشی از این منابع عمداً در چارچوب یک کارزار ارتباطی دولتی تولید شده باشند، تشخیص مرز میان اطلاع‌رسانی، تبلیغات و عملیات نفوذ بسیار دشوارتر می‌شود.

مشکل اصلی لزوماً انتشار یک محتوای نادرست نیست؛ حتی محتوای دقیق و مستند نیز می‌تواند در صورت انتخاب هدفمند موضوع، زاویه روایت و نحوه توزیع، بخشی از یک کارزار اثرگذاری سیاسی باشد.

هوش مصنوعی فقط اطلاعات را منتقل نمی‌کند؛ آن را تفسیر می‌کند

تفاوت اساسی هوش مصنوعی مولد با رسانه‌های سنتی در همین نقطه است. شبکه تلویزیونی یا یک وب‌سایت خبری، اطلاعات را به مخاطب منتقل می‌کند؛ اما یک مدل زبانی می‌تواند حجم بزرگی از اطلاعات را دریافت کند، میان منابع مختلف انتخاب کند، آنها را ترکیب و در نهایت پاسخ واحدی ارائه دهد. همین ویژگی باعث می‌شود نبرد بر سر روایت‌ها یک مرحله عقب‌تر از مخاطب شکل بگیرد.

در مدل سنتی، تلاش می‌شود مخاطب را پس از مواجهه با پیام متقاعد کرد. در مدل جدید، ممکن است تلاش شود پیش از آنکه مخاطب حتی سؤال خود را مطرح کند، منابعی که ماشین قرار است از آنها پاسخ بسازد، تحت تأثیر قرار گیرند.

پرونده Hanover Institute تصویری از مرحله جدیدی در جنگ روایت‌ها ارائه می‌دهد؛ مرحله‌ای که در آن هدف فقط قانع کردن انسان‌ها نیست، بلکه تأثیرگذاری بر محیط اطلاعاتی است که هوش مصنوعی از آن برای ساخت پاسخ استفاده می‌کند. این تحول پیامد مهمی برای آینده جست‌وجوی اینترنتی و مصرف اخبار دارد. هرچه کاربران بیشتری برای دریافت اطلاعات سیاسی و خبری به چت‌بات‌ها مراجعه کنند، رقابت برای قرار گرفتن در منابع مورد استفاده این سامانه‌ها نیز شدیدتر خواهد شد.

به این ترتیب، جنگ روایت‌ها ممکن است دیگر از لحظه‌ای که کاربر پاسخ هوش مصنوعی را می‌خواند آغاز نشود؛ بلکه از مدت‌ها قبل، در همان جایی آغاز شود که منابع و داده‌های مورد استفاده هوش مصنوعی در حال شکل‌گیری هستند.