متقاعدسازی سیاسی با هوش مصنوعی

سیستم‌های دموکراتیک برای کسب و حفظ قدرت، به متقاعدسازی وابسته‌اند. در یک دنیای ایده‌آل، سیاست‌گذاران و رأی‌دهندگان باید شواهد مرتبط با طیف وسیعی از دیدگاه‌ها را بررسی کرده و نظرات و رفتار خود را طوری تغییر دهند که با «قدرت غیرتحمیلی استدلال بهتر» هم‌راستا شود. بااین‌حال، این فرایند ایده‌آل تنها زمانی امکان‌پذیر است که افراد بتوانند اطلاعات قابل‌اعتماد درباره موقعیت‌های مختلف را بررسی کنند.

پیشرفت‌های فناوری نگرانی دیگری را به این حوزه افزوده است: آیا فناوری‌های هوش مصنوعی می‌توانند انتشار اطلاعات نادرست و دست‌کاری افکار عمومی را به شکلی تشدید کنند که به حکمرانی دموکراتیک آسیب برساند؟ برخی مطالعات نشان می‌دهند که هوش مصنوعی می‌تواند به شکلی مؤثر، اگرچه نه فوق‌العاده متقاعدکننده باشد و نگرانی‌های مهمی درباره دامنه و اثر اطلاعات نادرست تولیدشده توسط هوش مصنوعی مطرح می‌کنند.

مدل‌های زبانی بزرگ، مدل‌های آماری پیشرفته‌ای هستند که متن را با پیش‌بینی احتمال واژه بعدی در یک توالی تولید می‌کنند. زمانی که این مدل‌ها در مقیاسی بزرگ آموزش داده شوند و معمولاً پس از آموزش، برای بهبود عملکرد یا کاهش رفتارهای نامطلوب «هم‌راستا» شوند، LLMهای پیشرفته قادرند با انسان‌ها گفت‌وگوهای متنوع، پاسخ‌گو و طبیعی داشته باشند. تحقیقات نشان می‌دهد که این مدل‌ها علاوه بر کاربردهای متعدد دیگر، در تولید متن متقاعدکننده درباره موضوعات سیاسی نیز بسیار ماهر هستند. باتوجه‌به این که افراد روزبه‌روز بیشتر مستقیماً با LLMهایی که در موتورهای جست‌وجو، سیستم‌عامل‌ها و سایر اپلیکیشن‌ها تعبیه شده‌اند، تعامل می‌کنند؛ پتانسیل تأثیرگذاری هوش مصنوعی بر افکار سیاسی کاربران و به‌تبع آن نتایج جمعی دموکراتیک بیشتر می‌شود.

«هکنبرگ» و «لین» آزمایش‌های گسترده‌ای انجام دادند که در آن هر پاسخ‌دهنده به نظرسنجی یک تعامل کوتاه، متنی و چندمرحله‌ای با یک LLM داشت که مأموریت داشت پاسخ‌دهنده انسانی را درباره یک موضوع یا نامزد سیاسی متقاعد کند. هکنبرگ و همکاران بیش از ۷۷,۰۰۰ نظرسنجی از پاسخ‌دهندگان مستقر در بریتانیا انجام دادند و میزان متقاعدکنندگی ۱۹ مدل مختلف و هشت استراتژی متقاعدسازی متفاوت را در حدود ۷۰۰ مسئله سیاسی مورد آزمایش قرار دادند. لین و همکاران توانایی LLMها در متقاعدکردن بیش از ۵,۸۰۰ نفر درباره نامزدهای ریاست‌جمهوری یا نخست‌وزیری در انتخابات آمریکا، کانادا و لهستان و ۵۰۰ نفر درباره یک موضوع محلی رأی‌گیری در آمریکا را بررسی کردند. هر دو گروه قبل و بعد از گفت‌وگو از پاسخ‌دهندگان خواستند تا مسئله یا نامزد مربوطه را روی مقیاس ۰ تا ۱۰۰ ارزیابی کنند و هر دو دریافتند که تعامل با LLMهای پیشرفته، نگرش‌ها درباره یک مسئله سیاسی خاص را تقریباً ۱۰ واحد تغییر می‌دهد. علاوه بر این، لین مقایسه‌ای بین متقاعدسازی بر اساس مسئله و متقاعدسازی درباره نامزدهای سیاسی انجام دادند و گزارش داد که اثرات متقاعدسازی LLM بر نگرش‌ها نسبت به نامزدها کمتر یکنواخت است و به طور میانگین چند واحد کمتر است.

تحقیقات موجود درباره متقاعدسازی سیاسی، تنش‌های مهمی را نشان می‌دهند. افراد معمولاً با اطلاعات موجود در پیام‌های سیاسی متقاعد می‌شوند؛ اما اثر میانگین متقاعدکنندگی یک کمپین سیاسی در آمریکا اغلب صفر است و در برخی موارد، تلاش برای متقاعدکردن می‌تواند نتیجه معکوس داشته باشد و افراد را نسبت به نظرات پیشین خود پایبندتر کند. بنابراین، همه نگرش‌های سیاسی و همه پیام‌های سیاسی قابل‌تعویض با یکدیگر نیستند. برخی نگرش‌ها بسته به زمینه، اما اغلب شامل وابستگی حزبی، انتخاب رأی، تعصبات نسبت به گروه‌های دیگر یا مسائل با اهمیت یا اخلاقی بالا، در برابر تغییر مقاوم هستند؛ درحالی‌که نگرش‌ها درباره مسائل سیاستی با اهمیت کمتر احتمالاً انعطاف‌پذیرترند. لین محدودیت‌هایی در متقاعدسازی LLMها را گزارش کرد که با این انتظارات همخوانی دارد. وقتی LLMها سعی کردند نظر شرکت‌کنندگان را درباره یک نامزد ملی مشخص برای پست اجرایی که دارای اهمیت بالا و شاخص‌های حزبی روشن است، بهبود دهند؛ تنها برای افرادی که در ابتدا با نامزد مخالف بودند مؤثر بود.LLM  همچنین هنگام بحث درباره شخصیت نامزد به‌جای مواضع سیاستی او، کمتر مؤثر بود و کمترین اثر را در زمینه شدیداً دوقطبی آمریکا داشت. باتوجه‌به این شرایط، متقاعدسازی ثبت‌شده توسط هکنبرگ و لین نشان می‌دهد که هوش مصنوعی یک متقاعدکننده بسیار خوب، اما احتمالاً نه فراتر از توان انسان در مورد مسائل سیاسی متوسط است.

LLMها می‌توانند متن با کیفیت بالا را تقریباً به‌صورت آنی در پاسخ به دستورالعمل‌های دقیق تولید کنند که این امکان را برای پیام‌رسانی شخصی‌سازی شده کارآمد و مقیاس‌پذیر فراهم می‌کند. بااین‌حال، نگرانی‌هایی وجود دارد که اگر پیام‌های LLM بسیار شخصی‌سازی‌شده باشند، ممکن است استدلال سیاسی را تحت‌تأثیر منفی قرار دهند، زیرا دامنه استدلال‌هایی که فرد در معرض آن قرار می‌گیرد محدود شده و بر تعصبات شخصی منحصربه‌فرد تأکید می‌شود. این نگرانی، ادامه نگرانی‌های پیشین درباره «اتاق‌های پژواک» آنلاین است.

هکنبرگ و لین در طراحی آزمایش‌های خود، شخصی‌سازی را نیز لحاظ کردند. بخشی از LLMها اطلاعات شخصی کاربر مانند نگرش‌های موجود، وابستگی حزبی یا سایر ویژگی‌های جمعیتی را دریافت کردند و مأمور شدند پیام‌های خود را مخصوص آن افراد تنظیم کنند. هکنبرگ دریافت که شخصی‌سازی اگرچه متقاعدکنندگی پیام را افزایش می‌دهد، اما معمولاً اثر بسیار کمی دارد و کمتر از یک درصد است و لین نیز هیچ افزایش متقاعدکنندگی ناشی از شخصی‌سازی پیام مشاهده نکرد که با سایر مطالعات اخیر همخوانی دارد .

علاوه بر بررسی شخصی‌سازی پیام، هکنبرگ هشت استراتژی متقاعدسازی مختلف را آزمایش کرد که مؤثرترین آن، دستور به مدل برای متقاعدسازی با ارائه حداکثر اطلاعات ممکن بود. هکنبرگ تخمین زد که هر ادعای قابل‌راستی‌آزمایی حدود ۰.۳ واحد تغییر نگرش ایجاد می‌کند (پیام‌های فردی ممکن است بیش از ۲۰ ادعا داشته باشند) و نتیجه گرفت که چگالی اطلاعات، مکانیزم اصلی تفاوت موفقیت متقاعدسازی LLMها در مدل‌ها متقاعدسازی و دستورالعمل‌های مختلف است. لین با آزمایش رویکرد معکوس دریافت که وقتی به LLM دستور داده شد هیچ ادعای واقعی‌ای را در تعامل متقاعدسازی استفاده نکند، ظرفیت متقاعدکنندگی مدل به طور قابل‌توجهی کاهش می‌یابد. ماهیت مبتنی بر واقعیت متقاعدسازی LLM در تضاد با شواهدی است که نشان می‌دهد اطلاعات غالب‌ترین استراتژی متقاعدسازی در تعاملات انسانی نیست.

متأسفانه، بخش قابل‌توجهی از اطلاعات ارائه شده توسط LLMها در این تعاملات نادرست بود. هکنبرگ LLMهای جست‌وجوپذیر جداگانه برای بررسی بیش از ۴۶۰,۰۰۰ ادعای مطرح‌شده توسط LLMها در تعاملات متقاعدسازی استفاده کرد. بسته به مدل، بین ۱۵ تا ۴۰ درصد ادعاهای اطلاعاتی LLM احتمالاً اطلاعات نادرست بودند. لین نیز فرایندی مشابه را انجام داد و دریافت که در هر سه کشور، LLMها احتمالاً اطلاعات نادرست را به نفع نامزدها یا مواضع ایدئولوژیک راست تولید می‌کنند. در هر دو مطالعه، متقاعدکنندگی ادعاهای اطلاعاتی به دقت آن‌ها وابسته نبود و پاسخ‌دهندگان به همان اندازه اطلاعات درست تحت‌تأثیر اطلاعات نادرست قرار گرفتند. تصمیم‌گیری سیاسی بر اساس اطلاعات ساختگی، به‌ویژه زمانی که تولید آن اطلاعات با تعصب ایدئولوژیک نامتقارن همراه باشد، تهدید بنیادین برای مشروعیت حکمرانی دموکراتیک است.

متقاعدسازی پدیده‌ای پیچیده، پویا و اجتماعی است و درک کامل ارتباطات متقاعدکننده مستلزم توجه هم‌زمان به گوینده، موضوع، محتوای پیام، رسانه، زمینه، نتیجه موردنظر، دریافت‌کننده پیام و سایر عوامل است. استفاده عموم مردم از LLMها برای کسب اطلاعات یا استفاده سازمان‌ها و مقامات دولتی برای انتشار پیام خود، «گوینده‌ای» با انگیزه‌های نامشخص، اعتبار متغیر و احتمال تعصبات نمایشی را وارد سیستم دموکراتیک می‌کند. هم‌زمان، این گوینده بسیار متقاعدکننده است؛ زیرا غالباً محدود به حقیقت نیست. اگرچه هکنبرگ و لین نسبتاً خوش‌بین هستند که دست‌کاری از طریق شخصی‌سازی تأثیر محدودی دارد، آن‌ها همچنین نشان می‌دهند که LLMها می‌توانند با استفاده از اطلاعات اغلب ساختگی با چگالی بالا، در مقیاسی وسیع تغییر نگرش ایجاد کنند. پژوهشگران، سیاست‌گذاران و عموم افراد باید فوراً به اثرات منفی احتمالی انتشار اطلاعات نادرست توسط هوش مصنوعی در حوزه سیاسی و راه‌های مقابله با آن توجه کنند.

گزارش حاضر در نسخه  4 December 2025 نشریه Science منتشر شده است.