چتباتها در رد تئوریهای توطئه به طرز شگفتانگیزی مؤثر هستند
مریم کاملان
- ۱۹ فروردین ۱۴۰۵
آیا حقیقت هنوز زنده است؟ پژوهشی جدید میگوید حتی در عصر اطلاعات نادرست، شواهد و استدلالهای مستند میتوانند با تئوریهای توطئه مبارزه کنند. این تحقیق، با تأکید بر نقش هوش مصنوعی، راهی برای یافتن زمینههای مشترک و تقویت اتحاد در جامعه ارائه میدهد.
براساس پژوهشی در مجله «Science» چتباتهای هوش مصنوعی میتوانند ابزارهای قدرتمندی برای مقابله با اطلاعات نادرست و تئوریهای توطئه باشند. برخلاف تصور رایج، این فناوری میتواند با ارائه حقایق و شواهد مستند، به افراد کمک کند تا حقیقت را بهتر کشف کنند.
به نظر میرسد بسیاری از کسانی که به نظریههای توطئه باور دارند، وقتی با شواهد و استدلالهای مناسب مواجه میشوند، واکنش مثبتی نشان میدهند.
این گزاره که «واقعیتها به تنهایی نمیتوانند نظر افراد را تغییر دهند» به یک باور رایج تبدیل شده است. شاید هیچ حوزهای این موضوع را بهتر از تئوریهای توطئه نشان ندهد، بسیاری باور دارند که نمیتوان افراد معتقد به تئوریهای توطئه را از باورشان منصرف کرد.
اما چنین برداشتی لزوما همیشه درست نیست. پژوهشها نشان میدهد که بسیاری از افراد معتقد به تئوریهای توطئه، در برابر شواهد و استدلالهای منطقی واکنش نشان میدهند؛ اطلاعاتی که اکنون میتوان آن را به سادگی از طریق یک گفتوگوی شخصیسازیشده با یک چتبات هوش مصنوعی ارائه کرد.
در پژوهشی که امسال در مجله «Science» منتشر شده، بیش از دو هزار نفر از باورمندان به تئوریهای توطئه در یک گفتوگوی حدوداً هشتدقیقهای با «دیبانکبات» (DebunkBot) مدلی که بر پایهٔ GPT‑4 Turbo، بهروزترین مدل GPT در آن زمان، ساخته شده بود، شرکت کردند. شرکتکنندگان ابتدا نظریه توطئهای را که به آن باور داشتند و شواهدی که آن را برایشان قابل قبول میکرد، به زبان خود نوشتند. سپس به مدل هوش مصنوعی دستور دادیم کاربر را ترغیب کند از باور به آن تئوری دست بکشد و دیدگاهی کمتر مبتنی بر توطئه نسبت به جهان اتخاذ کند.
یک گفتوگوی متنی سهمرحلهای میان کاربر و مدل (بهطور میانگین ۸.۴ دقیقه) منجر به کاهش ۲۰ درصدی در میزان اطمینان شرکتکنندگان نسبت به آن باور شد و حدود یک نفر از هر چهار شرکتکننده که پیش از گفتوگو به آن تئوری باور داشتند، اظهار کردند که پس از گفتوگو دیگر آن را باور ندارند. این اثر هم در مورد تئوریهای توطئهٔ کلاسیک و هم دربارهٔ نمونههای معاصرتر و سیاسیتر برقرار بود.
این خبر خوبی است؛ به ویژه با توجه به نقشی که تئوریهای توطئه بیاساس در فضای سیاسی امروز ایفا میکنند. بنابراین، هرچند نگرانیهای گسترده و موجهی وجود دارد که هوش مصنوعی مولد میتواند ابزاری قدرتمند برای انتشار اطلاعات نادرست باشد، نتایج این پژوهش نشان میدهد که همین فناوری میتواند بخشی از راهحل نیز باشد.
حتی افرادی که گفتگو را با اطمینان کامل از صحت تئوری توطئهشان آغاز کرده بودند یا کسانی که گفته بودند این باور برای جهانبینی شخصی آنها اهمیت بالایی دارد، پس از تعامل با چتبات کاهش چشمگیری در میزان باور خود نشان دادند. شگفتانگیزتر اینکه این تأثیرات بسیار پایدار بودند؛ دو ماه بعد دوباره با شرکتکنندگان تماس گرفته شد و کاهش باور به تئوریهای توطئه دقیقاً به اندازهٔ زمانی بود که بلافاصله پس از پایان گفتگو مشاهده شده بود.
آزمایشها نشان میدهد بسیاری از باورمندان اساساً افرادی منطقیاند اما اطلاعات نادرستی در اختیار دارند و ارائه دادههای درست و به موقع میتواند اثر قابل توجهی بر دیدگاه آنها بگذارد. تئوریهای توطئه میتوانند برای افرادی معقول قابل باور به نظر برسند؛ افرادی که هرگز یک توضیح روشن و غیرتوطئهآمیز درباره رویدادهایی که ذهنشان را درگیر کرده، نشنیدهاند. شاید عجیب به نظر برسد اما بسیاری از ادعاهای توطئهمحور، با وجود اینکه نادرستاند، در ظاهر منطقی جلوه میکنند و برای ارزیابی و رد آنها نیاز به دانشی تخصصی و غیرعمومی است.
برای مثال کسانی که منکر حملات ۱۱ سپتامبر هستند، اغلب ادعا میکنند که سوخت جت به اندازه کافی داغ نمیسوزد تا فولاد را ذوب کند و بنابراین هواپیماها مسئول فروپاشی برجهای دوقلو نبودهاند. اما چتبات در پاسخ اشاره میکند که اگرچه این گزاره صحیح است اما مؤسسه سازههای فولادی آمریکا بیان میکند که سوخت جت به اندازهای داغ میشود که استحکام فولاد را بیش از ۵۰ درصد کاهش میدهد و این کاهش استحکام، برای فروریختن چنین برجهایی کاملاً کافی است.
اگرچه ما بیش از هر زمان دیگری به اطلاعات واقعی دسترسی داریم، جستجوی کارآمد در این پیکره عظیم دانش فوقالعاده دشوار است. یافتن حقیقت به این شکل نیازمند دانستن این است که چه چیزی را باید گوگل کنید یا به چه کسی گوش دهید و داشتن انگیزه کافی برای جستجوی اطلاعات متضاد است.
انجام چنین تحقیقاتی هر بار که با ادعای جدیدی مواجه میشویم با موانع زمانی و مهارتی زیادی روبهروست؛ بنابراین پذیرفتن محتوای توطئهآمیزی که به طور اتفاقی با آن روبرو میشویم در ظاهر آسان است و اکثر کسانی که سر میز شام خانوادگی تلاش میکنند دیگران را متقاعد کنند، اشتباهاتی ابتدایی مرتکب میشوند که هوش مصنوعی از آنها اجتناب میکند؛ آیا شما نقطه ذوب و استحکام کششی فولاد را از حفظ هستید؟ و هنگامی که یکی از بستگانتان در حین تلاش برای تصحیحتان شما را احمق خطاب میکند، آیا میتوانید خونسردی خود را حفظ کنید؟
با تلاش کافی، انسانها قطعاً قادر خواهند بود حقایق را مانند هوش مصنوعی در این آزمایشها جمعآوری و ارائه کنند. در یک آزمایش پیگیری دریافتند که اگر به شرکتکنندگان بگویند با یک متخصص صحبت میکنند و نه یک هوش مصنوعی، همان تأثیر در رد ادعاها مشاهده میشود. بنابراین اثر رد ادعاها مختص هوش مصنوعی نیست. به طور کلی حقایق و شواهد ارائه شده توسط انسانها نیز مؤثر خواهد بود، اما به زمان و تمرکز زیادی نیاز دارد. هوش مصنوعی مولد میتواند کار شناختی راستیآزمایی و رد ادعاهای توطئهآمیز را بسیار کارآمدتر انجام دهد.
در پیگیری بزرگ دیگری، دریافتند که آنچه باعث اثربخشی رد ادعاها میشد، مشخصاً حقایق و شواهدی بود که مدل ارائه میکرد. عواملی مانند اطلاعرسانی به افراد درباره تلاش چتبات برای تغییر باورشان، اثربخشی آن را کاهش نداد؛ در حالی که دستور به مدل برای تلاش جهت متقاعد کردن همصحبتش بدون استفاده از حقایق و شواهد، اثرگذاری را به کلی از بین برد.
اگر چه کاستیها و توهمات (hallucinations) این مدلها به خوبی مستند شده، نتایج این آزمایش حاکی از آن است که تلاشهای رد ادعا در اینترنت بهاندازهای گسترده هستند که مکالمات متمرکز بر تئوری توطئه را تا حد زیادی دقیق نگه میدارند. هنگامی که یک راستیآزمای حرفهای برای ارزیابی ادعاهای GPT-4 استخدام شد، بیش از ۹۹ درصد ادعاها درست (و فاقد سوگیری سیاسی) ارزیابی شدند. همچنین در موارد معدودی که شرکتکنندگان به تئوریهای توطئه درستی اشاره کردند (مانند MK Ultra، برنامهٔ آزمایش انسانی CIA در دههٔ ۱۹۵۰) چتبات هوش مصنوعی به جای اینکه به اشتباه آنها را منصرف کند، باور صحیح آنها را تأیید کرد.
تا به امروز و اغلب ناشی از ضرورت، مداخلات برای مقابله با نظریهپردازی توطئه عمدتاً پیشگیرانه بودهاند و با هدف بازداشتن افراد از افتادن در دام این تئوریها بوده، نه تلاش برای بیرون کشیدن آنها. اکنون به لطف پیشرفتها در هوش مصنوعی مولد ابزاری داریم که میتواند با استفاده از شواهد، عقیده طرفداران تئوری توطئه را تغییر دهد.
باتهایی که برای رد تئوریهای توطئه طراحی شدهاند، میتوانند در پلتفرمهای رسانههای اجتماعی برای تعامل با کسانی که محتوای توطئهآمیز به اشتراک میگذارند، از جمله چتباتهای هوش مصنوعیِ دیگری که به انتشار توطئهها دامن میزنند، بهکار گرفته شوند. گوگل همچنین میتواند مدلهای هوش مصنوعی رد ادعا را به موتورهای جستجو پیوند دهد تا پاسخهای واقعی به پرسوجوهای مرتبط با تئوری توطئه ارائه دهد و بهجای بحث و جدل با عموی طرفدار تئوری توطئهتان بر سر میز شام، میتوانید بهسادگی گوشی خود را به او بدهید تا با هوش مصنوعی صحبت کند.
البته پیامدهای عمیقتری برای نحوه درک ما از دنیای پیرامونمان وجود دارد. معمولاً گفته میشود که ما اکنون در دنیایی «پساحقیقت» زندگی میکنیم، جایی که قطببندی و سیاست، حقایق و شواهد را تحتالشعاع قرار داده است. بر این اساس احساسات ما بر حقیقت غلبه میکند، استدلال مبتنی بر منطق منسوخ شده و تنها راه تغییر مؤثر ذهن افراد از طریق تاکتیکهای روانشناختی مانند ارائه روایتهای شخصی جذاب یا تغییر برداشتها از هنجارهای اجتماعی است. اگر چنین باشد، کار معمول گفتگو محور برای زیست دموکراتیک جمعی بیثمر است.
اما حقایق نمردهاند. یافتههای این آزمایش در مورد تئوریهای توطئه، آخرین و شاید شدیدترین شواهد از یک بدنه تحقیقاتی در حال ظهور هستند که قدرت متقاعدکنندگی حقایق و شواهد را نشان میدهد. برای مثال، اگر چه پیشتر تصور میشد اصلاح اطلاعات نادرست که با سیاستهای فرد همسو است، صرفاً باعث میشود افراد سرسختتر شوند و بیشتر به آنها باور پیدا کنند، این ایده «اثر معکوس» (backfire) رد شده است. مطالعات بسیاری به طور مداوم نشان میدهند که اصلاحات و برچسبهای هشداردهنده، باور به اطلاعات نادرست و اشتراکگذاری آنها را کاهش میدهند؛ حتی در میان کسانی که بیشترین بیاعتمادی را به راستیآزمایانِ انجامدهنده این اصلاحات دارند.
به همین ترتیب، استدلالهای مبتنی بر شواهد میتوانند اذهان حزبی را در مسائل سیاسی تغییر دهند، حتی زمانی که فعالانه به آنها یادآوری شود که استدلال مورد نظر برخلاف موضع رهبر حزبشان است و صرف یادآوری اینکه افراد قبل از اشتراکگذاری محتوا در مورد صحت آن فکر کنند، میتواند به طور قابل توجهی گسترش اطلاعات نادرست را کاهش دهد.
هنگامی که افراد با شواهد روبرو میشوند، حتی شواهدی ناخوشایند یا ناراحتکننده، بسیاری از آنها در تفکرشان تغییر ایجاد میکنند. بنابراین اگر امکان انتشار گسترده اطلاعات درست وجود داشته باشد، شاید با کمک هوش مصنوعی، بتوان زمینههای مشترک بیشتری برای گفتگو فراهم آورد.
