قیام اخبار جعلی و نیاز به فیلترهای محتوای مبتنی بر هوش مصنوعی
تیم تحریریه- ۱۳ شهریور ۱۴۰۳
رسانه‌های اجتماعی مملو از اخبار جعلی شده‌اند و نیاز به فیلترهای هوشمند مبتنی بر هوش مصنوعی برای تشخیص واقعیت از دروغ بیش از پیش احساس می‌شود. اخبار جعلی به بخشی تقریباً اجتناب‌ناپذیر از تجربه رسانه‌های اجتماعی تبدیل شده‌اند و بسیاری از کاربران را در معرض اطلاعات نادرست قرار می‌دهند.
برای چند کلیک بیشتر
رسانه‌های اجتماعی اکنون به بخش بزرگی از زیرساخت تبادل اطلاعات ما تبدیل شده‌اند. در حال حاضر ۳.۴۸ میلیارد کاربر فعال رسانه‌های اجتماعی در سراسر جهان وجود دارد و افراد و سازمان‌ها اهمیت این پلتفرم‌ها را به عنوان ابزار اصلی تعامل با عموم مردم تشخیص داده‌اند. از افراد مشهور تا رهبران جهانی، مانند رئیس‌جمهور سابق ایالات متحده، دونالد ترامپ، همه از رسانه‌های اجتماعی برای انتقال پیام‌ها و داستان‌های خود استفاده می‌کنند. این پلتفرم‌ها به طور مؤثری به ابزارهایی برای تأثیرگذاری بر افکار عمومی تبدیل شده‌اند.
با این حال، نه همه افرادی که به قدرت پیام‌رسانی رسانه‌های اجتماعی پی برده‌اند، نیت‌های خوبی دارند. افزون بر این، بسیاری از کاربران رسانه‌های اجتماعی برای ارزیابی انتقادی روایت‌هایی که می‌خوانند، آمادگی لازم را ندارند. این وضعیت، رسانه‌های اجتماعی را به بستری حاصلخیز برای انتشار اخبار جعلی، داستان‌های دروغ و اطلاعات نادرست تبدیل کرده است که نیازمند ابزارهایی برای کمک به حفظ حقیقت است. از طرف دیگر تولید محتوا زرد با هدف دریافت بازدید یا کلیک بیشتر باعث شده تا به پخش اطلاعات غلط یا گمراه‌کننده دامن زده بشود.
اخبار جعلی و جنبه تاریک رسانه‌های اجتماعی
بحث درباره اخبار جعلی و رسانه‌های اجتماعی بدون اشاره به انتخابات ریاست‌جمهوری آمریکا در سال ۲۰۱۶ ناقص خواهد بود. تأثیر اخبار جعلی به اشتراک گذاشته شده در فضای آنلاین بر نتایج انتخابات همچنان موضوع بحث‌های گسترده‌ای است، اما آنچه قطعی است این است که یک کمپین پیچیده توسط بازیگران دولتی خارجی برای انتشار اطلاعات نادرست از طریق رسانه‌های اجتماعی در آستانه مهم‌ترین تصمیم‌گیری مردم آمریکا صورت‌گرفته است. گزارش بازپرس ویژه «رابرت مولر» درباره تلاش‌های روسیه برای تأثیرگذاری بر انتخابات، نشان می‌دهد که نفوذ و تأثیرگذاری بر رسانه‌های اجتماعی توسط سازمانی به نام «آژانس تحقیقات اینترنتی» یکی از سه عنصر اصلی این تلاش‌ها بوده است. این کمپین در تمامی پلتفرم‌های اصلی رسانه‌های اجتماعی فعال بوده و به شدت به توزیع مطالب نادرست، گمراه‌کننده و تحریک‌آمیز متکی بوده است. صرف‌نظر از اینکه آیا این تلاش‌ها به واقع بر نتایج انتخابات تأثیر گذاشته‌اند یا خیر، این اقدامات در تضعیف اعتماد عمومی به نهادهای دموکراتیک آمریکا و دامن‌زدن به اختلافات اجتماعی بسیار مؤثر بوده‌اند.
در سال‌های اخیر، شاهد خطرات ناشی از گسترش اخبار جعلی نیز بوده‌ایم. جنبش ضد واکسیناسیون به طور فزاینده‌ای رشد کرده و دروغ‌هایی در مورد خطرات ادعایی واکسیناسیون برای بیماری‌هایی مانند آبله، فلج اطفال و سرخک پخش می‌کند. پلتفرم‌های رسانه‌های اجتماعی به جنبش ضد واکسیناسیون ابزاری قدرتمند برای گسترش اطلاعات نادرست غیرعلمی و خطرناک داده‌اند. اخبار جعلی ضد واکسیناسیون به حدی در این پلتفرم‌ها رایج شده است که برخی شرکت‌های رسانه‌های اجتماعی شروع به تلاش برای مهار اطلاعات نادرست کرده‌اند. برای مثال، پینترست در سال ۲۰۱۷ شروع به مسدودکردن نتایج جستجو برای اصطلاحاتی مانند «Vaccine» کرد و فیس‌بوک نیز اعلام کرد که دیگر صفحاتی که شایعات مربوط به واکسن را پخش می‌کنند، توصیه نمی‌کند یا تبلیغات آنها را نمایش نمی‌دهد. با گسترش این جنبش ضد واکسیناسیون که با اخبار جعلی تقویت شده است، ما شروع به مشاهده اثرات آن کرده‌ایم. بر اساس گزارش مراکز کنترل و پیشگیری از بیماری ایالات متحده، تا ماه می ۲۰۱۹، بیش از ۷۶۰ مورد سرخک در ایالات متحده تنها در سال ۲۰۱۹ گزارش شده است. این در حالی است که ویروس سرخک در سال ۲۰۰۰ در ایالات متحده ریشه‌کن اعلام شده بود، اما به دلیل کاهش میزان واکسیناسیون و تضعیف ایمنی عمومی، دوباره در حال گسترش است.
نیاز به سواد رسانه‌ای در مقابله با اخبار جعلی
واضح است که باید اقداماتی برای مهار موج اخبار جعلی صورت گیرد و شرکت‌های رسانه‌های اجتماعی نیز تحت‌فشار بیشتری برای نظارت دقیق‌تر بر محتوای پلتفرم‌های خود قرار گرفته‌اند. البته، حجم عظیم پست‌هایی که هر دقیقه در این پلتفرم‌ها منتشر می‌شود، نظارت بر آنها را برای ناظرهای انسانی بسیار دشوار می‌کند. با آشکارشدن مشکل اخبار جعلی، تقاضا برای راهکارهای مبتنی بر هوش مصنوعی به شدت افزایش‌یافته است. پست‌های حاوی اخبار جعلی در رسانه‌های اجتماعی الگوهای رفتاری مشخصی دارند که برنامه‌های هوش مصنوعی می‌توانند از آنها برای شناسایی چنین مواردی استفاده کنند؛ از جمله تعداد بیشتر اشتراک‌گذاری نسبت به لایک‌ها در فیس‌بوک یا الگوهای خاصی در زمان‌بندی پست‌ها و متن‌ها. برای مبارزه مؤثر با اخبار جعلی، برنامه‌های هوش مصنوعی باید قادر به شناسایی دقیق این الگوها باشند. به همین منظور، توسعه‌دهندگان از تکنیک‌های یادگیری ماشین برای بهبود این قابلیت‌ها استفاده می‌کنند.
شرکت فناوری داده TSXV در حال توسعه ابزارهایی برای کمک به رسانه‌های اجتماعی برای مقابله با افزایش اخبار جعلی است. شرکت تابعه Nexalogy این فناوری را برای بازار هوش رسانه‌های اجتماعی توسعه داده که از یک موتور کشف اجتماعی برای یافتن مخاطبان جدید، شناسایی روندها و حذف اسپم با تجزیه‌وتحلیل داده‌ها از بیش از ۵۰۰ میلیون توییت، ۸۵ میلیون وبلاگ و ۸.۸ میلیون صفحه فیس‌بوک استفاده می‌کند. این فناوری همچنین برای مبارزه با اخبار جعلی و بهبود سواد رسانه‌ای تطبیق داده شده است. برنامه NexaIntelligence Datametrex نیز با استفاده از اصول مشابه، به شناسایی ارتباطات جعلی که اطلاعات نادرست و تبلیغات خارجی را پخش می‌کنند، می‌پردازد. Datametrex فناوری خود را برای طیف گسترده‌ای از شرکای دولتی و خصوصی، از جمله دولت‌های ایالات متحده و کانادا، به کار گرفته است.
ابزارهای هوش مصنوعی و یادگیری ماشین برای مقابله با گسترش اطلاعات نادرست در رسانه‌های اجتماعی حیاتی هستند. جمع‌آوری، فیلتر کردن، تجزیه‌وتحلیل و شناسایی دستی تمام داده‌ها در مورد موضوعات خاص در رسانه‌های اجتماعی به صورت کارآمد تقریباً غیرممکن است. استفاده از هوش مصنوعی و یادگیری ماشین این فرایند را ساده‌تر کرده و امکان تجزیه‌وتحلیل میلیون‌ها داده را در عرض چند دقیقه فراهم می‌کند. اندرو ریو، مدیرعامل و رئیس هیئت‌مدیره Datametrex، اظهار داشته: «ما در دنیایی زندگی می‌کنیم که باید بتوانیم تشخیص دهیم چه کسی خوب و چه کسی بد است، به خصوص وقتی صحبت از امنیت ملی می‌شود. کمپین‌های تبلیغاتی آن‌قدر رایج هستند که ما معتقدیم ابزارهایی مانند ما یک تجمل نیستند بلکه می‌توانند به یک ضرورت تبدیل شوند.»
اتحادیه اروپا نیز در تلاش است تا با تأمین بودجه پروژه Fandango به مقابله با اخبار جعلی بپردازد. این ابتکار غیرانتفاعی بر روی ابزارهای نرم‌افزاری برای روزنامه‌نگاران و بررسی‌کنندگان واقعیت کار می‌کند تا به آنها کمک کند اطلاعات نادرست و تبلیغات را ریشه‌کن کنند. این ابزارها شامل شناسایی تصاویر فتوشاپ شده و فیک‌های عمیق، ردیابی منبع اطلاعات و ارائه منابع تولید شده برای داده‌های قابل‌تأیید است که برای رد ادعاهای نادرست ضروری هستند. GoodNews، پروژه دیگری با هدف شناسایی و مقابله با اخبار جعلی، طیف گسترده‌ای از ویژگی‌های اخبار واقعی و جعلی را تجزیه‌وتحلیل کرده و از این اطلاعات برای اختصاص امتیاز به پست‌ها استفاده می‌کند.
