هوش مصنوعی کلاهبرداری‌های پیامکی را در سراسر جهان تشدید می‌کند

گوگل روز جمعه از گروهی از کلاهبرداران شکایت کرد که آن را یکی از فعال‌ترین بازیگران مخرب در فضای هرزنامه توصیف کرده است. این شرکت اعلام کرد که این نخستین پرونده حقوقی علیه متهمی است که از مدل هوش مصنوعی Gemini گوگل برای انجام چنین فعالیت‌هایی استفاده کرده است.

کمک گرفتن سارقان از Gemini برای ساختن وبسایت تقلبی

گوگل و نهادهای مجری قانون این گروه چینی را با نام «اوت‌سایدر» (Out-sider) معرفی می‌کنند و می‌گویند اعضای آن پیام‌هایی برای کاربران ارسال می‌کنند که مدعی است آن‌ها دارای امتیازهای پاداش شرکت تلفن همراه هستند و باید پیش از منقضی شدن این امتیازها از آن‌ها استفاده کنند.

برای وادار کردن قربانیان به افشای اطلاعات حساب کاربری خود، این پیام‌ها ادعا می‌کنند که کاربران باید فوراً وارد حساب خود شوند تا پیش از پایان اعتبار امتیازها، جوایزی مانند هدفون رایگان یا اپل واچ را دریافت کنند. پیوند موجود در پیام نیز کاربران را به وب‌سایتی هدایت می‌کند که بر اساس ظاهر و ساختار وب‌سایت اپراتور تلفن همراه طراحی شده است.

این گروه برای ساده‌تر کردن فرایند ساخت چنین وب‌سایت‌هایی، راهنمایی برای استفاده از Gemini به‌منظور تولید کدهای رایانه‌ای تهیه کرده بود؛ قابلیتی که یکی از محبوب‌ترین کاربردهای مدل‌های هوش مصنوعی به شمار می‌رود.

هدف نهایی بسیاری از این کلاهبرداری‌ها سرقت اطلاعات حساب‌های مالی است؛ اطلاعاتی که سپس فروخته می‌شوند یا برای خرید کارت‌های هدیه و کالاهای لوکس مورد استفاده قرار می‌گیرند.

استفاده از هوش مصنوعی به این گروه امکان داده است صدها قالب مختلف برای وب‌سایت‌های جعلی تولید و منتشر کند. آن‌ها از همین شیوه برای فریب مصرف‌کنندگان استفاده کرده و مدعی می‌شدند که مشکلی در حساب‌های کارگزاری سرمایه‌گذاری آن‌ها به وجود آمده است.

بر اساس اعلام «اداره تحقیقات فدرال آمریکا» (FBI)، گروه «اوت‌سایدر» با بهره‌گیری از بیش از ۸ هزار وب‌سایت فیشینگ، حدود ۳.۸۷ میلیون شماره کارت اعتباری را از قربانیان در ده‌ها کشور سرقت کرده و از ژوئیه ۲۰۲۳ تاکنون حدود ۱.۹ میلیارد دلار خسارت به بار آورده است. FBI و شرکت‌های مخابراتی در پرونده حقوقی گوگل علیه این گروه با این شرکت همکاری می‌کنند.

«برت لدرمن»، معاون بخش سایبری FBI، گفت: «مجرمان به‌طور فزاینده‌ای از هوش مصنوعی استفاده می‌کنند تا کلاهبرداری‌هایی از این دست را باورپذیرتر و شناسایی آن‌ها را دشوارتر کنند.»

گوگل اعلام کرده است که در بازه دو هفته‌ای منتهی به اول ژوئن، حدود ۵۵ هزار گزارش درباره پیام‌های مشکوک در Google Messages، پلتفرم پیش‌فرض پیامک برای کاربران اندروید، دریافت کرده است؛ پیام‌هایی که بسیاری از آن‌ها ظاهراً از سوی گروه «اوت‌سایدر» ارسال شده بودند.

گوگل همچنین هشدار داده است که به لطف هوش مصنوعی، تعداد وب‌سایت‌هایی که می‌توان در قالب طرح‌هایی مشابه فعالیت‌های گروه «اوت‌سایدر» ایجاد کرد، عملاً نامحدود است.

درخواست گوگل از دادگاه فدرال برای جلوگیری از مجرمان

به گفته شرکت اطلاعات تهدیدات سایبری WMC Global، کلاهبرداری‌هایی که شرکت‌های مخابراتی را هدف قرار می‌دهند، مانند فعالیت‌های گروه «اوت‌سایدر»، طی یک سال گذشته به‌طور چشمگیری افزایش یافته‌اند. تنها در یک ماه اخیر، تعداد پیام‌های فیشینگ که یکی از شرکت‌های مخابراتی بزرگ آمریکا را هدف قرار داده‌اند، ۱۰ برابر شده است.

هکرها و مجرمان سایبری از هوش مصنوعی برای اجرای انواع مختلفی از طرح‌های مجرمانه استفاده می‌کنند. سال گذشته، Anthropic اعلام کرد که از هوش مصنوعی برای توسعه باج‌افزارها، تحلیل داده‌های سرقت ‌شده و ایجاد هویت‌های جعلی به‌منظور انجام کلاهبرداری استفاده می‌شود.

این شرکت همچنین هشدار داد که هکرهای مورد حمایت دولت چین از هوش مصنوعی برای خودکارسازی حملات سایبری بهره می‌گیرند. علاوه بر تولید پیام‌های فیشینگِ باورپذیر، از این فناوری برای تولید محتوای پادکست نیز استفاده شده است.

روز پنج‌شنبه، «مگی حسن»، سناتور دموکرات از ایالت نیوهمپشایر، اعلام کرد که پلتفرم پخش موسیقی Spotify پس از انجام تحقیقات یک کمیته سنای آمریکا، محتوای مرتبط با حدود ۵۷ هزار قسمت پادکست را حذف کرده یا تولیدکنندگان آن‌ها را مسدود کرده است. این پادکست‌ها شامل محتوای مرتبط با مواد مخدر بودند و استفاده از هوش مصنوعی، مقابله با این چالش را پیچیده‌تر کرده بود.

سخنگوی Spotify نیز گفت که این شرکت به‌طور جدی با هرزنامه‌ها و سوءاستفاده از پلتفرم مقابله می‌کند و بیش از یک سال است که در حال حذف محتوای مرتبط با این نوع حملات بوده است

گوگل برای Gemini فیلترهایی در نظر گرفته است که تعاملات بالقوه غیرقانونی یا خطرناک کاربران با این چت‌بات را شناسایی می‌کنند؛ با این حال، درخواست‌های عمومی مانند آنچه گروه «اوت‌سایدر» برای تولید کد وب‌سایت‌های جعلی استفاده می‌کرد، معمولاً توسط این فیلترها شناسایی نمی‌شوند.

«حلیمه دلین پرادو»، مشاور حقوقی ارشد گوگل، در گفت‌وگویی اظهار کرد: «فیلترهای محتوا لزوماً توانایی یک فرد برای تولید کد یک وب‌سایت را مسدود نمی‌کنند. چنین درخواستی در ظاهر کاملاً عادی و بی‌ضرر به نظر می‌رسد.»

گوگل از یک دادگاه فدرال در نیویورک خواسته است فعالیت مجرمان سایبری مورد ادعا را متوقف کند تا امکان از کار انداختن وب‌سایت‌ها و کانال‌های ارتباطی مورد استفاده آن‌ها فراهم شود. این شرکت استدلال می‌کند که استفاده از محصولات و نشان‌های تجاری آن توسط این افراد به اعتبار عمومی گوگل آسیب می‌زند. گوگل پیش‌تر نیز چندین شکایت حقوقی علیه کلاهبرداران پیامکی مطرح کرده و هم‌زمان از چند طرح قانونی با هدف مقابله با کلاهبرداران حمایت کرده است.

شرکت‌های فعال در حوزه هوش مصنوعی در پی موجی از کلاهبرداری‌ها و همچنین تعاملات آسیب‌زای برخی چت‌بات‌ها با کاربران کم‌سن‌وسال، تحت فشار فزاینده‌ای قرار گرفته‌اند تا با سوءاستفاده‌کنندگان از پلتفرم‌های خود مقابله کنند. این موضوع بخشی از واکنش منفی رو‌به‌رشد نسبت به فناوری هوش مصنوعی به شمار می‌رود.

ماه گذشته، شرکت اطلاعات سایبری DarkTower گروهی از کلاهبرداران اهل غرب آفریقا را شناسایی کرد که از یک سامانه پیشرفته مبتنی بر هوش مصنوعی برای ارسال فاکتورهای جعلی به شرکت‌ها استفاده می‌کردند. این نوع کلاهبرداری که با عنوان «نفوذ به ایمیل‌های تجاری» (Business Email Compromise) شناخته می‌شود، یکی از رایج‌ترین شیوه‌های فریب سازمان‌ها و کسب‌وکارها به شمار می‌رود.