ابزار جدید OpenAI بهشت کلاهبرداران شد

گزارش‌های اخیر نشان می‌دهد که نسخه جدید مدل تولید تصویر شرکت OpenAI، موسوم به ChatGPT Images 2.0، به ابزاری قدرتمند برای جعل اسناد و کلاهبرداری تبدیل شده است. برخلاف مدل‌های قدیمی که در بازسازی متون و جزئیات دقیق ناتوان بودند، این فناوری جدید می‌تواند اسناد مالی، نسخه‌های پزشکی و مدارک شناسایی را با چنان دقتی جعل کند که تشخیص آن‌ها برای چشم غیرمسلح و حتی برخی سیستم‌های امنیتی دشوار است.

فراگیر شدن جعل‌های «فوق‌واقع‌گرایانه»

اگرچه در روزهای اخیر تصاویر طنزآمیز و عجیبی از چهره‌های مشهور مانند دونالد ترامپ یا ایلان ماسک در فضای مجازی دست‌به‌دست می‌شود، اما خطر اصلی در جای دیگری نهفته است. آزمایش‌های اخیر نشان می‌دهد که این هوش مصنوعی در تولید اسناد اداری و مالی مهارت فوق‌العاده‌ای دارد.

از جمله موارد جعل شده توسط این ابزار می‌توان به موارد زیر اشاره کرد:

• اسناد بانکی: تاییدیه جعلی انتقال وجه (وایر ترنسفر)، هشدارهای امنیتی بانک‌های بزرگ و چک‌های بانکی.
• مدارک شناسایی: پاسپورت‌ها و گواهینامه‌های رانندگی که با وجود نقص‌های جزئی، می‌توانند در تراکنش‌های غیرحضوری یا هتل‌ها فریب‌دهنده باشند.
• اسناد پزشکی: نسخه‌های داروهای حساس (مانند اوپیوئیدها) و کارت‌های واکسیناسیون.
• فاکتورهای مالی: رسیدهای جعلی اوبر و صورت‌حساب‌های مالیاتی که برای کلاهبرداری‌های «فیشینگ» و فرار مالیاتی استفاده می‌شوند.

متونی که دیگر «خرچنگ‌قورباغه» نیستند

یکی از بزرگترین جهش‌های تکنولوژیک در این نسخه، توانایی نگارش صحیح متن درون تصاویر است. پیش از این، هوش مصنوعی معمولاً حروف را به‌صورت نامفهوم و درهم تولید می‌کرد، اما Images 2.0 می‌تواند تابلوهای خیابان، سربرگ‌های رسمی و رسیدهای خرید را با فونت و چیدمان دقیق بازسازی کند.

ناتوانی سد‌های امنیتی

اگرچه شرکت‌های بزرگ مانند OpenAI و گوگل مدعی هستند که سیاست‌های سخت‌گیرانه‌ای برای جلوگیری از سوءاستفاده دارند، اما شواهد نشان می‌دهد که این «نرده‌های حفاظتی» (Guardrails) به‌راحتی دور زده می‌شوند.

سخنگوی OpenAI اعلام کرده است که آن‌ها لایه‌های حفاظتی متعددی را اضافه کرده‌اند و تصاویر دارای «متادیتا» برای شناسایی هستند، اما کارشناسان هشدار می‌دهند که این ردپای دیجیتال تنها با یک اسکرین‌شات ساده به‌طور کامل از بین می‌رود.

هشدار اف‌بی‌آی: خسارات میلیاردی در راه است

طبق گزارش سالانه جرایم اینترنتی FBI، کلاهبرداری‌های مرتبط با هوش مصنوعی در سال گذشته میلادی نزدیک به یک میلیارد دلار به آمریکایی‌ها خسارت وارد کرده است. «میسون وایلدر»، مدیر انجمن بازرسان رسمی کلاهبرداری، معتقد است که سقف توانایی این تکنولوژی در دست مجرمان، تنها محدود به قدرت تخیل آن‌هاست.

در حالی که بانک‌ها و نهادهای امنیتی در تلاش برای به‌روزرسانی سیستم‌های خود هستند، به نظر می‌رسد جاعلان به لطف هوش مصنوعی، همیشه یک قدم جلوتر از قانون حرکت می‌کنند. اکنون دیگر نمی‌توان به هیچ «اسکرین‌شات» یا «رسید دیجیتالی» اعتماد مطلق داشت.