رشد نگران‌کننده بزرگ‌ترین وب‌سایتی که از فناوری جعل عمیق سوءاستفاده می‌کند
تیم تحریریه- ۳ فروردین ۱۴۰۱
یک وب‌سایت جعل عمیق که با استفاده از هوش مصنوعی تصویر زنان را برهنه می‌کند، چنگال‌های سیاه خود را در سراسر وب پراکنده کرده است؛ این وب‌سایت با انعقاد قراردادهای شراکت، سرویس‌های مشابهی ایجاد می‌کند و با استفاده از سیستم ارجاعی، کاربران جدیدی جذب می‌کند. همین اقدامات باعث شده‌اند که بر خلاف ممنوعیت‌هایی که بر زیرساخت‌های پرداخت این وب‌سایت اعمال شده است، تکثیر شود.
این وب‌سایت که برای جلوگیری از ترویج آن، نامش را نمی‌بریم، از سال گذشته ایجاد شده است و برای ایجاد تصاویر مستهجن جعل عمیق، لباس‌های افراد درون عکس را به‌صورت دیجیتالی حذف می‌کند. به گفته پژوهشگران خروجی آن «بسیار واقعی» است و بر خلاف سامانه‌های سوءاستفاده‌گر مشابه، می‌تواند حتی با استفاده از تصویر فردی که در عکس اصلی کاملاً پوشیده است، تصاویر مستهجن را به وجود بیاورد. پیش از این، فناوری‌های مشابه تنها زمانی کار می‌کردند که تصاویر نیمه‌پوشیده بودند.
این وب‌سایت در ماه‌های اخیر خدمات خود را گسترش داده است و طراحِ آن بالغ بر هزاران دلار درآمد داشته است. وب‌سایت موردنظر با ایجاد دسترسی به رابط‌های کاربری (API) خود، الگوریتم‌هایش را در اختیار شرکای خود قرار داده است و دو وب‌سایت درون‌گذارده (spin-off) هم از سوی دو نفر دیگر ایجاد شده‌اند. تخلف وب‌سایت اصلی قبلاً گزارش شده است، اما مقدار برنامه‌های شریک آن گزارش نشده است.
به نقل از صفحه «برنامه شریک» این وب‌سایت، طرح اولیه به‌گونه‌ای ایجاد شده است که توسعه‌دهنده سیستم بتواند بر روی تحقیقات هوش مصنوعی بیشتر تمرکز کند، برای مشتریان روش‌های پرداخت جایگزین فراهم کند و نسخه‌هایی از سایت را به زبان‌های گوناگون ایجاد کند. این صفحه ادعا می‌کند که این وب‌سایت با داشتن یک مدل غیرمتمرکز، می‌تواند از «تعلیق یا حتی تعطیلی ناگهانی» جلوگیری کند.
به‌نظر می‌رسد که این روش به جلوگیری از آفلاین شدن وب‌سایت، کمک کرده است. بر طبق داده‌های سامانه هوش دیجیتال Similarweb، این وب‌سایت بین ژانویه و اواخر اکتبر سال جاری، بیش از 50 میلیون بازدید داشته که این میزان در نوع خود بالاترین مقدار است. خالق سایت ادعا کرده است که در یک روز «صدها هزار» تصویر بارگذاری شده‌اند. بر طبق داده‌های Similarweb، تعداد بینندگان این سایت در ماه آگوست با 92/6 میلیون بازدید، به اوج خود رسید.
تقریباً در همان زمان بود که این سایت موردتوجه هافینگتون پست و دیگران قرار گرفت و موجب شد که میزبان آن، آفلاین شود و ظاهراً سامانه ارز دیجیتالی Coinbase حساب پرداختی آن را به حالت تعلیق درآورد. این محدودیت‌ها تعداد بازدیدکنندگان سایت را به نصف کاهش داد و در ماه اکتبر به 14/3 میلیون بازدید رساند؛ 93/13 درصد از بازدیدکنندگان در ایالات متحده بودند. با وجود اینکه اندازه این سایت کاهش پیدا کرد، اما شرکای تجاری آن رشد کردند و کمک کردند که فناوری سوءاستفاده‌گر در دسترس میلیون‌ها نفر باقی بماند. بر طبق داده‌های SimilarWeb، در ماه اکتبر، یکی از وب‌سایت‌های درون‌گذارده، نزدیک به 830 هزار و وب‌سایت دیگر تقریباً 300 هزار بازدیدکننده داشتند. در حالی که این دو وب‌سایت در ماه‌های پیش از آن فقط ده‌ها هزار بازدید داشتند. بیشترِ این ترافیک اضافی را وب‌سایت اصلی به‌سوی آن‌ها هدایت می‌کند.
خالق یکی از این سایت‌های درون‌گذارده می‌گوید که در ازای ایجاد 10 هزار تصویر مستهجن، نزدیک به 500 دلار به وب‌سایت اصلی می‌پردازد. وب‌سایت شریک مدعی است بیش از 204522 تصویرِ متعلق به بیش از 3 هزار مشتری را پردازش کرده است که برای این خدمات، هزینه پرداخت می‌کنند. در حالی که یکی دیگر از وب‌سایت‌های شریک ادعا می‌کند دیتاست آموزشی هوش مصنوعی آن شامل بیش از یک میلیون تصویر است، مشخص نیست که این تصاویر از کجا آمده‌اند و این در حالی است که خالق وب‌سایت اصلی نوشته است که این سرویس، تصاویر را ذخیره نمی‌کند یا از آن‌ها برای اهداف آموزشی استفاده نمی‌کند.
وب‌سایت اصلی برای حفظ خود، علاوه بر استخدام شرکا، صدها پیوند از برنامه ارجاعی وب‌سایت را در توئیتر، یوتیوب، تلگرام و انجمن‌های مخصوص به جعل عمیق غیراخلاقی، به اشتراک گذاشته است. هر بار که کسی روی این پیوندها کلیک می‌کند، توکن رایگان ایجاد تصویر دریافت می‌کند.
خالق وب‌سایت که هویتش نامعلوم است و به هیچ درخواست مصاحبه‌ای جواب نداده است، ادعا می‌کند که از زمان راه‌اندازی سایت، چندین بار الگوریتم آن را به‌روزرسانی کرده است. بنابر آنچه که در وب‌سایت آمده است، اکنون بر روی نسخه 2.0 اجرا می‌شود. توسعه‌دهنده وب‌سایت ادعا می‌کند که نسخه سوم آن که ظاهراً در اوایل سال 2022 منتشر می‌شود، توانایی «پیش‌بینی» را در عکس‌هایی که از «کنار یا پشت سر» گرفته شده‌اند، ارتقا می‌دهد. به ادعای خالق این سایت، نسخه‌های آینده امکان دستکاری ویژگی‌های تصاویر را هم فراهم می‌کنند.
روش‌های رشد استارتاپی این وب‌سایت، نشان‌دهنده بلوغ فناوری‌های جعل عمیق «برهنه‌سازی» است که به‌طور عمده زنان را هدف قرار داده است و به آنان آسیب می‌رساند. از زمانی که اولین سیستم هوش مصنوعی سازنده تصاویر مستهجن ساخته شد، تا به امروز، استفاده از این نوع فناوری به قدری ساده شده که فقط لازم است تصویری را انتخاب و بارگذاری کرد. تحولات هولناک اخیر شامل تولید آسان ویدئو نیز بوده است.
با افزایش سهولت استفاده از این نوع فناوری، علاوه بر افراد مشهور و تأثیرگذار، افراد عادی جامعه هم هدف آزار و اذیت قرار گرفته‌اند. گسترش این سایت جدید و شرکای آن، این مزاحمت‌ها را عادی‌سازی کرده است. هنری اجر، مشاور جعل عمیق و سرپرست سیاست و مشارکت در شرکت رسانه‌های ساختگی Metaphysic می‌گوید: «کیفیت تولیدات این فناوری، بسیار بیشتر شده است. افرادی که در پس این فناوری هستند موفق به انجام کاری بی‌سابقه شده‌اند و تلاش می‌کنند که حول محور این فناوری یک اجتماع مستحکم ایجاد کنند.»
سوفی مدوکس، پژوهشگر دانشگاه پنسیلوانیا که متخصص حوزه خشونت جنسیتی در فضای مجازی است، بیان کرد: «وجود شرکا و خدمات پرداخت در سراسر این وب‌سایت و دو شریک آن نشان می‌دهد که این نوع از فناوری در نقطه اوج خود قرار دارد. این فناوری مضر دارد سودآور و عادی‌سازی می‌شود». مدوکس تأیید کرد که جامعه، شرکت‌های فناوری و مجریان قانون باید در برابر جعل عمیق، هیچ‌گونه رواداری‌ای نشان ندهند.
این وب‌سایت‌ها پول زیادی برای سازندگان خود تولید می‌کنند. هر سه وب‌سایت برای پردازش 100 تصویر، 10 دلار و برای 2000تصویر، 260 دلار از افراد دریافت می‌کنند. تعداد محدودی تصویر را نیز به‌صورت رایگان و به‌عنوان نمونه آزمایشی پردازش می‌کنند، اما بازدیدکنندگان به سمت پرداخت هزینه سوق داده می‌شوند. از زمان ایجاد این سایت‌ها، در مقاطع مختلف روش‌های پرداخت گوناگونی مانند نقل و انتقالات بانکی، PayPal، Patreon و چندین ارز دیجیتال را به کار گرفته‌اند. بسیاری از این خدمات‌دهنده‌ها مانند Coinbase، پس از گزارش رسانه‌ها، همکاری خود را با آن‌ها قطع کرده‌اند. هر سه وب‌سایت هنوز انواع ارز دیجیتال را برای پرداخت هزینه قبول می‌کنند.
ایوان براوو، خالق یکی از وب‌سایت‌های درون‌گذارده که ادعا می‌کند بیش از 3 هزار مشتری دارد، در پاسخ به ایمیلی که از او پرسیده بود، چرا این وب‌سایت را اداره می‌کند، گفت: «از نظر اخلاقی درست نیست که از راهی پول در بیاورم که به افراد آسیب می‌زند، اما این کار را ادامه می‌دهم، چون درآمد خوبی دارد.» او از گفتن مقدار درآمد خود طفره رفت، اما گفت: «آنقدر هست که بتوان یک خانواده را در یک خانه آبرومندانه در مکزیک، اداره کرد.»
تحلیل‌های پژوهشگر مستقلی که وب‌سایت‌ها را ردیابی می‌کند و به‌دلیل حساسیت موضوع، تمایلی به فاش شدن نامش ندارد، نشان می‌دهد که وب‌سایت براوو، در سه روز اول پس از راه‌اندازی آن در ماه آگوست، 620 مشتری داشته است. بر طبق این تحلیل، این سایت برای براوو درآمدی بین 7553 تا 57323 دلار دارد. وقتی این اعداد به براوو نشان داده شد، ادعا کرد که درآمدی در همین محدوده داشته است.
براوو سعی می‌کند با گفتن اینکه «وب‌سایت او و دیگر وب‌سایت‌ها دارای بخش سلب مسئولیت است که استفاده از آن‌ها را برای آزار رساندن به دیگران ممنوع می‌کند»، کار خود را توجیه می‌کند. با این حال، فناوری‌های جعل عمیق از بدو تأسیس، برای تحقیر و سوءاستفاده از زنان به کار رفته‌اند؛ اکثر فناوری‌های جعل عمیق برای تولید محتوای مستهجن به کار رفته‌اند و تقریباً تمام آن‌ها زنان را هدف گرفته‌اند. سال گذشته، محققان یک ربات جعل عمیق را در تلگرام کشف کردند که برای سوءاستفاده از بیش از 100 هزار زن، مورداستفاده قرار گرفته بود که بعضی از آنان، زیر سن قانونی بودند. در سال 2020، هر ماه بیش از هزار ویدئوی غیراخلاقی جعل عمیق در وب‌سایت‌های بزرگسالان بارگذاری شد و این وب‌سایت‌ها برای محافظت از قربانیان، کار چندانی انجام ندادند.
Seyi Akiwowo، بنیانگذار و مدیر اجرایی مؤسسه خیریه Glitch! که هدف از آن پایان دادن به سوءاستفاده از زنان و افراد به حاشیه رانده‌شده در فضای مجازی است، می‌گوید: «این امر می‌تواند پیامدهای واقعی و مخربی داشته باشد. مرتکبین خشونت‌های خانگی به سایت‌هایی از این دست رجوع می‌کنند، تا تصویر افراد بی‌گناه را برهنه کنند و بتوانند آسیب بیشتری به آنان برسانند.»
کریستن بل، بازیگر هالیوود در ژوئن 2020 پس از اینکه متوجه شد با استفاده از تصویر او، جعل عمیق ساخته شده است، به وب‌سایت خبری Vox گفت: «از من سوءاستفاده شده است.» دیگر افرادی که هدف سوءاستفاده تصاویر جعل عمیق بوده‌اند، گفته‌اند از شدت واقعی بودن تصاویر شوکه شده‌اند، دوست ندارند فرزندانشان آن عکس‌ها را ببینند و تلاش کرده‌اند که آن‌ها را از روی وب پاک کنند. هلن مورت، شاعر و مجری به MIT Tech Review گفت: «دیدن تصویر جعل عمیق از خودتان باعث می‌شود که احساس ناتوانی و حقارت کنید و فکر کنید که به خاطر زن بودن و داشتن هر نوع وجهه عمومی، تنبیه می‌شوید.»
به گفته کارشناسان، توقف این آسیب‌ها نیازمند رویکردهای چندگانه و ترکیبی از اقدامات قانونی، فنی و اجتماعی است. Akiwowo می‌گوید: «ما باید به جوانان، بزرگسالان و همه افراد درباره آسیب‌های استفاده و گسترش این فناوری آموزش بدهیم.» دیگر متخصصان می‌گویند سامانه‌های فناوری و پرداخت هم باید محدودیت‌های بیشتری اعمال کنند. میکیبا مورهد، مشاور شرکت مدیریت ریسک TNG و محقق عرصه سوءاستفاده سایبری می‌گوید: «ما به آموزش در زمینه جعل عمیق نیازمندیم، اما در عین حال، فناوری هم می‌تواند از گسترش آن جلوگیری کند. از جمله کاربردهای فناوری در این زمینه، استفاده از الگوریتم‌ها برای شناسایی، برچسب‌گذاری و گزارش موارد جعل عمیق، استخدام و آموزش نیروی انسانی بررسی‌کننده واقعیت برای کمک به توقف جعل عمیق و ابتکارات آموزشی ویژه در خصوص آموزش نحوه تشخیص جعل عمیق به کسانی است که در رسانه کار می‌کنند، تا به توقف گسترش اطلاعات نادرست کمک کنند.»
به‌عنوان مثال، فیس‌بوک متا راه‌هایی را برای مهندسی معکوس جعل عمیق گسترش داده است، اما این نوع فناوری هنوز نسبتاً ناکامل است. سامانه GitHub مایکروسافت به‌رغم اینکه در سال 2019 گفته است که نرم‌افزار اصلی را ممنوع می‌کند، هنوز از کد منبعِ برنامه‌های هوش مصنوعی تولیدکننده تصاویر مستهجن، میزبانی می‌کند. اینجاست که نقش قانون به میان می‌آید. با اینکه جعل عمیق از سال 2017 برای ساختن تصاویر و ویدئوهای غیراخلاقی به کار می‌رود، قانونگذاران هنوز نتوانسته‌اند به این مشکل رسیدگی کنند. با وجود اینکه بسیاری از ایالت‌های آمریکا و بریتانیا دارای قوانینی درباره محتوای غیراخلاقی هستند، اما این قوانین شامل جعل عمیق نمی‌شوند. کمیسیون حقوقی بریتانیا از سال 2019 پیرامون چالش‌های جعل عمیق رایزنی کرده است، اما همچنان تغییراتی پیشنهاد نداده است. قربانیان فناوری جعل عمیق راه‌های کمی برای دفاع مؤثر دارند.
هونزا ونرونکا، مشاور حقوقی شرکت McAllister Olivarius که در زمینه تصاویر و فناوری غیرتوافقی فعالیت می‌کند، می‌گوید: «کسانی که می‌خواهند علیه جعل عمیق اقدامی انجام دهند، با چالش‌های حقوقی قابل‌توجهی روبه‌رو هستند. برای حذف تصاویر از وب می‌توان از مواد قانون کپی‌رایت، حریم خصوصی و مجوزهای هنری استفاده کرد. ما در نقطه حساسی قرار داریم، هرچه این خلأ قانونی بیشتر ادامه پیدا کند، اختراعاتی از این دست بیشتر می‌شوند، به شکل صنعت در می‌آیند و قانون‌گذاری در مراحل بعدی سخت‌تر می‌شود.»
مانند بسیاری از آسیب‌های اینترنتی، ممکن است حتی با قانون‌گذاری کامل نیز ردیابی و محاکمه کسانی که فناوری سوءاستفاده‌گر را تولید یا توزیع می‌کنند، دشوار یا غیرممکن باشد. به‌عنوان مثال، نمی‌توان کسی را که در آسیا مستقر است، بدون استرداد، در ایالات متحده یا بریتانیا تحت پیگرد قانونی قرار داد. مختل کردن جعل عمیق نیازمند عملیاتی همه‌جانبه است. به گفته اجر، بهترین راه‌حلی که وجود دارد، ایجاد بیشترین مخالفت ممکن با این فناوری است.
جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید
