حریم خصوصی کودکان در دوران هوش مصنوعی

والدین سال‌هاست که درباره خطرات و فواید انتشار عکس‌های فرزندانشان در فضای آنلاین بحث می‌کنند. تقریباً به اندازه همان مدتی که وب‌سایت‌های به اشتراک‌گذاری عکس وجود داشته‌اند. اما وقتی شبکه‌های اجتماعی به بخش جدایی‌ناپذیر جامعه تبدیل شدند، «sharenting» به یک هنجار بدل شد. طبق مطالعات، تنها یک‌چهارم والدین به دلیل نگرانی از این‌که شکارچیان آنلاین و شرکت‌ها ممکن است داده‌های شخصی فرزندانشان را جمع‌آوری کنند، از به اشتراک گذاشتن عکس‌های آن‌ها در اینترنت خودداری می‌کنند.

رشد تصاویر جعلی تولید شده توسط هوش مصنوعی

اپلیکیشن‌های موسوم به «nudifier» به راحتی در دسترس، ساده و ارزان هستند و برخی حتی امکان استفاده رایگان آزمایشی را ارائه می‌دهند. این اپلیکیشن‌ها به ‌طور گسترده توسط دانش‌آموزان در مدارس استفاده می‌شوند. برای قربانیان، انتشار تصاویر برهنه جعلی از آن‌ها در فضای عمومی، به اندازه‌ای که اگر عکس‌ها واقعی بودند می‌توانست آسیب‌زا باشد، شوکه‌کننده و آسیب‌زننده است. اگرچه یک قانون فدرال جدید در ایالات متحده، انتشار تصاویر برهنه جعلی بدون رضایت را جرم‌انگاری کرده است، اما هیچ چیزی مانع استفاده افراد از این اپلیکیشن‌ها نمی‌شود؛ اپلیکیشن‌هایی که در وب به شدت گسترش یافته‌اند. ده‌ها سایت nudifier سالانه میلیون‌ها دلار درآمد دارند.

«الکسیوس مانتزارلیس»، بنیان‌گذار نشریه فناوری «Indicator» که ۸۵ وب‌سایت nudifier را بررسی کرده است، در گفت‌وگویی با نیویورک‌تایمز توضیح داده: «این اپلیکیشن‌ها همه‌جا هستند. هر کودکی که به اینترنت دسترسی داشته باشد، می‌تواند هم قربانی باشد و هم عامل انتشار این محتوا.»

علاوه بر تصاویر برهنه جعلی تولید شده توسط هوش مصنوعی، خطرات دیگری نیز در انتشار عکس‌ها وجود دارد. مانند احتمال افشای اطلاعات شخصی حساس نوجوانان به افراد سوءاستفاده‌گر.

برای روشن شدن موضوع، تصمیم به انتشار یا عدم انتشار عکس‌های خانوادگی یک انتخاب شخصی است، بنابراین این مطلب قصد محکوم کردن والدینی که عکس فرزندانشان را منتشر می‌کنند ندارد. بلکه این نوشته می‌خواهد به شما توضیح دهد که هنگام انتشار عکس فرزندان در فضای آنلاین چه نکاتی را باید در نظر گرفت.

اپلیکیشن‌های nudifier و تغییر قواعد بازی

ساخت تصاویر برهنه جعلی از افراد واقعی پدیده‌ای جدید نیست. سال‌هاست که اپلیکیشن‌های ویرایش عکس مانند Adobe Photoshop قادر بودند تصاویر را به شکلی واقعی دستکاری کنند. با این حال، به دلیل زمان و مهارت زیادی که برای ساختن قابل ‌قبول چنین تصاویری لازم بود، قربانیان اغلب افراد مشهور بودند.

اپلیکیشن‌های nudifier مبتنی بر هوش مصنوعی قواعد بازی را تغییر داده‌اند. آزارگران تنها کافی است به یکی از این وب‌سایت‌ها مراجعه کنند و تصویری از قربانی خود بارگذاری کنند. این سرویس‌ها معمولاً در ازای دریافت وجه از طریق کارت اعتباری یا رمزارز، توکن‌های مجازی ارائه می‌دهند که با استفاده از آن‌ها می‌توان تصاویر برهنه جعلی تولید کرد.

انتشار تصاویر جعلی اخیراً با امضای قانون «Take It Down» توسط دونالد ترامپ، به ‌عنوان یک جرم فدرال در آمریکا شناخته شد. این قانون دوحزبی با هدف مقابله با انتقام‌جویی جنسی تصویب شد و شامل تصاویر برهنه بدون رضایت و تصاویر جعلی تولید شده توسط هوش مصنوعی بود. اگرچه این قانون از شبکه اجتماعی می‌خواهد تصاویر مخرب را حذف کنند، اما کسب‌وکارها را از ارائه خود اپلیکیشن‌های تولید تصویر منع نمی‌کند.

شرکت‌های شبکه اجتماعی مانند Snap، TikTok و Meta تبلیغ اپلیکیشن‌های nudifier را در پلتفرم‌های خود ممنوع کرده‌اند و برخی ایالت‌های آمریکا نیز شروع به بررسی قوانینی کرده‌اند که ارائه چنین اپلیکیشن‌هایی توسط شرکت‌ها را ممنوع کند. با این حال، اگر چنین قوانینی تصویب شوند، اجرای آن دشوار خواهد بود زیرا بسیاری از توسعه‌دهندگان این اپلیکیشن‌ها در خارج از کشور قرار دارند.

به عبارت دیگر، هر کسی هنوز می‌تواند به‌راحتی از یک اپلیکیشن nudifier برای کودک استفاده کند و تصاویر را نگه دارد، بدون این‌که کسی مطلع شود.

حتی برخی از وب‌سایت‌های تولید تصاویر برهنه، یک دوره آزمایشی رایگان برای برهنه‌سازی دیجیتالی یک نفر در یک عکس ارائه می‌دهند. سپس، کاربران می‌توانستند با پرداخت اشتراک ماهانه، اعتبار دریافت کنند؛

آقای «مانتزارلیس» می‌گوید که بسیاری از افراد عکس‌های خود را در این اپلیکیشن‌های nudifier بارگذاری می‌کنند و این اپلیکیشن‌ها سالانه حدود ۳۶ میلیون دلار درآمد برای شرکت‌های ارائه‌ دهنده نرم‌افزار ایجاد می‌کنند. او این برآورد را بر اساس داده‌های ترافیک یک مجموعه وب‌سایت به‌دست آورده است.

اپلیکیشن‌های پورن مبتنی بر هوش مصنوعی آن ‌قدر مشکل‌ساز شده بودند که شرکت Meta وارد عمل شد. در ماه ژوئن، این شرکت در هنگ‌کنگ علیه یکی از توسعه ‌دهندگان محلی اپلیکیشن‌های nudifier اقدام قانونی کرد، زیرا آن توسعه ‌دهنده توانسته بود فناوری‌های تشخیص تبلیغات Meta را دور زده و نرم‌افزار خود را در اینستاگرام و فیسبوک تبلیغ کند.

یک سخنگوی Meta گفت که این شرکت همچنین اطلاعات مربوط به اپلیکیشن‌ها و وب‌سایت‌های متخلف را با برنامه Lantern از گروه Tech Coalition به اشتراک گذاشته است؛ گروهی متشکل از شرکت‌هایی مانند Google و Microsoft که در تلاش برای محافظت از کودکان در برابر سوءاستفاده‌های جنسی آنلاین هستند.

«جاش گولین»، مدیر اجرایی سازمان غیرانتفاعی «Fairplay for Kids» که بر محافظت از کودکان در برابر رسانه‌های آسیب‌زا تمرکز دارد، در مصاحبه‌ای با نیوریورک‌تایمز توضیح می‌دهد: «با این حال، عاملان آزار فقط کافی است نام یک سایت nudifier را بدانند تا از طریق مرورگر وب به آن دسترسی پیدا کنند و در مدارس نیز دانش‌آموزان با نمونه‌های محبوب این سایت‌ها آشنا هستند.»

او در ادامه می‌گوید: «معلم‌ها و مدیران مدرسه‌ای که با آن‌ها صحبت می‌کنم می‌گویند این اتفاق همیشه در مدارس ما رخ می‌دهد، جایی که دانش‌آموزان تصاویر برهنه جعلی ایجاد می‌کنند.»

اگرچه قوانین جدید می‌توانند انتشار تصاویر جعلی توسط آزارگران را دشوارتر کنند، اما برای بسیاری از قربانیان، آسیب‌ها از قبل وارد شده است.

بهار گذشته، دانش‌آموزان یک دبیرستان در شمال ‌شرقی ایالت آیووا به مسئولان مدرسه گزارش دادند که برخی از دانش‌آموزان از اپلیکیشن‌های nudifier برای ساخت تصاویر برهنه جعلی از آن‌ها استفاده کرده‌اند. تقریباً هم‌زمان، قانون‌گذاران در ایالت مینه‌سوتا، در پی وقوع حوادث مشابه، قانونی را برای مقابله با شرکت‌هایی که اپلیکیشن‌ها یا وب‌سایت‌های nudifier ارائه می‌کنند، مطرح کردند.

پیامد این وضعیت برای والدین مشخص است؛ آزارگران می‌توانند یک عکس از فرزند شما که در حساب کاربری شبکه اجتماعی‌تان منتشر شده است را کپی کرده و در یک اپلیکیشن nudifier بارگذاری کنند. یا اگر به طور فیزیکی به شما نزدیک باشند، می‌توانند با دوربین از کودک عکس بگیرند و آن را در این ابزار آپلود کنند.

هیچ راهی برای جلوگیری از حالت دوم وجود ندارد، اما حالت اول را می‌توان با تصمیم به عدم انتشار عکس‌های فرزندتان در فضای آنلاین پیشگیری کرد.

حساب‌های خصوصی در شبکه‌های اجتماعی راه‌حل کاملی نیستند

والدینی که مایل به اشتراک‌گذاری عکس‌های فرزندانشان در شبکه‌های اجتماعی هستند، می‌توانند با انتشار عکس‌ها تنها در حسابی که دوستان نزدیک و اعضای خانواده اجازه دیدن آن را دارند، خطر را به ‌طور قابل‌توجهی کاهش دهند. اما این روش هنوز محدودیت‌هایی دارد. «سارا گاردنر»، بنیان‌گذار گروه حمایتی «Heat Initiative» که در زمینه ایمنی کودکان فعالیت می‌کند، در همین باره می‌گوید: «عاملان سوءاستفاده جنسی از کودکان معمولاً قربانی را می‌شناسند، بنابراین یک دنبال‌کننده در اینستاگرام که به پروفایل شما دسترسی دارد، می‌تواند همان فرد باشد.»

او ادامه می‌دهد: «این‌که حساب کاربری‌تان خصوصی باشد، به این معنا نیست که کسی که می‌شناسید عکس‌هایتان را نمی‌گیرد و با آن‌ها کار مخربی انجام نمی‌دهد.»

در یکی از این حوادث که حدود ده سال پیش رخ داد، یعنی مدت‌ها قبل از ظهور تصاویر برهنه جعلی تولید شده توسط هوش مصنوعی، مادری در ریورتون، یوتا، متوجه شد که عکس‌های فرزندانش که فقط با دوستان و خانواده در فیسبوک به اشتراک گذاشته بود، در وب‌سایت‌های پورنوگرافی منتشر شده است.

حتی انتشار ویدیوی یک جشن تولد هم می‌تواند خطرناک باشد

علاوه بر تصاویر برهنه جعلی تولید شده توسط هوش مصنوعی، هنوز تهدیدهای سنتی‌تری وجود دارند که باید در نظر گرفته شوند، مانند سرقت هویت.

جشن تولد یک کودک ممکن است به ‌نظر یک رویداد مهم باشد که ارزش به اشتراک گذاشتن در شبکه‌های اجتماعی را دارد، اما حتی این نوع اشتراک‌گذاری به ظاهر بی‌ضرر هم می‌تواند کودکان را در آینده در معرض خطر قرار دهد.

«لیا پلانکت»، نویسنده کتاب «Sharenthood» درباره اشتراک‌گذاری اطلاعات کودکان در فضای آنلاین، گفت: «عکس‌های جشن تولد می‌توانند روز و سال دقیق تولد کودک را فاش کنند، اطلاعاتی که می‌توان آن را با داده‌های دیگر که هکرها از طریق نفوذهای سایبری جمع‌آوری کرده‌اند ترکیب کرده و برای سرقت هویت استفاده کرد.»

با اینکه این موضوع ممکن است غیرمحتمل به نظر برسد، طبق گزارش کمیسیون تجارت فدرال ایالات متحده، سرقت هویت کودکان از سال ۲۰۲۱ تا ۲۰۲۴ حدود ۴۰ درصد افزایش یافته و سالانه تقریباً ۱.۱ میلیون کودک قربانی سرقت هویت می‌شوند.

چرا ما این کار را انجام می‌دهیم؟

به اشتراک گذاشتن قسمتی از داده‌ها، بخشی از قرارداد اجتماعی عصر دیجیتال است. به ‌عنوان مثال، ما موقعیت مکانی خود را به اشتراک می‌گذاریم تا از اپلیکیشن‌های نقشه، مسیرهای مفید دریافت کنیم. برای والدینی که در حال فکر کردن به این موضوع هستند که آیا باید عکس فرزندانشان را منتشر کنند یا نه، پرسیدن این سؤال که «چه مزایایی دارد؟»

اپلیکیشن‌های شبکه اجتماعی مانند اینستاگرام، اسنپ‌چت و تیک‌تاک ابزارهای راحتی هستند که امکان به‌اشتراک‌گذاری سریع عکس‌ها و ویدیوهای زیبا با تعداد زیادی از افرادی که برایمان اهمیت دارند را فراهم می‌کنند. اما بهره‌برداران واقعی خود شرکت‌های شبکه اجتماعی هستند که این داده‌ها را جمع‌آوری می‌کنند تا محصولاتشان را بهبود دهند و افراد، از جمله فرزندان ما را به استفاده مداوم از این محصولات ترغیب کنند.

طبق ده‌ها مطالعه، در میان جوان‌ترها، استفاده مکرر از شبکه‌های اجتماعی با مشکلات سلامت روان از جمله اضطراب، افسردگی و احساس تنهایی مرتبط بوده است.

«نیکی رایسبرگ»، بازاریاب سابق و میزبان پادکستی درباره والدگری در عصر دیجیتال، گفت: «هدف آن‌ها کمک به پرورش یک کودک سالم و متوازن نیست؛ بلکه هدفشان کسب درآمد از نگه داشتن فرزندان شما در شبکه‌های اجتماعی برای بیشترین زمان ممکن است و اگر پیش از آنلاین شدن فرزندتان، ده‌ها هزار قطعه داده داشته باشند، می‌توانند این کار را مؤثرتر انجام دهند.»

در نهایت، ممکن است همه این تلاش‌ها بی‌فایده باشد. به طور بسیاری از مدارس عکس‌های کودکان را در شبکه‌های اجتماعی منتشر می‌کنند تا نشان دهند دانش‌آموزانشان لحظات خوبی دارند و این می‌تواند تلاش‌های والدین برای جلوگیری از انتشار تصاویر فرزندشان را بی‌فایده کند. اما آنچه مهم است آگاه بودن و مطالبه‌گری در رابطه با حفظ حقوق و امنیت فرزندان‌مان است.