از هر ۵ نوجوان، ۱ نفر از هوش مصنوعی برای تولید محتوای غیراخلاقی استفاده کرده است

به نقل از CNN، بر اساس پژوهش جدید مؤسسه Common Sense Media نزدیک به ۷۵ درصد از نوجوانان تاکنون محتوای غیراخلاقی آنلاین دیده‌اند و بیش از نیمی از آن‌ها نخستین مواجهه خود با چنین محتوایی را از سن ۱۲ سالگی یا حتی زودتر تجربه کرده‌اند.

بحران کنترل

نظرسنجی Common Sense Media که با مشارکت بیش از ۱۳۰۰ نوجوان ۱۳ تا ۱۷ ساله انجام شده است، نشان داد که تقریباً نیمی از نوجوانان گزارش کرده‌اند محتوای جنسی را مشاهده کرده‌اند که تصور می‌کردند با استفاده از هوش مصنوعی تولید شده است.

محتوایی که با ابزارهای هوش مصنوعی مولد ایجاد می‌شود، می‌تواند شامل تصاویر و ویدئوهای برهنه جعلی، دیپ‌فیک‌ها و محتوای تولیدشده با ابزارها و اپلیکیشن‌های برهنه‌سازی (Nudification) باشد. اگرچه یافته‌های مربوط به مواجهه نوجوانان با محتوای جنسی از زمان گزارش سال ۲۰۲۳ مؤسسه Common Sense Media تغییر چشمگیری نکرده است، اما دسترسی نوجوانان به این نوع محتوا در سه سال گذشته به شکل قابل‌توجهی تغییر کرده است.

«سوپریت مان» (Supreet Mann)، نویسنده اصلی این مطالعه و مدیر تحقیقات در Common Sense Media، می‌گوید: «به نظر من، همین موضوع است که این مسئله را به طور قابل‌توجهی متفاوت می‌کند. چیزی که درباره آن صحبت می‌کنیم، «پورنوگرافی تجاری یا تولیدشده و گزینش‌شده» نیست. ما درباره چیزهایی صحبت می‌کنیم که اختیار افراد را از آن‌ها می‌گیرند و توانایی آن‌ها برای کنترل تصویر خودشان را سلب می‌کنند.»

هوش مصنوعی دسترسی به محتوای جنسی را آسان‌تر می‌کند

در بسیاری از موارد، نوجوانان با تصاویر جنسی تولیدشده توسط هوش مصنوعی از افراد مشهور مواجه می‌شوند؛ اما ابزارهای برهنه‌سازی اکنون باعث شده‌اند نوجوانان به محتوای جنسی مربوط به همسالان خود نیز دسترسی پیدا کنند. پژوهشگران این سازمان اعلام کردند نزدیک به ۲۰ درصد از شرکت‌کنندگان در نظرسنجی، خودشان محتوای جنسی تولیدشده با هوش مصنوعی ایجاد کرده‌اند یا فردی را می‌شناسند که چنین کاری انجام داده است. همچنین بیش از نیمی از آن‌ها گفته‌اند این محتوا فردی را نشان می‌داده که او را می‌شناخته‌اند.

مان می‌گوید: «آنچه در اینجا شاهد آن هستیم، ظهور فضایی بسیار مشخص و چیزی است که من آن را فضایی با اصطکاک کمتر و دسترسی آسان‌تر می‌نامم؛ فضایی که به جوانان اجازه دسترسی و تجربه‌کردن را به شیوه‌هایی می‌دهد که عمدتاً بدون فیلتر و بدون نظارت هستند.»

از میان ۴۴ درصد نوجوانانی که محتوای جنسی را مشاهده کرده‌اند و باور داشتند این محتوا با هوش مصنوعی تولید شده است، ۱۵ درصد گفته‌اند که این محتوا را از طریق یک اپلیکیشن هوش مصنوعی دیده‌اند که تصاویر و ویدئوها را ایجاد یا اصلاح می‌کند.

«ریانا پفرکرن» (Riana Pfefferkorn)، پژوهشگر سیاست‌گذاری در مؤسسه هوش مصنوعی انسان‌محور دانشگاه استنفورد (Stanford Institute for Human-Centered Artificial Intelligence) می‌گوید اگرچه قوانین و مقررات درباره محتوای مجاز در اپ‌استورها اعمال می‌شوند، اما این برنامه‌ها گاهی با تبلیغ‌نکردن تمام قابلیت‌های خود می‌توانند از نظارت‌ها عبور کنند. ریانا پفرکرن که در این پژوهش جدید مشارکت نداشته است، می‌گوید: «تحقیقات زیادی نشان داده‌اند که تلاش اپ‌استورها و پلتفرم‌های شبکه‌های اجتماعی برای مقابله با این مسئله، مانند بازی «موش و گربه» (Whack-a-mole)، واقعاً برای همگام‌شدن با سرعت این تغییرات کافی نبوده است.»

این مسئله چه تأثیری بر نوجوانان دارد؟

مان دریافت که بسیاری از نوجوانان در حال بازنگری در نحوه حضور خود در شبکه‌های اجتماعی هستند. تقریباً ۷۰ درصد از نوجوانان نگران بودند که بدون رضایتشان قربانی محتوای جنسی تولیدشده با هوش مصنوعی شوند. این نوجوانان همچنین اقداماتی برای محافظت از خود انجام می‌دادند؛ از جمله دقت بیشتر در محتوایی که منتشر می‌کردند، خصوصی کردن حساب‌های کاربری شبکه‌های اجتماعی یا حتی حذف کامل حساب‌های خود.

مان با اشاره به اینکه آگاهی نوجوانان از اهمیت نظارت بر فعالیت‌هایشان در شبکه‌های اجتماعی نکته مثبتی است، تأکید کرد که این وضعیت ممکن است به‌نوعی تقویت‌کننده سرزنش قربانی باشد. او گفت: «چرا بار مسئولیت بر دوش جوانان قرار گرفته است تا رفتارهای خودشان را به دلیل ترس از اقدامات دیگران تغییر دهند؟»

افزایش فراوانی و دسترسی آسان به این نوع محتوا همچنین در حال تغییردادن برداشت نوجوانان از مفاهیمی مانند رابطه جنسی، رضایت (Consent) و تصویر ذهنی از بدن (Body Image) است. نزدیک به ۷۰ درصد از نوجوانان معتقدند محتوای جنسی تولیدشده با هوش مصنوعی بر دیدگاه آن‌ها نسبت به اینکه بدنشان باید چه شکلی باشد تأثیر می‌گذارد. این موضوع به‌ویژه نگران‌کننده است، زیرا نوجوانی دوره‌ای از زندگی است که بدن افراد به طور مداوم و سریع در حال تغییر است. مان افزود: «این مسئله بر نحوه فکرکردن جوانان درباره عناصر بنیادین و بسیار مهم تجربه نوجوانی، مانند رضایت و روابط عاطفی، تأثیر می‌گذارد.»

فراتر از یک مسئله مربوط به نوجوانان

بیش از یک‌سوم نوجوانان گفته‌اند که تمایل دارند با یک فرد بزرگسال درباره محتوای جنسی تولیدشده با هوش مصنوعی صحبت کنند، اما نمی‌دانند چگونه این گفت‌وگو را آغاز کنند. برای خانواده‌ها، این موضوع می‌تواند مانند ورود به قلمرویی ناشناخته باشد. چگونه می‌توان درباره چیزی گفت‌وگو کرد که خودتان نیز درک کاملی از آن ندارید؟

Common Sense Media به والدین و سرپرستان توصیه می‌کند گفت‌وگوهای حمایتی با فرزندان خود داشته باشند و این مکالمات را با موضوعاتی مانند رضایت، سلامت و هویت جنسی آغاز کنند. این رویکرد، پیش از ورود به جنبه‌های فناورانه موضوع، پایه‌ای محکم برای گفت‌وگو ایجاد می‌کند.

یافته‌های پژوهش همچنین نشان داد نوجوانان کم‌سن‌تر نسبت به نوجوانان بزرگ‌تر، احساس راحتی بیشتری برای صحبت‌کردن با والدین خود دارند. آغاز زودهنگام این گفت‌وگوها می‌تواند راهی مناسب برای افزایش آگاهی درباره محتوای جنسی تولیدشده با هوش مصنوعی در آینده باشد.

به گفته مان، والدین باید گفت‌وگوهای باز و مستمر داشته باشند، نه اینکه تنها یک گفت‌وگوی بزرگ و یک‌باره انجام دهند. آن‌ها همچنین باید احساس راحتی کنند که از فرزندانشان بخواهند نحوه کار با اپلیکیشن‌های مجهز به هوش مصنوعی و دیگر برنامه‌های موجود روی دستگاه‌هایشان را توضیح دهند.

در بسیاری از موارد، نوجوانان در محیط مدرسه با پیامدهای منفی تصاویر تولیدشده با هوش مصنوعی از خودشان یا دیگران مواجه می‌شوند. چندین مدرسه در مرکز پرونده‌هایی قرار گرفته‌اند که در آن نوجوانان به دلیل تولید تصاویر جعلی از همکلاسی‌های خود با پیامدهای قانونی مواجه شده‌اند. این موضوع نگرانی‌ها را افزایش داده است، زیرا طبق پژوهش جدید، نوجوانان تقریباً به همان اندازه که با مشاور یا معلم مدرسه احساس راحتی می‌کنند، ممکن است تمایل داشته باشند درباره این مسائل با یک چت‌بات هوش مصنوعی صحبت کنند.

مسئولان آموزشی باید در مواجهه با این موقعیت‌ها تعادل برقرار کنند؛ به‌گونه‌ای که هم به مسئله رسیدگی کنند و هم وارد موقعیت‌هایی نشوند که از نظر فنی خارج از محیط مدرسه رخ داده‌اند. بااین‌حال، پفرکرن اشاره می‌کند زمانی که دو دانش‌آموز با یکدیگر تعامل دارند، این موضوع سطحی از مسئولیت نهادی را ایجاد می‌کند. او می‌گوید: «نقشی برای مدارس، والدین و خانواده‌ها وجود دارد؛ حتی صحبت‌کردن با دوستان دیگر نیز اهمیت دارد. همچنین پلتفرم‌ها و سیاست‌گذاران نیز نقش دارند. این واقعاً یک مسئله اجتماعی است، نه موضوعی که کودکان باید تنها رها شوند تا خودشان با آن مقابله کنند.»