Character.AI ابزار جدیدی را برای کمک به نظارت والدین در دسترس قرار می‌دهد

چرا مهم است؟

 این سرویس به کاربران اجازه می‌دهد با چت‌بات‌هایی بر پایه شخصیت‌های داستانی تعامل داشته باشند، دست‌کم دو بار از سوی والدین نوجوانان تحت پیگرد قانونی قرار گرفته است. این والدین ادعا کرده‌اند که سازندگان این اپلیکیشن مسئول آسیب به خود یا خودکشی فرزندانشان هستند. یکی از شکایات مدعی است که اپلیکیشن به یک کودک پیشنهاد داده بود که کشتن والدینش قابل‌قبول است.

چطور کار می‌کند:

این ابزار جدید، یک ایمیل هفتگی به والدین ارسال می‌کند که شامل موارد زیر است:

• میانگین زمان استفاده روزانه نوجوان از پلتفرم (در وب و موبایل)
• شخصیت‌هایی که بیشتر از همه با آن‌ها تعامل داشته
• مدت‌زمان صرف‌شده با هر شخصیت

مهم: این گزارش محتوای چت‌ها را شامل نمی‌شود.

Character.AI در یک پست وبلاگی اعلام کرد: «نسخه‌ای که امروز عرضه می‌شود، گام اولیه‌ای است و به مرور توسعه خواهد یافت.» ارین تیگ، مدیر محصول Character.AI نیز گفت: «این قابلیت والدین را تشویق می‌کند تا گفت‌وگویی باز با فرزندانشان درباره نحوه استفاده‌شان از برنامه داشته باشند.»

برای اینکه والدین بتوانند از این ابزار استفاده کنند، نوجوان باید خودش برای این ویژگی ثبت‌نام کرده و ایمیل والدین را وارد کند. همچنین Character.AI محدودیت سنی دارد و کاربران باید دست‌کم ۱۳ سال داشته باشند.

در سال گذشته، این شرکت می‌گوید اقداماتی برای محافظت از کاربران نوجوان از جمله معرفی یک مدل اختصاصی برای کاربران زیر ۱۸ سال و بهبود سیستم‌هایی که رفتارهای مرتبط با آسیب به خود را شناسایی و مداخله می‌کنند (چه از سمت کاربر انسان و چه چت‌بات)، انجام داده است.

برخی کارشناسان معتقدند کنترل والدین بیشتر شبیه به «چسب‌زخم روی زخم گلوله‌ای» (راه‌حل سطحی برای مسئله‌ای جدی‌تر) است. «جولیا فریلند فیشر»، مدیر آموزش در مؤسسه Clayton Christensen می‌گوید: «تمرکز بیش از حد روی موارد افراطی مانند خودکشی، توجه را از ریسک‌های گسترده‌تر مانند وابستگی احساسی به فناوری منحرف می‌کند.» او به Axios گفت: «روایت‌هایی که این روزها شنیده می‌شود، بسیار افراطی هستند. این باعث می‌شود والدین فکر کنند، این به بچه من مربوط نمی‌شود.»

اما با این حال فیشر معتقد است که ابزاری که میزان استفاده از چت‌بات را به والدین نشان دهد می‌تواند مفید باشد. طبق یک مطالعه از OpenAI، کاربرانی که به طور مداوم از چت‌بات‌ها استفاده می‌کردند، گزارش داده‌اند که تأثیرات منفی بیشتری بر سلامت روانی آن‌ها داشته است.

او گفت: «اگر والدین بتوانند میزان بالای استفاده را ببینند و بدانند که این میزان استفاده با ریسک‌های سلامت روانی مرتبط است، آن وقت این ابزار می‌تواند واقعاً مفید باشد.»