این چت‌بات به والدین گزارش هفتگی می‌دهد!

نگار علی
۸ فروردین ۱۴۰۴

زمان مطالعه: 2 دقیقه

سرویس چت‌بات Character.AI در اقدامی پیشگیرانه، قابلیت جدیدی تحت عنوان «بینش والدین» (Parental Insights) معرفی کرده است که امکان نظارت بر فعالیت نوجوانان در این پلتفرم را فراهم می‌آورد. این ویژگی که به صورت اختیاری قابل فعال‌سازی است، گزارشی هفتگی شامل جزئیاتی همچون میانگین زمان روزانه استفاده از پلتفرم، چت‌بات‌های پرکاربرد و مدت‌زمان گفت‌وگو با هر بات را برای ایمیل والدین ارسال می‌کند.

این ابتکار در پاسخ به نگرانی‌های فزاینده درباره تعامل طولانی مدت نوجوانان با چت‌بات‌ها و خطر مواجهه با محتوای نامناسب طراحی شده است. نکته حائز اهمیت این است که گزارش‌های ارسالی تنها شامل آمار کلی فعالیت بوده و محتوای مکالمات را در بر نمی‌گیرد، بنابراین حریم خصوصی کاربران نوجوان حفظ می‌شود. والدین نیز برای دریافت این گزارش‌ها نیازی به ایجاد حساب کاربری در پلتفرم ندارند.

پلتفرم Character.AI که به کاربران امکان ایجاد و شخصی‌سازی چت‌بات‌های مختلف را می‌دهد، در میان نوجوانان از محبوبیت قابل‌توجهی برخوردار است. با این حال، این محبوبیت با چالش‌های متعددی همراه بوده است. در ماه‌های اخیر، شکایت‌های حقوقی متعددی مبنی بر ارائه محتوای نامناسب جنسی یا تشویق به خودآزاری توسط برخی چت‌بات‌های این پلتفرم مطرح شده است. همچنین غول‌های فناوری مانند اپل و گوگل نیز نسبت به محتوای این سرویس هشدار داده‌اند.

در واکنش به این نگرانی‌ها، شرکت Character.AI اقدامات اصلاحی متعددی را در پیش گرفته است. از جمله می‌توان به توسعه مدل مخصوص کاربران زیر ۱۸ سال اشاره کرد که برای جلوگیری از تولید محتوای حساس طراحی شده است. همچنین هشدارهای واضح‌تری مبنی بر مصنوعی بودن چت‌بات‌ها در نقاط مختلف پلتفرم قرار داده شده است.

با توجه به افزایش توجه قانون‌گذاران و نهادهای نظارتی به موضوع ایمنی کودکان در فضای مجازی، به نظر می‌رسد Character.AI در مسیر تحولات بیشتری قرار دارد. این شرکت اعلام کرده که قابلیت «بینش والدین» اولین گام در مجموعه اقدامات پیشرو برای ایجاد محیطی امن‌تر برای کاربران نوجوان است. با این حال، کارشناسان معتقدند که چنین اقداماتی باید با دقت بیشتری همراه باشد تا ضمن حفظ امنیت کاربران جوان، به حریم خصوصی و استقلال آن‌ها نیز احترام گذاشته شود.

این تحولات در حالی صورت می‌گیرد که صنعت هوش مصنوعی به طور کلی با چالش تنظیم مقررات مناسب برای محافظت از کاربران آسیب‌پذیر مواجه است. Character. I با معرفی این قابلیت جدید، سعی دارد پیش از اعمال محدودیت‌های احتمالی توسط نهادهای قانونی، ابتکار عمل را در دست بگیرد و خود را به عنوان شرکتی مسئولیت‌پذیر در قبال کاربران جوان معرفی کند.