متا قوانین جدیدی برای چت‌بات‌های هوش مصنوعی وضع کرد
نگار علی- ۹ شهریور ۱۴۰۴
شرکت متا اعلام کرد که برای افزایش ایمنی نوجوانان، قوانین تازه‌ای برای چت‌بات‌های هوش مصنوعی خود اعمال کرده است. این تصمیم پس از انتشار گزارش‌هایی درباره نبودِ محافظت کافی از کاربران کم‌سن گرفته شد.
شرکت متا، مالک فیسبوک و اینستاگرام، اعلام کرده است که از این پس چت‌بات‌های هوش مصنوعی این شرکت اجازه نخواهند داشت با نوجوانان درباره موضوعاتی چون خودآزاری، خودکشی، اختلالات خوردن و گفتگوهای عاشقانه نامناسب صحبت کنند.
به گفته «استفانی اوتوی»، سخنگوی متا، این تغییرات در چارچوب اقدامات موقت انجام می‌شود و در آینده سیاست‌های ایمنی کامل‌تر و دائمی برای کاربران نوجوان ارائه خواهد شد. او تاکید کرد: «ما در حال افزودن محافظت‌های بیشتر هستیم تا مطمئن شویم نوجوانان تجربه‌ای امن و متناسب با سن خود در تعامل با هوش مصنوعی داشته باشند.»
بر اساس این سیاست جدید، دسترسی نوجوانان به برخی شخصیت‌های هوش مصنوعی با محتوای نامناسب نیز محدود می‌شود و تنها شخصیت‌هایی که جنبه آموزشی و خلاقانه دارند برای آن‌ها در دسترس خواهد بود.
این تغییرات در شرایطی اعلام شده که تنها دو هفته پیش، خبرگزاری رویترز گزارشی منتشر کرده بود که نشان می‌داد برخی اسناد داخلی متا به چت‌بات‌ها اجازه گفت‌وگوهای جنسی با کاربران خردسال می‌داده است؛ گزارشی که واکنش‌های گسترده‌ای از سوی مقامات آمریکایی و گروه‌های مدافع حقوق کودکان در پی داشت.
متا می‌گوید اسناد یادشده با سیاست‌های کلی شرکت همخوان نبوده و اصلاح شده‌اند. با این حال، فشار رسانه‌ای و نظارت نهادهای قانونی باعث شده این غول فناوری تغییرات تازه‌ای را برای حفاظت از نوجوانان در محصولات هوش مصنوعی خود اعمال کند.
