نگرانی‌ها درباره محتوای مناسب با:
ورود Gemini به دنیای کودکان
نگار علی- ۲۰ اردیبهشت ۱۴۰۴
گوگل اعلام کرده که نسخه‌ای از ربات هوش مصنوعی خود موسوم به Gemini را در هفته‌های آینده برای کودکان زیر ۱۳ سال فعال خواهد کرد؛ تصمیمی که با وجود وعده‌هایی درباره امنیت، نگرانی‌های گسترده‌ای درباره حریم خصوصی، سلامت روان و دسترسی کودکان به محتوای نامناسب ایجاد کرده است.
این قابلیت فعلاً در ایالات متحده و کانادا فعال می‌شود و طبق اعلام گوگل، تا پایان سال جاری میلادی در استرالیا نیز عرضه خواهد شد. استفاده از Gemini برای کودکان تنها از طریق حساب‌های والدینی در سرویس Family Link گوگل ممکن است.
دسترسی پیش‌فرض فعال؛ والدین باید دستی غیرفعال کنند
بر اساس اطلاعات منتشرشده، دسترسی به Gemini برای کودکان به‌صورت پیش‌فرض فعال خواهد بود و والدین باید شخصاً آن را غیرفعال کنند. کودکان قادر خواهند بود از این ربات متنی و تصویری درخواست پاسخ داشته باشند، از کمک در تکالیف گرفته تا طراحی تصویر با یک فرمان ساده.
اما گوگل اذعان کرده است که سیستم ممکن است اشتباه کند؛ موضوعی که در دنیای چت‌بات‌ها با عنوان «توهم» شناخته می‌شود؛ یعنی تولید اطلاعات نادرست به‌ظاهر واقعی. به همین دلیل، استفاده کودکان از Gemini برای اهدافی مانند انجام تکالیف، ممکن است آن‌ها را دچار سردرگمی کند، به‌ویژه اگر تفاوت میان یک موتور جست‌وجو و یک ابزار تولید محتوای مبتنی بر الگو را ندانند.
وقتی فیلترها دردسرساز می‌شوند
گوگل وعده داده که سامانه دارای «محدودیت‌های داخلی برای جلوگیری از تولید محتوای نامناسب یا خطرناک» خواهد بود. با این حال، کارشناسان هشدار می‌دهند که این محدودیت‌ها ممکن است اطلاعات علمی یا آموزشی مفید را نیز سانسور کنند.
همچنین کودکان امروزی به طرز چشمگیری باهوش و مسلط به فناوری هستند و بسیاری از آن‌ها راه‌هایی برای دور زدن کنترل‌های والدین پیدا می‌کنند. به همین دلیل، نمی‌توان به ابزارهای فنی به‌تنهایی اعتماد کرد و والدین باید به‌طور فعال محتوای تولیدشده را بررسی و با فرزندان خود درباره دقت و سازوکار عملکرد ربات‌های هوشمند گفت‌وگو کنند.
از جلب اعتماد تا فریب روانی
چت‌بات‌هایی مانند Gemini برای شبیه‌سازی رفتارهای انسانی طراحی شده‌اند؛ آن‌ها «قوانین احساسات» انسانی را تقلید می‌کنند، مثل گفتن «متشکرم» یا «متأسفم» در موقعیت‌های روزمره. همین رفتارها باعث ایجاد اعتماد کاذب در کاربران، به‌ویژه کودکان، می‌شود. کودکی که توان تشخیص واقعی از ساختگی را ندارد ممکن است تصور کند با یک انسان واقعی گفت‌وگو می‌کند و محتوای دریافتی را نیز حقیقت محض بداند.
خطرات پنهان فراتر از شبکه‌های اجتماعی
این تصمیم گوگل در حالی اتخاذ می‌شود که دولت استرالیا قصد دارد از دسامبر ۲۰۲۵، داشتن حساب کاربری در شبکه‌های اجتماعی را برای افراد زیر ۱۶ سال ممنوع کند. اما از آنجا که Gemini یک ابزار شبکه اجتماعی نیست، از این قانون مستثنی خواهد بود. این بدان معناست که ممنوعیت شبکه‌های اجتماعی به‌تنهایی نمی‌تواند کودکان را در فضای دیجیتال ایمن کند.
درواقع، والدین با هر فناوری جدید باید مانند یک «بازی موش و چکش» دائما در حال پیگیری تهدیدهای نوظهور باشند. در این شرایط، تصویب قوانین «مسئولیت دیجیتال» برای شرکت‌های فناوری، امری حیاتی به نظر می‌رسد.
قانون‌گذاری ضروری است، نه فقط توصیه اخلاقی
در حالی که اتحادیه اروپا و بریتانیا از سال ۲۰۲۳ قوانین مربوط به وظیفه مراقبت دیجیتال را تصویب کرده‌اند، نسخه استرالیایی این قانون از نوامبر ۲۰۲۴ در حالت تعلیق قرار دارد. اجرای چنین قوانینی می‌تواند شرکت‌هایی مانند گوگل را ملزم کند تا به‌صورت فعالانه، مانع گسترش محتوای مضر شوند، نه اینکه صرفاً به والدین برای نظارت تکیه کنند.
