استفاده از هوش مصنوعی به منظور جلوگیری از خودزنی دانش‌آموزان

مدارس اغلب از هوش مصنوعی برای شناسایی دانش‌آموزانی استفاده می‌کنند که در معرض خودزنی و آسیب‌رساندن به خود، خشونت علیه دیگران و قلدری هستند. به گزارش وال‌استریت ژورنال (WSJ)، برخی نگران هستند که این برنامه‌ها حریم خصوصی و آزادی دانشجویان در استفاده از اینترنت را نقض کنند. یک شرکت‌ هوش مصنوعی اعلام کرده است که تنها طی مدت یک هفته 5000 مورد خودزنی یا خودکشی را در بین دانش‌آموزان شناسایی کرده است.

طبق گزارش مرکز دموکراسی و فناوری Center for Democracy and Technology (CDT)،‌ همزمان با بازگشت دانش‌آموزان به مدارس، نواحی آموزش و پرورش سراسر کشور از برنامه‌های مبتنی بر فناوری هوش مصنوعی برای نظارت بر ارتباطات و جست‌وجوهای اینترنتی دانش‌آموزان استفاده می‌کنند تا افرادی را شناسایی کنند که در معرض آسیب‌رساندن به خود،‌ قلدری،‌ خشونت و سایر مسائل مربوط به سلامت روان هستند.

جلوگیری از خودزنی دانش‌آموزان با هوش مصنوعی

اگرچه استفاده از برنامه‌های نظارتی در مدارس متداول شده است (برای مثال، در نظرسنجی CDT، 71% معلمان استفاده از نرم‌افزارهای نظارتی در مدارس خود را تایید کردند)، اما منتقدان بر این باورند که استفاده از این برنامه‌ها می‌تواند حریم خصوصی دانش‌آموزان را نقض کند و اگر مدارس به جای پیشگیری از آسیب، از  هوش مصنوعی برای اهدافی مانند برقراری نظم و انضباط استفاده کنند،‌ ممکن است منجر به بروز زنجیره‌ای از اتفاقات ناگوار شود.

به گزارش وال‌استریت ژورنال،‌ نرم‌افزارهای نظارتی کلمات و عبارات کلیدی خاصی را که از رایانه‌های مدارس صادر می‌شوند، اسکن کرده و زمانی که یک عبارت کلیدی خاص را پیدا کند،‌ به مدیر هشدار می‌دهد. سپس، مدیر می‌تواند در مورد اعتبار هشدار، مطلع کردن والدین یا مداخله در کار دانش‌آموز تصمیم بگیرد.

شرکت بارک

شرکت نرم‌افزارهای نظارتی بارک Bark،‌ که در بیش از 2900 ناحیه آموزش و پرورش استفاده می‌شود اعلام کرد که طی مدت یک هفته، 5000 مورد خودزنی یا خودکشی را شناسایی کرده است. آموزش و پرورش ناحیه سان مارکوس از نرم‌افزار نظارتی Lightspeed استفاده می‌کند. این ناحیه اعلام کرده است که تنها در هفته اول شروع مدارس پنج هشدار معتبر در مورد خودزنی دریافت کرده است.

این نرم‌افزار مدرسه‌ای را شناسایی کرد که یکی از دانش‌آموزان آن در خاطرات خود نوشته بود می‌خواهد بمیرد؛ این دانش‌آموز خاطرات خود را در Google Doc ثبت می‌کرد. مدرسه این موضوع را به والدین کودک اطلاع داده و آن‌ها برای نجات فرزندشان درخواست کمک کردند.

بر اساس نظرسنجی هریس پول،‌ سلامت روانی کودکان در مدت همه‌گیری کرونا کاهش یافته است؛‌ والدینِ کودکانی که در سن مدرسه دارند از افزایش نگرانی مداوم،‌ ناراحتی مکرر و عادات عصبی فرزندانِ خود خبر دادند.

نتایج نظرسنجی مرکز دموکراسی و فناوری نیز نشان می‌دهد علی‌رغم اینکه برنامه‌های نظارتی، انتقاد کارشناسان حریم خصوصی و امنیت را به همراه داشته،‌ 66 درصد از معلمان بر این باورند که مزایای نظارت آنلاین بیش از خطرات آن است و 50 درصد از دانش‌آموزان اظهار داشتند که با به‌کارگیری نرم افزارهای نظارتی مشکلی ندارند.

چاد مارلو، متخصص حریم خصوصی در اتحادیه آزادی‌های مدنی ایالات متحده آمریکا American Civil Liberties Union، در توضیحات خود به خبرگزاری گاردین در  سال 2019،  اعلام کرد که هیچ شواهدی مبنی بر اینکه نظارت بر دانش‌آموزان امنیت بیشتری برای آن‌ها به ارمغان خواهد آورد، وجود ندارد. اگرچه بسیاری از شرکت‌های نظارتی سالانه مبلغ 3 میلیارد دلار برای تامین امنیت مدارس اختصاص داده و تبلیغات خود را با تکیه بر جمع‌آوری شواهد و اطلاعات انجام می‌دهند، اما تاکنون هیچ تحلیل مستقلی صورت نگرفته است که حاکی از کاهش میزان خشونت یا خودآزاری در بین دانش‌آموزان به واسطه نظارت بر آن‌ها باشد.

چالش‌های برنامه‌های نظارتی

بیشتر مردم از به‌کارگیری نرم‌افزارهای نظارتی مطلع هستند و همین امر موجب شده است رفتار دانش‌آموزان تغییر کرده و تشخیص رفتارهای خطرناک برای برنامه‌های نظارتی دشوارتر شود. در گزارش مرکز دموکراسی و فناوری آمده است که از هر 10 دانش‌آموز،‌ شش نفر به دلیل اینکه می‌داند تحت نظر است، افکار واقعی خود را به صورت آنلاین به اشتراک نمی‌گذارد و 80% نیز به همین دلیل در جستجوهای آنلاین خود بیشتر دقت کرده‌اند.

حدود 60% از معلمان و والدینِ شرکت‌کننده در نظرسنجی مرکز دموکراسی و فناوری اظهار داشتند که اگر اطلاعات جمع‌آوری شده برای برقراری نظم و انضباط استفاده شود یا خارج از بافت مورد نظر به اشتراک گذاشته شود،‌ نرم‌افزار‌های نظارتی می‌توانند آسیب‌های طولانی مدت ایجاد کنند. علاوه بر این، حدود 50% شرکت‌کنندگان در مورد پیامدهای منفی و ناخواسته‌ی نرم‌افزارهای نظارتی بر دانش‌آموزانِ دگرباش جنسی اتفاق نظر داشتند.

بر اساس پژوهش مرکز عدالت برنان Brennan Center for Justice،‌ در سال 2018 مدارس مبلغ یک میلیون دلار برای نظارت بر رسانه‌های اجتماعی دانش‌آموزان هزینه کردند. نتایج این پژوهش نشان می‌داد که نظارت بر رسانه‌های اجتماعی می‌تواند خطرناک باشد به ویژه برای دانش‌آموزان رنگین پوست که احتمال تنبه آن‌ها در مدارس در مقایسه با سایر دانش‌آموزان بسیار بالاتر است‌.

در این گزارش آمده است که: «به طور کلی،‌ با افزایش تدابیر امنیتی مدارس،‌ دانش‌آموزان اغلب احساس امنیت کمتری می‌کنند. از طرفی، نظارت گسترده و غیرضروری ضمن احتمال وارد کردن خلل به حریم خصوصی دانش‌آموزان می‌تواند خوداظهاری آنها را کاهش دهد».

انواع کاربردهای هوش مصنوعی در صنایع مختلف را در هوشیو بخوانید