نژادپرستی پنهان در کدهای هوش مصنوعی

 تصور کنید دانشجویی تلاشگر هستید که هفته‌ها برای نگارش یک مقاله تحلیلی به زبان انگلیسی وقت صرف کرده‌اید؛ تک‌تک واژه‌ها را با وسواس انتخاب کرده و بارها ساختار جملات را بازبینی کرده‌اید تا منظورتان را به درستی و دقت برسانید. اما لحظه‌ای که مقاله را در سامانه آموزشی بارگذاری می‌کنید، یک نرم‌افزار تشخیص هوش مصنوعی با اطمینان کامل برچسب «تولید شده توسط ماشین» را روی کار شما می‌زند. شما بی‌گناه هستید، اما الگوریتم قضاوت نهایی را صادر کرده و شما را در موقعیت دفاع از واقعیتی قرار داده که اثبات آن تقریباً غیرممکن است. «جیمز زو» و تیم پژوهشی‌اش در دانشگاه استنفورد، در مطالعه‌ای که اخیراً در ژورنال معتبر Patterns منتشر شده، پرده از حقیقتی نگران‌ کننده برداشته‌اند که نشان می‌دهد این وضعیت تنها یک خطای فنی ساده نیست، بلکه تله‌ای است که می‌تواند منجر به حاشیه‌نشینی گسترده نویسندگان غیربومی در محیط‌های ارزیابی و آموزشی سراسر جهان شود.

شکاف دیجیتال و معیار ناعادلانه‌ی «پیچیدگی»

یافته‌های این تیم پژوهشی نشان ‌دهنده یک سوگیری عمیق و سیستماتیک در ردیاب‌های مشهور هوش مصنوعی است که به طور مستقیم قلب تپنده‌ی عدالت آموزشی را نشانه رفته است. پژوهشگران عملکرد هفت ردیاب مشهور را روی مقالات دانش‌آموزان بومی آمریکایی و مقالات آزمون تافل که توسط نویسندگان غیربومی نوشته شده بود، مقایسه کردند و به نتایج حیرت‌آوری دست یافتند. در حالی که این ابزارها مقالات نوجوانان آمریکایی را با دقتی نزدیک به ۱۰۰ درصد به عنوان «نوشته انسانی» شناسایی کردند، نرخ خطای مثبت در مواجهه با نوشته‌های غیرانگلیسی‌زبانان به میانگین خیره‌کننده ۶۱.۳ درصد رسید. فاجعه زمانی عمیق‌تر می‌شود که بدانیم در حدود ۲۰ درصد از موارد، تمامی ردیاب‌ها به اتفاق آرا یک متن انسانی را خروجی هوش مصنوعی قلمداد کرده‌اند و در برخی موارد، نرخ شناسایی اشتباه برای یک مقاله کاملاً انسانی به بیش از ۹۷ درصد رسیده است. این شکاف آماری بزرگ، عملاً یک شکاف دیجیتالی جدید ایجاد کرده است که در آن مهارت زبانی و سطح تسلط بر ظرافت‌های نگارشی، به اشتباه به عنوان معیاری برای اصالت تفکر و صداقت علمی تلقی می‌شود.

ریشه این مشکل در یک پارامتر فنی و آماری به نام «پیچیدگی» یا Perplexity نهفته است که مبنای کار اکثر ردیاب‌های هوش مصنوعی قرار دارد. این ابزارها بر اساس میزان پیش‌بینی‌پذیری کلمات عمل می‌کنند؛ به این معنا که مدل‌های زبانی بزرگ مثل ChatGPT همواره محتمل‌ترین کلمه بعدی را بر اساس الگوهای آماری حدس می‌زنند و در نتیجه خروجی آن‌ها پیچیدگی پایینی دارد. از سوی دیگر، نویسندگان غیربومی به دلیل محدودیت در دایره لغات و تمایل به استفاده از ساختارهای گرامری ساده‌تر و کلمات رایج‌تر، متونی تولید می‌کنند که برای ماشین بسیار قابل پیش‌بینی جلوه می‌کند. در واقع، ردیاب‌های هوش مصنوعی این سادگی و وضوح در کلام نویسندگان غیربومی را به عنوان نشانه‌ای از ماشینی بودن تفسیر می‌کنند و به همین سادگی، تلاش‌های صادقانه‌ی یک انسان را با خروجی یک ربات اشتباه می‌گیرند. این موضوع باعث می‌شود نویسندگانی که با صداقت تمام از دانش لغوی خود استفاده کرده‌اند، تنها به جرم ساده‌نویسی، در صف متقلبان قرار بگیرند.

پارادوکس اثبات انسانیت در اتمسفر مجرمیت

یکی ابعاد تلخ این فناوری، مصونیت متقلبان حرفه‌ای در مقابل جریمه شدن نویسندگان صادق است. پژوهشگران استنفورد با انجام آزمایش‌های تکمیلی نشان دادند که با یک دستور ساده به هوش مصنوعی، می‌توان تمامی این سیستم‌های امنیتی را دور زد. برای مثال، در حالی که نرخ شناسایی اولیه برای مقالات تولید شده توسط هوش مصنوعی حدود ۷۰ درصد بود، تنها با اضافه کردن یک دستور ساده مبنی بر «پیچیده‌تر کردن متن» یا استفاده از زبان ادبی فاخر، این نرخ شناسایی به رقم ناچیز ۳.۳ درصد سقوط کرد. این یعنی ردیاب‌ها عملاً برعکس وظیفه اصلی خود عمل می‌کنند؛ آن‌ها یقه نویسندگان صادقی را می‌گیرند که زبان ساده‌ای دارند، اما در برابر کاربران حرفه‌ای که می‌دانند چگونه با استفاده از خودِ هوش مصنوعی متن را «انسانی‌تر» جلوه دهند، کاملاً ناتوان هستند. این وضعیت، نویسندگان غیربومی را در یک «فضای پیش‌فرض مجرمیت» گرفتار کرده است که پیامدهای روانی و اخلاقی سنگینی به همراه خواهد داشت.

در این چرخه معیوب، نویسندگان غیربومی برای فرار از برچسب تقلب، ناچار می‌شوند به همان ابزاری پناه ببرند که متهم به استفاده از آن شده‌اند. داده‌ها نشان می‌دهند که وقتی نویسندگان غیربومی از هوش مصنوعی می‌خواهند تا واژگان مقالات آن‌ها را بهبود ببخشد و متن را پیچیده‌تر کند، نرخ خطای مثبت ردیاب‌ها به طرز محسوسی از ۶۱ درصد به حدود ۱۱ درصد کاهش می‌یابد. این یک پارادوکس دردناک است؛ دانشجو یا پژوهشگر غیربومی باید از ماشین استفاده کند تا به ماشین‌های دیگر ثابت کند که یک انسان است. این اجبار نه تنها عادلانه نیست، بلکه اعتماد به نفس نویسندگان را هدف قرار داده و آن‌ها را مجبور می‌کند تا صدای طبیعی و اصیل خود را قربانی استانداردهای دیکته شده توسط الگوریتم‌های ناقص کنند.

فراتر از آموزش؛ تهدیدی برای تنوع صداها در اکوسیستم جهانی

سوگیری این الگوریتم‌ها فراتر از کلاس‌های درس، تهدیدی جدی برای تنوع صداها در کل اکوسیستم دیجیتال و علمی به شمار می‌رود. مطالعه استنفورد با بررسی مقالات کنفرانس‌های معتبری همچون ICLR 2023 نشان داد که حتی در سطوح بالای علمی، مقالاتی که نویسندگان آن‌ها غیرانگلیسی‌زبان بوده‌اند، به طور سیستماتیک دارای پیچیدگی کمتری بوده و در نتیجه بیشتر در معرض قضاوت نادرست ردیاب‌ها هستند. این موضوع می‌تواند به موانع ناعادلانه‌ای در مسیر انتشار مقالات علمی، دریافت بورسیه‌های تحصیلی و حتی دیده شدن در فضای وب منجر شود. به عنوان مثال، موتورهای جستجو مانند گوگل که محتوای تولید شده توسط هوش مصنوعی را جریمه می‌کنند، ممکن است ناخواسته محتوای ارزشمند جوامع غیرانگلیسی‌زبان را از نتایج خود حذف کنند و بدین ترتیب، بخش بزرگی از دانش و فرهنگ جهانی را به حاشیه برانند. این ابزارها پتانسیل تبدیل شدن به وسیله‌ای برای آزار و اذیت بی‌مورد جوامع خاص را دارند و می‌توانند مسیر پیشرفت را برای نخبگان کشورهای در حال توسعه دشوارتر کنند.

در نهایت، پژوهشگران تأکید می‌کنند که نباید از ردیاب‌های هوش مصنوعی به عنوان ابزار نهایی قضاوت یا نمره‌دهی، به‌ویژه در محیط‌های چندفرهنگی و بین‌المللی استفاده کرد. به جای یک رویکرد حذفی، این فناوری باید به عنوان یک ابزار کمکی بازتعریف شود؛ ابزاری که به دانشجویان کمک می‌کند عبارات کلیشه‌ای و الگوهای تکراری را در نوشته‌های خود شناسایی کرده و به سوی خلاقیت و پویایی بیشتر در زبان حرکت کنند.

ما باید از خود بپرسیم که در عصر حکمرانی داده‌ها، آیا اجازه می‌دهیم الگوریتم‌های ناقص درباره اصالت تفکر و هویت انسانی ما قضاوت کنند؟ عدالت در عصر هوش مصنوعی نباید قربانی سرعت و سادگی ابزارهایی شود که هنوز الفبای تفاوت‌های فرهنگی و زبانی انسان‌ها را نیاموخته‌اند. حفظ تنوع زبانی و حمایت از نویسندگان غیربومی، نه تنها یک ضرورت اخلاقی، بلکه لازمه‌ی بقای غنای فرهنگی در جهان دیجیتال است.