اعتراف Claude به سوگیری پنهان

مدل هوش مصنوعی Claude در پاسخ به انتقاد یک پژوهشگر درباره نحوه توصیف قوانین و مقررات، پذیرفت که در برخی پاسخ‌ها از واژه‌هایی استفاده کرده که بار ارزشی دارند و می‌توانند یک طرف مناقشه را بر طرف دیگر ترجیح دهند.

این گفت‌وگو پس از آن شکل گرفت که پژوهشگر به Claude درباره استفاده از عباراتی مانند «ارزش افزوده» برای توصیف مقررات دولتی اعتراض کرد. او معتقد بود چنین واژه‌هایی به‌طور ضمنی نشان می‌دهند که افزایش مقررات همیشه یک اقدام مثبت است، در حالی که هر سیاست‌گذاری می‌تواند هم برنده و هم بازنده داشته باشد.

Claude در پاسخ اعلام کرد که این الگو می‌تواند ناشی از داده‌هایی باشد که مدل از آن‌ها یاد گرفته است. این مدل توضیح داد حجم زیادی از متون حوزه‌هایی مانند سیاست سلامت، قوانین و گزارش‌های دولتی، عمدتاً با ادبیات نهادهای تنظیم‌گر و گروه‌های دریافت‌کننده مزایای قوانین نوشته شده‌اند و همین موضوع می‌تواند باعث شود مدل هنگام تولید متن، همان زاویه دید را بازتاب دهد.

این اعتراف، بار دیگر مسئله «سوگیری الگوریتمی» در مدل‌های هوش مصنوعی را برجسته کرده است؛ مشکلی که از مرحله آموزش مدل آغاز می‌شود و می‌تواند بر پاسخ‌هایی که کاربران، پژوهشگران، خبرنگاران و تصمیم‌گیران دریافت می‌کنند تأثیر بگذارد.

Claude در این مکالمه تأکید کرده است که مشکل لزوماً به معنای داشتن یک گرایش سیاسی یا ارزشی درونی نیست، بلکه ناشی از بازتاب الگوهای موجود در داده‌های آموزشی است. این مدل پیشنهاد کرده است که برای کاهش این مشکل، باید به جای استفاده از واژه‌های ارزشی، اثرات واقعی سیاست‌ها بررسی شود؛ یعنی مشخص شود چه کسی هزینه می‌دهد، چه کسی سود می‌برد و چه محدودیت‌هایی ایجاد می‌شود.

این بحث یادآور نگرانی‌های مطرح‌شده در آثار علمی و تخیلی درباره هوش مصنوعی است؛ از جمله آثار Isaac Asimov که در داستان‌های رباتیک خود بارها به این موضوع پرداخت که خطر اصلی یک ماشین هوشمند ممکن است نفرت یا دشمنی نباشد، بلکه پذیرش ناخودآگاه یک تعریف خاص از «خوب» و «بد» باشد.

با افزایش استفاده از مدل‌های زبانی بزرگ مانند ChatGPT،Claude و Perplexity AI در حوزه‌هایی مانند روزنامه‌نگاری، آموزش، پژوهش و تصمیم‌سازی، مسئله شفافیت داده‌های آموزشی و روش‌های کنترل سوگیری به یکی از محورهای اصلی رقابت و توسعه هوش مصنوعی تبدیل شده است.