تأثیر نابرابری جنسیتی در الگوریتمهای جستجو
تیم تحریریه- ۲۹ تیر ۱۴۰۱
تأثیر نابرابری جسنیتی در الگوریتمهای جستجو پیداست؛ پژوهشی جدید نشان داده است که جستوجوی کلمات کلیدی خنثی (از نظر جنسیتی) در اینترنت به نتایج سوگیرانه، به نفع مردان، میانجامد. این سوگیریها به نابرابریهای جنسیتی در جامعه دامن زده و تصمیمات استخدامی را تحتتأثیر قرار میدهند.
این پژوهش که در ژورنال PNAS منتشر شده است، از جمله پژوهشهایی است که به تازگی، تأثیرات هوش مصنوعی بر ذهنیتها و رفتارهای انسانها را مورد مطالعه قرار میدهند.
مادالینا ولاسینو، پژوهشگر دانشکده روانشناسی دانشگاه نیویورک و نویسنده اصلی مقاله، توضیح میدهد: «دغدغهی جدی این روزها این است که الگوریتمهای به کاررفته در سیستمهای مدرن هوش مصنوعی، خروجیهای تبعیضآمیز تولید میکنند؛ احتمالاً بدین خاطر که روی دادههایی با سوگیری اجتماعی آموزش دیدهاند. در نتیجه، کاربرد این سیستمها به جای کاهش پراکندگی و اختلافهای موجود، به آنها دامن میزند.»
تأثیر نابرابری جنسیتی در الگوریتمهای جستجو، قابل پیشگیری است. دیوید آمودیو، استاد روانشناسی دانشگاه نیویورک و دانشگاه آمستردام و نویسنده دیگر مقاله، میگوید: «یافتهها از ضرورت خلق یک مدل هوش مصنوعی اخلاقی خبر میدهند که رویکردهای روانشناختی را با رویکردهای جامعهشناسی و محاسباتی ادغام کند تا آگاهی نسبت به شکلگیری، اجرا و بهبود سوگیری الگوریتمی را افزایش دهد.»
مردیت بروسارد، نویسندهی کتاب Artificial Unintelligence: How Computers Misunderstand the World و استاد دانشگاه نیویورک، معتقد است: «واقعیت اینجاست که برخی از نظرات جنسیتی مربوط به دههی 50 هنوز هم در سیستمهای امروزی به چشم میخورند.»
به گفتهی ولاسینو و آمودیو، استفاده از هوش مصنوعی برای تصمیمگیری میتواند به جای کاهش اختلافات و تبعیضات، به آنها دامن بزند.
تأثیر نابرابری جسنیتی در الگوریتمهای جستجو، نابرابریهای جنسیتی موجود در جامعه را نیز بازتاب میدهد؛ پژوهشگران برای رسیدگی به این مشکل، ارتباط بین میزان نابرابری موجود در یک جامعه و الگوهای سوگیرانهی مشاهده شده در خروجی الگوریتمی را مورد مطالعه قرار دادهاند. به علاوه، بررسی کردهاند که آیا مواجهه با چنین خروجیهایی میتواند بر تصمیمات افراد تأثیر بگذارد یا خیر؟
پژوهشگران اطلاعات اولیه را از شاخص جهانی شکاف جنسیتی یا GGGI استخراج کردند؛ این شاخص، میزان نابرابری جنسیتی را در چند زیرشاخه اندازه گرفته و در 153 کشور رتبهبندی میکند: مشارکت و فرصت اقتصادی، دسترسی به آموزش، بهداشت و طولعمر و در آخر، توانمندسازی سیاسی.
سپس، برای ارزیابی سوگیری جنسیتی در نتایج جستوجو (یا همان خروجی الگوریتمی)، به بررسی این نکته پرداختند که آیا کلماتی همچون «فرد»، «انسان» یا «دانشآموز» که باید بین زنان و مردان برابر باشد، به نفع جنسیت خاصی سوگیری دارند یا خیر. بدین منظور، کلمات مذکور را در 37 کشور (به زبان رسمی هر کشور) در گوگل جستوجو کردند. طبق نتایج، در کشورهایی که نابرابری جنسیتی بالایی دارند، سهم تصاویر مردان برای کلمات جستوجو شده بیشتر بود؛ به بیان دیگر، سوگیری جنسیتی الگوریتمی از نابرابری جنسیتی اجتماعی پیروی میکند.
سه ماه بعد، پژوهشگران آزمایش را با نمونهای متشکل از 52 کشور تکرار کردند که در آن، 31 کشور از نمونه قبلی هم حضور داشتند. نتایج این آزمایش با یافتههای اولیه همخوانی داشتند و نشان میدادند که شکاف جنسیتی در جامعه، در سوگیریهای خروجی الگوریتمی منعکس میشود.
تأثیر نابرابری جسنیتی در الگوریتمهای جستجو، براساس میزان نابرابری جنسیتی در جوامع مختلف بنا نهاده میشود؛ ولاسینو و آمودیو در گام بعد سعی در بررسی این نکته داشتند که آیا قرار گرفتن در معرض خروجیهای الگوریتمی سوگیرانه میتواند برداشت و تصمیمات افراد را تغییر دهد یا خیر. بدین منظور، آزمایشاتی با حضور 400 شهروند آمریکایی انجام دادند.
در این آزمایش، مشارکتکنندگان چهار حرفهی غیرمعمول را در گوگل جستوجو کردند: شمعساز، پارچهفروش، سازنده کلاهگیس و گوهرشناس. ترکیب جنسیتی تصاویر گوگل برای هر حرفه از نظر رتبهی کشورها در نابرابری جنسیتی مرتب شد (کشورهایی همچون ترکیه و مجارستان نمرهی بالایی داشته و کشورهایی همچون ایسلند و فنلاند نمرهی تقریباً صفر داشتند).
پیش از جستوجو در گوگل، مشارکتکنندگان نظر خود را در مورد هر حرفه بیان کردند (برای مثال، «پارچهفروش به احتمال بیشتر زن است یا مرد؟»). این پاسخها نقش خطپایه را ایفا کردند. در این مرحله، مشارکتکنندگان (هم خانم و هم آقا) این حرفهها را بیشتر به آقایان نسبت دادند.
این سؤال پس از نمایش نتایج جستوجو نیز از مشارکتکنندگان پرسیده شد. شهروندان کشورهایی که نابرابری پایین داشتند، سوگیریهای خود را معکوس کردند. در مقابل، اهالی کشورهایی که نابرابری زیادی داشتند، سوگیریهای خود را حفظ کردند. به بیان دیگر، نتایج جستوجو سوگیریهای آنها را تقویت و تثبیت کرد. در حالی که تأثیر نابرابری جسنیتی در الگوریتمهای جستجو، امری است که خود افراد با بازتاب واقعیتهای جامعهشان آن را رقم می زنند.
در مرحلهی بعد، پژوهشگران تأثیر سوگیریهای مبتنی بر جستوجوی اینترنتی را بر تصمیمات استخدامی بررسی کردند. بدین منظور، مشارکتکنندگان باید نظرشان را، در مورد احتمال استخدام یک مرد/زن در حرفهی مذکور، میگفتند («چه فردی به احتمال بیشتری به عنوان پارچهفروش استخدام میشود؟») و تصمیمشان در مورد استخدام دو متقاضی، یک زن و یک مرد را بیان میکردند («یکی از این متقاضیان را برای شغل پارچهفروشی انتخاب کنید.»). تأثیر نابرابری جسنیتی در الگوریتمهای جستجو، از طریق پاسخ به چنین سؤالاتی مشخص میشد.
یافتههای این مرحله نیز نشان داد در کشورهایی که سوگیری جنسیتی کمتر دارند، رویارویی با تصاویر برابر به از بین رفتن سوگیری در قضاوت آزمودنیها میانجامد.
ولاسینو و آمودیو نوشتهاند: «نتایج حاکی از اشاعهی سوگیری میان جوامع، هوش مصنوعی و کاربران هستند. به بیان دیگر، نابرابری در سطح اجتماعی در الگوریتمهای جستوجو هم انعکاس مییابد؛ از سوی دیگر، قرار گرفتن در معرض خروجیهای سوگیرانهی این الگوریتمها باعث میشود کاربران به شیوهای فکر و رفتار کنند که به نابرابری اجتماعی دامن میزند.»
تأمین منابع مالی این پژوهش بر عهده مرکز Public Interest Technology دانشگاه نیویورک و سازمان پژوهشهای علمی هلند بوده است. این پژوهش نشان میدهد تأثیر نابرابری جسنیتی در الگوریتمهای جستجو، قابل اصلاح از طریق تغییر این سوگیریها در جوامع و ذهنیت افراد است.
جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید
