سوگیری الگوریتم برش تصویر توئیتر

نتایج مسابقه DEF CON حاکی از این است که الگوریتم برش تصویر توئیتر نسبت به افراد جوان‌تر، لاغرتر، سفید‌پوست‌تر سوگیری دارد. و احتمال اینکه افراد ویلچری را از تصویر حذف کند نیز زیاد است!

الگوریتم برش تصویر توئیتر افرادی با ظاهر جوان‌تر، پوست لطیف‌تر، اندام لاغرتر و البته بدنی سالم‌تر را بر دیگران ترجیح می‌دهد.

از این الگوریتم برجستگی برای بُرش خودکار تصاویری استفاده می‌شود که در صفحات توئیتر به اشتراک گذاشته می‌شوند. این الگوریتم برای جلب توجه افرادی که قسمت فید (Feed) صفحه توئیتر خود را بررسی می‌کنند،  بر روی قسمت‌های جذاب تصویر متمرکز می‌شود. سال گذشته، کاربران اینترنت متوجه شدند که این ابزار تصاویر زنان را بر تصاویر مردان و هم‌چنین افرادی با پوست‌ روشن‌تر را بر افرادی با پوست ‌تیره‌تر ترجیح می‌دهد.

چندی بعد مهندسان تیم اصول اخلاقی، شفافیت و پاسخگویی یادگیری ماشین (META) وجود چنین سوگیری‌هایی را تأئید کردند. این تیم، برای شناسایی دیگر نواقص الگوریتم بُرش تصویر خود، حامی برگزاری مسابقه‌ای سوگیری‌های الگوریتمی شدند؛ این مسابقه در کنفرانس امسال DEF CON و به میزبانی AI Village برگزار شد. AI Village جامعه‌ای متشکل از هکرها و متخصصین علوم داده است که به طور همزمان در حوزه یادگیری ماشین و امنیت فعالیت دارند.

الگوریتم برش تصویر توئیتر چه می‌کند؟

سه مقام برتر این هفته معرفی شدند. نتایج حاکی از این است که الگوریتم برجستگی توئیتر افرادی که ظاهری جذاب‌تر دارند، شهروندان بریتانیایی را بر عرب‌ها،  ترجیح می‌دهد. علاوه بر این، احتمال اینکه این الگوریتم افراد ویلچری را از تصویر حذف کند، زیاد است.

بوگدان کولینیچ، دانشجوی مقطع کارشناسی ارشد در دانشگاه پلی‌تکنیک فدرال لوزان واقع در سوئیس، موفق به کسب مقام اول و  جایزه 3،500 دلاری این مسابقه شد. بوگدان کولینیچ مجموعه‌ای از تصاویر جعلی ایجاد کرد و ظاهر آن‌ها را کمی تغییر داد تا مشخص کند این الگوریتم بالاترین امتیاز برجستگیSaliency score  را به کدام یک از این تصاویر اختصاص می‌دهد.

به گفته بوگدان این مدل نسبت به افرادی که لاغرتر و جوان‌‌تر هستند، پوست گرم، روشن و لطیفی دارند و هم‌چنین افرادی با ویژگی‌های کلیشه‌ای ظاهری و زنانه سوگیری دارد.

Halt AI، یک کسب‌وکار نوپای کانادایی، مقام دوم را کسب کرد. یافته‌های این شرکت نشان می‌دهد که الگوریتم برش تصویر توئیتر سوگیری مکانیSpatial biases  دارد؛ به بیان ساده، احتمال اینکه این الگوریتم افرادی را در که در قسمت پائین تصویر قرار دارند و بر روی ویلچر نشسته‌اند، حذف کند در مقایسه با افراد ایستاده زیاد است. علاوه بر این، احتمال اینکه این الگوریتم افراد مسن با موی سفید و یا خاکستری را از تصاویر پیش‌نمایشی که ایجاد می‌کند، حذف کند زیاد است. Halt AI برنده جایزه 1000 دلاری این مسابقه شد.

جایگاه سوم برای رویا پاکزاد

رویا پاکزاد، بنیان‌گذار TaraazResearch، یک شرکت غیرانتفاعی فعال در حوزه فن‌آوری و حقوق بشر، جایگاه سوم را از آنِ خود کرد. وی متون میم‌ (meme) را از انگلیسی به عربی ترجمه کرد و آن‌ها را به این الگوریتم تغذیه کرد. در نهایت مشخص شد این الگوریتم متون انگلیسی را به متون عربی ترجیح می‌دهد. توئیتر کاربران انگلیسی زبانی را که احتمال دارد در کشورهای غربی سکونت داشته باشند به زبان‌های دیگر ترجیح می‌دهد. رویا پاکزاد برنده جایزه 500 دلاری این مسابقه شد.

توئیتر می‌گوید از ماه مارس استفاده از الگوریتم بُرش تصویر را در نسخه موبایلی خود متوقف کرده است. ریچ هرنگ، پژوهشگر یادگیری ماشین که به صورت داوطلبانه در AI Village فعالیت دارد، توئیتر را برای حمایت از این مسابقه تحسین کرد. ایشان به The Register گفت: «توئیتر و تمامی کسانی که در هنگام مواجهه با باگ در برنامه‌های خود مسابقه برگزار می‌کنند، یک مشکل مشترک دارند: چگونه می‌توان نقصی که شرکت‌کنندگان تشخیص داده‌اند را برطرف کرد.»

«نتایج این مسابقه نمونه‌های جدیدی از سوگیری‌های کلیشه‌ای Representational harm را که ریشه در مدل برجستگی آن‌ها دارد برای توئیتر آشکار کرد. مهم‌تر اینکه، ابزارها و رویکردهای جدیدd که شرکت‌کنندگان در این مسابقه ارائه دادند می‌توانند به توئیتر در شناسایی سوگیری‌های بیشتر، علاوه بر سوگیری‌های کلیشه‌ای، کمک کنند. توئیتر در گام بعدی خود قصد دارند با استفاده از این ابزارهای جدید، سوگیری‌های شناسایی‌شده را رفع کند.»

نکته

The Register بر این باور است که توئیتر به جای تکیه بر نتایج این مسابقه و ارتقای نرم‌افزار بُرش تصویر خود می‌تواند استفاده از کد آن را به طور کامل متوقف کند.

این شبکه اجتماعی قصد دارد به صورت تدریجی استفاده از این نرم‌افزار را متوقف کند. ر حال حاضر، این الگوریتم تنها در صورتی که تصاویر به همراه لینک باشند و یا کاربران به صورت همزمان چندین تصویر را بارگذاری کنند، به صورت خودکار عملیات برش تصویر را انجام می‌دهد. در نهایت، انجام این کار نیز متوقف می‌شود.

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید