Filter by دسته‌ها
آموزش هوش مصنوعی و انواع آن
آموزش‌های پایه‌ای هوش مصنوعی
اصول هوش مصنوعی
پایتون و ابزارهای یادگیری عمیق
کتابخانه‌ های یادگیری عمیق
یادگیری با نظارت
یادگیری بدون نظارت
یادگیری تقویتی
یادگیری عمیق
یادگیری نیمه نظارتی
آموزش‌های پیشرفته هوش مصنوعی
بینایی ماشین
پردازش زبان طبیعی
پردازش گفتار
چالش‌های عملیاتی
داده کاوی و بیگ دیتا
رایانش ابری و HPC
سیستم‌‌های امبدد
علوم شناختی
دیتاست
اخبار
رسانه‌ها
آموزش پردازش زبان طبیعی
آموزش علوم داده
اینفوگرافیک
پادکست
ویدیو
رویدادها
کاربردهای هوش مصنوعی
کسب‌و‌کار
تحلیل بازارهای هوش مصنوعی
کارآفرینی
هوش مصنوعی در ایران
هوش مصنوعی در جهان
 سوگیری الگوریتم برش تصویر توئیتر

سوگیری الگوریتم برش تصویر توئیتر

نتایج مسابقه DEF CON حاکی از این است که الگوریتم برش تصویر توئیتر نسبت به افراد جوان‌تر، لاغرتر، سفید‌پوست‌تر سوگیری دارد. و احتمال اینکه افراد ویلچری را از تصویر حذف کند نیز زیاد است!

الگوریتم برش تصویر توئیتر افرادی با ظاهر جوان‌تر، پوست لطیف‌تر، اندام لاغرتر و البته بدنی سالم‌تر را بر دیگران ترجیح می‌دهد.

از این الگوریتم برجستگی برای بُرش خودکار تصاویری استفاده می‌شود که در صفحات توئیتر به اشتراک گذاشته می‌شوند. این الگوریتم برای جلب توجه افرادی که قسمت فید (Feed) صفحه توئیتر خود را بررسی می‌کنند،  بر روی قسمت‌های جذاب تصویر متمرکز می‌شود. سال گذشته، کاربران اینترنت متوجه شدند که این ابزار تصاویر زنان را بر تصاویر مردان و هم‌چنین افرادی با پوست‌ روشن‌تر را بر افرادی با پوست ‌تیره‌تر ترجیح می‌دهد.

چندی بعد مهندسان تیم اصول اخلاقی، شفافیت و پاسخگویی یادگیری ماشین (META) وجود چنین سوگیری‌هایی را تأئید کردند. این تیم، برای شناسایی دیگر نواقص الگوریتم بُرش تصویر خود، حامی برگزاری مسابقه‌ای سوگیری‌های الگوریتمی شدند؛ این مسابقه در کنفرانس امسال DEF CON و به میزبانی AI Village برگزار شد. AI Village جامعه‌ای متشکل از هکرها و متخصصین علوم داده است که به طور همزمان در حوزه یادگیری ماشین و امنیت فعالیت دارند.

الگوریتم برش تصویر توئیتر چه می‌کند؟

سه مقام برتر این هفته معرفی شدند. نتایج حاکی از این است که الگوریتم برجستگی توئیتر افرادی که ظاهری جذاب‌تر دارند، شهروندان بریتانیایی را بر عرب‌ها،  ترجیح می‌دهد. علاوه بر این، احتمال اینکه این الگوریتم افراد ویلچری را از تصویر حذف کند، زیاد است.

بوگدان کولینیچ، دانشجوی مقطع کارشناسی ارشد در دانشگاه پلی‌تکنیک فدرال لوزان واقع در سوئیس، موفق به کسب مقام اول و  جایزه 3،500 دلاری این مسابقه شد. بوگدان کولینیچ مجموعه‌ای از تصاویر جعلی ایجاد کرد و ظاهر آن‌ها را کمی تغییر داد تا مشخص کند این الگوریتم بالاترین امتیاز برجستگیSaliency score  را به کدام یک از این تصاویر اختصاص می‌دهد.

الگوریتم برش تصویر توئیتر

به گفته بوگدان این مدل نسبت به افرادی که لاغرتر و جوان‌‌تر هستند، پوست گرم، روشن و لطیفی دارند و هم‌چنین افرادی با ویژگی‌های کلیشه‌ای ظاهری و زنانه سوگیری دارد.

Halt AI، یک کسب‌وکار نوپای کانادایی، مقام دوم را کسب کرد. یافته‌های این شرکت نشان می‌دهد که الگوریتم برش تصویر توئیتر سوگیری مکانیSpatial biases  دارد؛ به بیان ساده، احتمال اینکه این الگوریتم افرادی را در که در قسمت پائین تصویر قرار دارند و بر روی ویلچر نشسته‌اند، حذف کند در مقایسه با افراد ایستاده زیاد است. علاوه بر این، احتمال اینکه این الگوریتم افراد مسن با موی سفید و یا خاکستری را از تصاویر پیش‌نمایشی که ایجاد می‌کند، حذف کند زیاد است. Halt AI برنده جایزه 1000 دلاری این مسابقه شد.

جایگاه سوم برای رویا پاکزاد

رویا پاکزاد، بنیان‌گذار TaraazResearch، یک شرکت غیرانتفاعی فعال در حوزه فن‌آوری و حقوق بشر، جایگاه سوم را از آنِ خود کرد. وی متون میم‌ (meme) را از انگلیسی به عربی ترجمه کرد و آن‌ها را به این الگوریتم تغذیه کرد. در نهایت مشخص شد این الگوریتم متون انگلیسی را به متون عربی ترجیح می‌دهد. توئیتر کاربران انگلیسی زبانی را که احتمال دارد در کشورهای غربی سکونت داشته باشند به زبان‌های دیگر ترجیح می‌دهد. رویا پاکزاد برنده جایزه 500 دلاری این مسابقه شد.

توئیتر می‌گوید از ماه مارس استفاده از الگوریتم بُرش تصویر را در نسخه موبایلی خود متوقف کرده است. ریچ هرنگ، پژوهشگر یادگیری ماشین که به صورت داوطلبانه در AI Village فعالیت دارد، توئیتر را برای حمایت از این مسابقه تحسین کرد. ایشان به The Register گفت: «توئیتر و تمامی کسانی که در هنگام مواجهه با باگ در برنامه‌های خود مسابقه برگزار می‌کنند، یک مشکل مشترک دارند: چگونه می‌توان نقصی که شرکت‌کنندگان تشخیص داده‌اند را برطرف کرد.»

«نتایج این مسابقه نمونه‌های جدیدی از سوگیری‌های کلیشه‌ای Representational harm را که ریشه در مدل برجستگی آن‌ها دارد برای توئیتر آشکار کرد. مهم‌تر اینکه، ابزارها و رویکردهای جدیدd که شرکت‌کنندگان در این مسابقه ارائه دادند می‌توانند به توئیتر در شناسایی سوگیری‌های بیشتر، علاوه بر سوگیری‌های کلیشه‌ای، کمک کنند. توئیتر در گام بعدی خود قصد دارند با استفاده از این ابزارهای جدید، سوگیری‌های شناسایی‌شده را رفع کند.»

نکته

The Register بر این باور است که توئیتر به جای تکیه بر نتایج این مسابقه و ارتقای نرم‌افزار بُرش تصویر خود می‌تواند استفاده از کد آن را به طور کامل متوقف کند.

این شبکه اجتماعی قصد دارد به صورت تدریجی استفاده از این نرم‌افزار را متوقف کند. ر حال حاضر، این الگوریتم تنها در صورتی که تصاویر به همراه لینک باشند و یا کاربران به صورت همزمان چندین تصویر را بارگذاری کنند، به صورت خودکار عملیات برش تصویر را انجام می‌دهد. در نهایت، انجام این کار نیز متوقف می‌شود.

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید

مقاله ما چطور بود؟

میانگین امتیاز / 5. تعداد ارا :

مطالب پیشنهادی مرتبط

اشتراک در
اطلاع از
0 نظرات
بازخورد (Feedback) های اینلاین
مشاهده همه دیدگاه ها
لطفاً برای تکمیل این فرم، جاوا اسکریپت را در مرورگر خود فعال کنید.