با Qoves آشنا شوید: هوش مصنوعی به شما می‌گوید چقدر زیبا هستید

من برای اولین بار از طریق کانال یوتیوب Qoves Studio با این کسب‌وکار آشنا شدم؛ در این کانال که میلیون‌ها بازدیدکننده دارد ویدئوهایی با مضامینی از قبیل مدل مو چه تأثیری بر زیبایی دارد؟ راز جذابیت تیموتی شالامِی در چیست؟ و جراحی فک چه تأثیری بر مقبولیت اجتماعی دارد؟ بارگذاری می‌شود.

Qoves ربات تشخیص زیبایی

Qoves فعالیت خود را به عنوان یک استودیو آغاز کرد و در ابتدا عکس‌ها و تصاویر را برای آژانس‌های مدلینگ روتوش می‌کرد؛ این استودیو اکنون به یک «مرکز مشاوره زیبایی» تبدیل شده و سعی دارد به این سؤال قدیمی که «چه عواملی بر جذابیت چهره تأثیر دارند؟» پاسخ دهد. در صفحه ورودی وب‌سایت Qoves طرح‌واره‌های گچی از زنان فرانسوی را می‌بینید که کلاه‌های رنگارنگ به سر دارند و رژلب زده‌اند. این وب‌سایت در زمینه جراحی پلاستیک هم به بازدیدکنندگان مشاوره می‌دهد: از جمله این خدمات می‌توان به مشاوره در زمینه محصولات آرایشی، ترفندهایی برای ارتقای کیفیت تصویر با استفاده از کامپیوتر شخصی اشاره کرد. اما بارزترین ویژگی این وب‌سایت «ابزار سنجش زیبایی» است: این ابزار یک سیستم مجهز به هوش مصنوعی است و با نگاه کردن به عکس‌تان، به شما می‌گوید زیبا هستید یا نه و در همین راستا راهکارهایی به شما ارائه می‌دهد.

هفته قبل تصمیم گرفتم از وب‌سایت آن‌ها استفاده کنم. همان‌گونه که در دستورالعمل‌های وب‌سایت گفته شده بود، ایتدا آرایش صورتم را پاک کردم و دیواری با رنگ خنثی پیدا کردم که یک پنجره کوچک آن را روشن می‌کرد. از همسرم خواستم تعدادی عکس کلوزآپ از من بگیرد. در همین حین تمام تلاشم را کردم تا نخندم.

سپس بهترین عکسم را آپلود کردم و در کسری از ثانیه چیزی شبیه به یک کارنامه بر روی صفحه Qoves به نمایش گذاشته شد که 10 «نقص پیش‌بینی شده» در چهره‌ام را نشان می‌داد. در صدر این لیست چین‌وچروک‌های بینی‌ با بیشتری احتمال یعنی رقمی حدود 7/0 به چشم می‌خورد، به دنبال آن هم گود افتادگی زیر چشم (69/0 احتمال) و سیاهی دور چشم با احتمال 66/0 قرار داشت. به عبارت دیگر، طبق پیش‌بینی هوش مصنوعی این وب‌سایت، که البته درست هم بوده، زیر چشمان من کبود است و خط لبخند من مشخص است و سیستم هر دوی این موارد را نوعی نقص در چهره تشخیص داده بود.

خوشبخاته در کنار این گزارش، توصیه‌هایی هم برای رفع این نواقص ارائه شده بود. در وهله اول این وب‌سایت مقاله‌ای در مورد خط لبخند به من پیشنهاد داد و با خواندن آن متوجه شدم که ممکن است برای پُر کردن آن‌ها مجبور شوم « تزریق یا جراحی کنم». علاوه بر این، در صورت تمایل می‌توانستم با پرداخت 75 دلار، 150 دلار و یا 250 دلار (بسته به نوع کیفیت) گزارش کامل‌تری که توسط پزشکان نوشته شده دریافت کنم. 5 سرم پوستی مختلف با ترکیبات گوناگون، از جمله رتینول، نوروپپتید، هیالورونیک اسید، EGF و TNS هم به من پیشنهاد شد. آن شب قبل از اینکه به رختخواب بروم به ترکیبات آبرسان پوستم نگاهی انداختم تا ببینم چه موادی را شامل می‌شود.

این ابزار کنجکاوی مرا برانگیخته بود. این ابزار فهرستی از مشکلات ریز و درشت در چهره‌ام پیدا کرده بود و در واقع این ابزار آموزش دیده بود تا ایرادات صورت‌ را پیدا کند.

Qoves یک کسب‌وکار نوپای کوچک با 20 کارمند است و یکی از هزاران شرکتی است که در زمینه تحلیل چهره فعالیت می‌کند. صنعت ابزارهای تجزیه و تحیلی چهره (مجهز به AI) رو به رشد است و تمامی آن‌ها مدعی هستند که می‌توانند تصویر را تجزیه و تحلیل کنند و ویژگی‌هایی از جمله، احساسات، سن و میزان جذابیت را از روی عکس استنباط کنند. شرکت‌های فعال در این عرصه سرمایه‌گذاری‌های خطرپذیر را به سوی خود جذب می‌کنند و چنین الگوریتم‌هایی در تمامی حوزه‌ها از فروش محصولات و لوازم آرایشی گرفته تا اپلیکیشن‌های دوست‌یابی کاربرد دارند. ابزارهای سنجش زیبایی را می‌توان به صورت آنلاین خریداری کرد؛ این ابزارها با بهره‌گیری از فناوری تحلیل چهره و بینایی ماشین مواردی از قبیل تقارن صورت، اندازه چشمان، شکل بینی را ارزیابی می‌کنند و میلیون‌ها تصویر را ذخیره و رتبه‌بندی می‌کنند و سپس تصویر جذاب‌ترین افراد را خروجی می‌دهند.

این الگوریتم‌ها نوعی machine gaze را بر روی تصاویر و ویدئوها آموزش می‌دهند و مجموعه‌ای از مقادیر عددی را خروجی می‌دهند. بالاترین امتیاز را می‌توان لایک بیشتر، بازدید بیشتر در پلتفرم‌های اجتماعی تعبیر کرد. بیشتر الگوریتم‌های سنجش زیبایی مملو از عدم دقت، تبعیض سنی و نژادپرستی هستند و این واقعیت که بسیاری از این سیستم‌ها در مالکیت افراد و گروه‌های خاصی است بدین معنا است که هیچ راهی برای آشنایی با نحوه عملکرد این سیستم‌ها، میزان استفاده از آن‌ها و تأثیرات‌شان بر روی کاربران وجود ندارد.

نرم افزار تشخیص زیبایی چهره

ابزارهایی همچون ابزاری که Qoves طراحی کرده در سراسر اینترنت یافت می‌شوند. یکی از این ابزارها متعلق به بزرگ‌ترین پلتفرم تشخیص چهره در جهان یعنی Face++ است. سیستم سنجش زیبایی این پلتفرم توسط شرکت تصویربرداری Megvii، واقع در چین، توسعه داده شده است. این سیستم نیز همانند Qoves برای تحلیل و ارزیابی چهره از هوش مصنوعی استفاده می‌کند. اما این سیستم به جای اینکه یافته‌های خود را در قالب اصطلاحات پزشکی به کاربر ارائه دهد، مقداری خروجی می‌دهد که درجه جذابیت را نشان می‌دهد. در واقع، این سیستم دو خروجی دارد: امتیازی که نظر آقایان در مورد یک عکس (صاحب تصویر) را پیش‌بینی می‌کند و امتیازی که نظر بانوان راجع به همان تصویر را نشان می‌دهد. من از نسخه آزمایشی این سرویس که رایگان بود استفاده کردم و همان عکس قبلی‌ام را در آن بارگذاری کردم و بلافاصله نتایج آن را دریافت کردم: « به طور کلی مردان معتقدند این فرد از 62/69% افراد زیباتر است» و «به طور کلی بانوان معتقدند این فرد از 877/73% افراد زیباتر است.»

نتایج وب‌سایت Qoves برای من ناخوشایند بودند اما حداقل از چیزی که انتظار داشتم بهتر بودند. اکنون که یک سال از شیوع ویروس کرونا می‌گذرد، می‌توانم تأثیر استرس، وزن، بسته‌ بودن سالن‌های زیبایی را بر روی چهره‌ام ببینم. این ابزار را با دو عکسی که قبل از همه‌گیری  این ویروس گرفته بودم و هر دوی آن‌ها را دوست داشتم هم امتحان کردم و امتیازاتم افزایش پیدا کرد و نزدیک به 25اَمین صدک برتر قرار گرفتم.

زیبایی امری نسبی و شخصی است: از نظر ما کسانی که دوست داریم چه سالم باشند، چه در غم و شادی، زیبا هستند. در مواقع دیگر، تصمیم‌گیری در مورد زیبایی افراد یک نظر جمعی است:  سیستم‌های رتبه‌بندی همچون فستیوال‌های زیبایی یا مجلاتی که فهرستی از زیباترین افراد را منتشر می‌کنند نشان می‌دهند که جذابیت و زیبایی تا چه اندازه برای ما اهمیت دارد. اما اینگونه ارزیابی‌ها می‌توانند ناخوشایند و ناراحت‌‌کننده هم باشند: در دوران نوجوانی‌ام و زمانی که یک دختر دبیرستانی بودم، برخی از هم‌مدرسه‌ای هایم، دیگران را بر اساس زیبایی‌شان با اعدادی بین 0 تا 1 صدا می‌‍زند. سنجش زیبای افراد از طریق امتیازدهی ماشینی به همان اندازه صدا زدن افراد با اعداد آزاددهنده است، اما آمار و ارقامی که این سیستم‌ها خروجی می‌دهند غیرانسانی است.

در توضیحات بالا آمده که مردها معمولا فکر می‌کنند این شخص از 69.62% افراد زیباتر است. همچنین زن‌ها معتقدند این شخص از 73.877% افراد زیباتر است.

درون این سیستم‌ها چه می‌گذرد؟

سنجش میزان جذابیت و زیبایی افراد مفهوم جدیدی نیست، اما نحوه عملکرد این سیستم‌ها پیشرفت نسبتاً جدیدی به حساب می‌آید: Face++ در سال 2017 سیستم سنجش زیبایی خود را عرضه کرد.

زمانی که از یکی از سخنگویان شرکت Megvii راجع به نحوه عملکرد این الگوریتم‌ها پرسیدند، پاسخ داد:« این الگوریتم‌ها حدود سه سال پیش و در نتیجه تقاضای بازار توسعه داده شدند و در اپلیکیشن‌های سرگرم‌کننده به کار گرفته شدند». در وب‌سایت این شرکت گفته شده سیستم آن‌ها بر روی چهره‌ چینی‌ها و افراد جنوب شرق آسیا آموزش دیده است  و بالافاصله پس از رونمایی مورد توجه 000/300 برنامه‌نویس قرار گرفته، اما اطلاعات بیشتری راجع به این سیستم ارائه نشده است.

سخنگوی Megvii می‌گوید Face++ یک پلتفرم متن‌باز است و به همین دلیل نمی‌توانند بر استفاده برنامه‌نویسان از این سیستم نظارت و کنترل داشته باشند، اما در وب‌سایت آن‌ها از «فروش محصولات آرایشی» و «دوست‌یابی» به عنوان دو کاربرد اصلی آن‌ یاد شده است.

از جمله مهم‌ترین مشتریان این سیستم‌ها می‌توان به Alibaba ،Lenovo و  سیستم نظارت ویدئویی دولت چین اشاره کرد که در جای جای کشور دوربین‌های مداربسته نصب کرده است. Megvii به تازگی در صف عرضه اولیه قرار گرفته و ارزش کنونی‌اش 4 میلیارد دلار برآورد شده است. طبق گزارشی که در نیویورک تایمز به چاپ رسیده Megvii یکی از سه شرکتی است که به دولت چین در شناسایی شهروندانی که به اقلیت قومی اویغور تعلق دارند، کمک کرده است.

نحوه عملکرد شبکه‌های عصبی کانولوشن

• شبکه های عصبی کانولوشن برای تجزیه و تحلیل و طبقه‌بندی اشیا به تصاویر و ویدئوها نگاه می‌کنند. در این حالت ممکن است یکی از لایه‌های شبکه حاشیه‌ دست ، لایه‌ دیگر انگشتان و به همین ترتیب لایه‌های دیگر دست‌ها، بازوان و افراد را شناسایی کند.
• لایه‌های دیگر به مفاهیم انتزاعی می‌پردازند: برای مثال اگر این تصویر یک درخت است، شبکه چه اطلاعاتی در مورد درخت‌ها یاد گرفته است؟ اگر یک خیابان است، معمولاً چه چیزهایی در خیابان‌ها یافت می‌شود که شبکه باید آن‌ها را ببیند و شناسایی کند؟ به عنوان مثال، یک شبکه عصبی کانولوشن ممکن است تصویر فردی که خط فک دارد را به عنوان فردی جذاب تشخیص دهد، چرا که در فرایند آموزش یاد گرفته خط فک یکی از اصلی‌ترین معیارهای زیبایی در میان انسان‌ها است.

در این ضمن، Qoves  آماده ارائه توضیحات بیشتر در مورد نحوه عملکرد سیستم تحلیل چهره خود بود. Qoves که در استرالیا واقع شده، فعالیت خود را از سال 2019 و به عنوان یک استودیو روتوش عکس آغاز کرد، اما در سال 2020 تغییر رویه داد و در زمینه تحلیل چهره به کمک هوش مصنوعی و جراحی پلاستیک به فعالیت خود ادامه داد. سیستم هوش مصنوعی Qoves از یکی از رایج‌ترین تکنیک‌های یادگیری عمیق یعنی شبکه‌ عصبی کانولوشن (CNN) استفاده می‌کند. به طور معمول، CNNها برای سنجش میزان زیبایی افراد بر روی دیتاستی متشکل از صدها و هزاران تصویر از افرادی که به صورت دستی و توسط انسان‌‌ها به عنوان فردی جذاب شناخته شده‌اند آموزش می‌بینند. سیستم با نگاه کردن به تصاویر و امتیازات معیارهای زیبایی انسان‌ها را استنباط می‌کند و زمانی که تصویر جدیدی به او نشان دادند می‌تواند میزان جذابیت فرد را پیش‌بینی کند.

طی سال‌های اخیر چندین شرکت بزرگ دیگر هم در زمینه ابزارها و سیستم‌های زیبایی مجهز به AI سرمایه‌گذاری کرده‌اند. از جمله این شرکت‌ها که شبیه به Qoves هستند می‌توان به Ulta Beauty ،با ارزشی معادل 18 میلیارد دلار، اشاره کرد. Ulta Beauty یک شرکت آمریکایی فعال در زمینه خرده‌فروشی لوازم آرایشی است و یک ابزار تجزیه و تحلیل پوست توسعه داده است. Nvidia و مایکروسافت هم در سال 2016 اسپانسر یک «جشنواره روبات زیبایی» بودند، در این جشنواره از شرکت‌کنندگان خواسته شد بهترین سیستم هوش مصنوعی برای ارزیابی میزان جذابیت را توسعه دهند.

طبق گفته‌های ایوان نیسلسون، یکی از سهام‌داران شرکت LDV Capital، فناوری بینایی هنوز در مراحل آغازین به سر می‌برد و «فرصت‌های قابل توجهی برای سرمایه‌گذاری» فراهم آورده است. طبق برآورد LDV سال آینده ، به غیر از دوربین‌هایی که در بخش تولیدی و لجستیک استفاده می‌شوند، حدود 45 میلیارد دوربین در سراسر جهان نصب خواهد شد. علاوه بر این به عقیده LDV در آینده‌ای نه چندان دور  داده‌های بصری (تصاویر، ویدئوها و …) اصلی‌ترین داده‌های ورودی به سیستم‌های AI را تشکیل خواهند داد. نیسلسون می‌گوید تحلیل چهره «بازار گسترده‌ای» است که با گذشت زمان «پشته فن‌آوری را بازآفرینی می‌کند و دقتی مشابه، نزدیک به و یا حتی بهتر از چشم انسان خواهد داشت.»

شفیع حسن، بنیان‌گذار شرکت Qoves می‌گوید این احتمال وجود دارد که میزان استفاده از سیستم‌های سنجش زیبایی بیش از این افزایش یابد. به عقیده وی اپلیکیشن‌ها و پلتفرم‌های شبکه‌های اجتماعی اغلب از سیستم‌هایی استفاده می‌کنند که چهره افراد را اسکن می‌کنند، بر اساس میزان جذابیت چهره‌شان به آن‌ها نمره می‌دهند و به افرادی که امتیاز بیشتری کسب کرده‌اند، توجه بیشتری نشان می‌دهند. او می‌گوید: «کاری که ما انجام می‌دهیم شبیه کاری است که اسنپ‌چت، اینستاگرام یا تیک‌تاک انجام می‌دهد، اما کار ما شفافیت بیشتری دارد».

بنیان‌گذار شرکت Qoves در ادامه می‌گوید: « شبکه عصبی و سیستمی که آن‌ها به کار گرفته‌اند تفاوتی با شبکه عصبی و سیستم ما ندارد، اما به عنوان مثال آن‌ها به شما نمی‌گویند بینی‌تان چین و چروک دارد، یا مرز سرخاک لب شما نازک است یا مواردی از این قبیل. به همین دلیل آن‌ها شما را به عنوان فردی که کمتر جذاب است، تشخیص می‌دهند.»

من با چندین شرکت از جمله شرکت‌های دوست‌یابی و پلتفرم‌های شبکه‌های اجتماعی تماس گرفتم و از آن‌ها پرسیدم آیا الگوریتم‌های پیشنهادی آن‌ها قابلیت سنجش و ارزیابی زیبایی را دارند یا خیر. اینستاگرام و فیسبوک استفاده از چنین الگوریتم‌هایی را رد کردند. تیک‌تاک از صحبت کردن در مورد چنین مواردی خودداری کردند.

جعبه ‌سیاه‌های بزرگ

پیشرفت‌هایی که به تازگی در حوزه یادگیری عمیق حاصل شده دقت سیستم‌های سنجش زیبایی مجهز به هوش مصنوعی را تا حد زیادی افزایش تغییر داده است.  پیش از روی کار آمدن یادگیری عمیق، تحلیل چهره بر مهندسی ویژگی تکیه داشت؛ در مهندسی ویژگی هوش مصنوعی برای تحلیل چهره به درک و شناخت عمیق از ویژگی‌های چهره وابسته است. به عنوان مثال، فرمول جذابیت یک چهره ممکن است چشمان درشت و خط فک باشد. سرج بلونژی، یکی از اساتید بینایی کامپیوتر در دانشگاه کرنل می‌گوید «فرض کنید به چهره یک فرد نگاه می‌کنید و تصویری به سبک نقاشی لئوناردو داوینچی، برای مثال با همان میزان فاصله میان چشم‌ها و مواردی از این قبیل می‌بینید». به گفته وی، با پیدایش یادگیری عمیق، «توجه همه به سوی کلان داده و جعبه‌ سیاه‌های بزرگ محاسبات شبکه‌های عصبی جلب شد که حجم بالایی از داده‌های برچسب‌دار را پردازش می‌کردند.» وی در ادامه می‌گوید: «و در پایان مشخص شد  عملکرد آن نسبت به سایر ابزار‌ها و وسایل که دهه‌ها از آن‌ها استفاده می‌کردیم، بهتر است.»

نکته اصلی هم همین است. بلونژی می‌گوید نحوه عملکرد آن‌ها هنوز برای‌‌شان مشخص نیست، « افراد فعال در این صنعت از این فناوری رضایت دارند اما نحوه عملکرد آن‌ها بر دانشگاهیان پوشیده اسا». زیبایی امری نسبی است، نهایت کاری که یک سیستم سنجش زیبایی مجهز به AI می‌تواند انجام دهد این است که همان معیارهای زیبایی که در طول فرایند آموزش بر روی آن‌ها آموزش دیده را به درستی تشخیص دهد. با این حال امروزه برخی از سیستم‌های هوش مصنوعی در مجموعه آموزشی، با نرخ دقتی برابر با انسان‌ها به جذابیت افراد نمره می‌دهند که می‌تواند به این معنا باشد که به اندازه انسان‌ها هم سوگیری دارند. مهم‌تر اینکه از آنجایی‌که سیستم‌ها نفوذناپذیر هستند و اتخاذ راهکارهایی برای به حداقل رساندن سوگیری الگوریتم دشوار و به لحاظ محاسباتی هزینه‌بر است.

به گفته بلونژی اپلیکیشن‌های دیگری هم وجود دارند که مجهز به این فناوری هستند و عملکرد بهتری دارند؛ این اپلیکیشن‌ها کارشان سنجش زیبایی و جذابیت افراد نیست و آسیب‌های استفاده از آن‌ها کمتر است-برای نمونه می‌توان از ابزاری نام برد که می‌تواند زیباترین عکس از غروب آفتاب در تلفن همراه‌تان را به شما پیشنهاد می‌دهد. سنجش زیبایی امری کاملاً متفاوت است. به گفته وی سنجش زیبایی:« عملی ترسناک است.»

داده‌های آموزشی و کاربردهای تجاری عاری از سوگیری و بی‌خطر هستند، اما بینایی ماشین به لحاظ فنی در زمینه تشخیص رنگ پوست انسان‌ها محدودیت‌هایی دارد. به کمک تراشه‌های عکس‌برداری به کار رفته در دوربین‌ها می‌توان طیف مشخصی از انواع رنگ پوست را پردازش کرد. از دیرباز «به برخی از رنگ پوست‌ها کمتر توجه می‌شد »، «به عبارت دیگر، در عکس‌ها هم برخی از این رنگ پوست‌ها ظاهر نمی‌شدند.  حتی پیشرفته‌‎ترین ابزارهای سنجش زیبایی هم شاید نتوانند در امر سنجش زیبایی افراد موفق عمل کنند، زیرا درجه روشنی پوست به درستی نشان داده نمی‌شوند.»

سوگیری‌ها در قالب نژادپرستی و در اپلیکیشن‌های تجاری نمود پیدا می‌کنند. در سال 2018، لورن روی، اقتصاددان و دانشیار سیستم‌های اطلاعاتی در دانشگاه مریلند، کالج پارک، در هنگام خرید ابزارهای تشخیص چهره بود که به چندین محصول غیرعادی برخورد.

او می‌گوید: « متوجه شدم الگوریتم‌هایی برای سنجش و نمره‌دهی زیبایی وجود دارد و با خودم گفتم چنین چیزی غیرممکن است. منظور این است که زیبایی در نظر هر شخصی می‌تواند متفاوت باشد. چگونه می‌توان الگوریتمی را آموزش داد تا مشخص کند فردی زیبا است یا نه؟» پس از گذشت مدت زمان اندکی، این الگوریتم‌ها به موضوع اصلی مطالعات وی بدل شدند.

لورن روی با مطالعه عملکرد و شیوه سنجش زیبایی سیستم Face++ متوجه شد که این سیستم به صورت پیوسته زنانی که رنگ پوست تیره‌تری داشتند را در دسته افرادی با جذابیت کمتر طبقه‌بندی می‌کند و صورت‌‌هایی که مشابه چهره‌های اروپاییان بودند، برای مثال موی روشن‌تر و بینی کوچک‌تر داشتند، بدون توجه به رنگ پوست‌شان امتیاز بیشتری دریافت می‌کردند. این سوگیری نسبت به ویژگی چهره‌های اروپایی در AI نشان می‌دهد افرادی  که تصاویر را رتبه‌بندی کرده و برای آموزش و کدگذاری سیستم از آن‌ها استفاده کرده‌اند، سوگیری داشته‌اند. برای مثال، بر اساس استانداردهای زیبایی چین، پوست روشن‌تر، چشمان درشت‌تر و بینی‌ کوچک از اهمیت بیشتری برخوردار است.

به عقیده وی امتیازاتی که میزان زیبایی افراد را تعیین می‌کنند بخشی از فرهنگ ناسالم زیبایی و الگوریتم‌های توصیه‌گری است که روزانه در اینترنت به آن‌ها برمی‌خوریم. برای مثال زمانی که بر مبنای این امتیازات مشخص کنیم چه پُست‌هایی بر روی پلتفرم‌های شبکه‌های اجتماعی قرار بگیرند، معیارهای زیبایی و جذابیت تقویت می‌شوند و ماشین افرادی را که با معیارهاشان هماهنگ نیستند نادیده می‌گیرد. روی می‌گوید ما به نوعی «عکس‌های که می‌توانند در دسترس همگان قرار بگیرند را محدود می‌کنیم».

اما ایراداتی به این چرخه وارد است: اینکه افراد بیشتر به محتواهایی نگاه می‌کنند که افراد جذاب در آن‌ها به چشم می‌خورد موجب می‌شود این تصاویر توجه افراد بیشتری را به خود جلب ‌کنند و در نتیجه به افراد بیشتری نشان داده ‌شوند. در نهایت، حتی اگر امتیاز بالای عکس عامل مستقیم نشان دادن این محتوا به شما نباشد، بی شک عامل غیرمستقیم آن است.

لورن روی در پژوهشی که در سال 2019 منتشر کرد، نحوه عملکرد دو الگوریتم را، یکی در زمینه پیش‌بینی سن و یکی در زمینه امتیازدهی به میزان زیبایی افراد، بررسی کرد. برای انجام این پژوهش، تصاویری از افراد به مشارکت‌کنندگان نشان داد و از آن‌ها خواست میزان زیبایی افراد درون تصاویر را ارزیابی کنند و سن آن‌ها را حدس بزنند. به گروهی از مشارکت‌کنندگان، پیش از اینکه جواب‌های‌شان را اعلام کنند امتیازاتی که AI برآورد کرده بود  نشان داد و به گروه دیگر این امتیازات را نشان ندادند. روی متوجه شد مشارکت‌کنندگانی که در جریان امتیازات و رتبه‌بندی AI قرار نگرفته بودند، سوگیری کمتری داشتند و در مقابل افرادی که در جریان نحوه رتبه‌بندی افراد بر اساس میزان جذابیت به وسیله AI قرار گرفتند، امتیازاتی نزدیک به امتیاز الگوریتم به افراد دادند. روی این پدیده را ‘anchoring effect’ می‌نامد.

وی می‌گوید: «الگوریتم‌های توصیه‌گر در حال تغییر معیارها و استانداردهای ما هستند.» و «البته چالش از منظر فناوری این است که زیاد آن‌ها را محدود نکنیم. زمانی که صحبت از زیبایی به میان می‌آید، این الگوریتم‌ها بیشتر محدود می‌شوند.»

«دلیلی نمی‌بینم نواقص چهره‌ افراد را به آن‌ها گوشزد نکنیم، زیرا روش‌هایی برای رفع آن‌ها وجود دارد.» شفیع حسن، Qoves Studio

حسن مدعی است که تمام تلاشش را کرده تا مشکل سوگیری نژادی را حل کند. استودیو او در زمان تدوین یک گزارش کامل از تحلیل چهره- از آن دست گزارشاتی که مشتریان حاضرند در قبال پرداخت هزینه دریافت کنند- تلاش می‌کند با استفاده از داده ها چهره را بر اساس قومیت دسته‌بندی کند، در این حالت تمامی افراد بر مبنای معیارهای و استانداردهای زیبایی در اروپا سنجیده نمی‌شوند. به گفته حسن: «شما می‌توانید سوگیری‌های ناشی از معیارها و استانداردهای زیبایی در اروپا را فقط با نمایش گذاشتن زیباترین چهره از خودتان، بهترین چهره از قوم‌تان، بهترین چهره از نژادتان دور بزنید.»

اما روی می‌گوید نگران است که این دسته‌بندی‌های نژادی به زیرساخت‌های فنی هم نفوذ کنند. «مشکل این است که مردم این کار را انجام می‌دهند و نظر ما اصلا مهم نیست، هیچ‌گونه نظارت و کنترلی بر آن‌ها نیست.»

او می‌گوید: «ساده بگویم من هیچ وقت یک سیستم AI سنجش زیبایی که نسبت به فرهنگ حساس باشد را ندیده‌ام.»

لزومی ندارد سیستم‌های توصیه‌گر را با هدف ارزیابی میزان جذابیت طراحی کنیم. هفته گذشته، BR، یک شبکه آلمانی، گزارش دارد که از هوش مصنوعی برای شناسایی کارکنانی استفاده شده که بر اساس ظاهر افراد، سوگیری دارند. در ماه مارس سال 2020، ByteDance، شرکت والد تیک‌تاک، به خاطر نامه‌ای به تعدلیل‌کنندگان محتوا که از آن‌ها خواسته بود ویدئوهایی با چهره‌های زشت، افراد  چاق، افرادی با نقص صورت، افرادی که فک جلوی‌شان دندان ندارد، افرادی مسنی که چین و چروک زیادی دارند و غیره را حذف کنند، مورد انتقاد گرفت. توئیتر نیز اخیراً یک ابزار بُرش خودکار برای تصاویری ارائه داده که افراد سفیدپوست را در اولویت قرار می‌دهند. زمانی که این ابزار را بر روی تصاویر باراک اوباما و میچ مک کانل استفاده کردند، این ابزار برش خودکار عکس باراک را از تصویر حذف می‌کرد.

کدام یک منصفانه‌تر عمل می‌کند؟

وقتی برای اولین بار از طریق تماس تصویری با بنیان‌گذاری Qoves یعنی شفیع حسن صحبت کردم، به من گفت: « من همیشه تصور می‌کردم افراد جذاب نژاد به خصوصی دارند.»

بنیان‌گذاری Qoves گفت، زمانی که کار خود را در سال 2019 آغاز کرد، دوستان و خانواده‌اش به آینده این کسب‌وکار خوش‌بین نبودند. اما به اعتقاد حسن کسب‌و‌کار او به افراد کمک می‌کند تا بهترینِ خود را ارائه دهند. او از فیلم گاتاکا (1997) الهام گرفت که در «آینده‌ای نه چندان دور» اتفاق می‌افتد، جایی که مهندسی ژنتیک تنها راه لقاح است. تبعیض ژنتیکی جامعه را تجزیه می‌کند، شخصیت اِتن هاوک، که تصور می‌شد فردی طبیعی و نرمال است، مجبور می‌شود هویت فردی که ژنتیک‌اش پذیرفته‌شده و مقبول بود را بدزدد تا بتواند به سیستم نزدیک شود.

اغلب این فیلم را یک فیلم پادآرمان‌شهر قلمداد می‌کنند اما به عقیده حسن این فیلم تأثیری عمیق بر جای گذاشته است.

انواع کاربردهای هوش مصنوعی در صنایع مختلف را در هوشیو بخوانید