3 فاکتور حیاتی هوش مصنوعی: تنوع، عدالت و شمول

برقراری عدالت نژادی خصوصا در صنعت تکنولوژی بیش از پیش ضروری شده است؛ مخصوصا در صنعت تکنولوژی. محدوده و قدرت عملکرد یادگیری ماشین و هوش مصنوعی به این شکل است که هرگونه جهت گیری جنسیتی و نژادی اثرات مخربی بر کسب و کارها در جهان واقعی خواهد داشت. در واقع تاثیری که این تکنولوژی‌ها می‌توانند روی جوامع بگذارند، قابل تخمین زدن نیست. به همین منظور در این مقاله 3 فاکتور حیاتی هوش مصنوعی را بررسی خواهیم کرد.

اگر تصمیم گیرندگان سازمانی در شرکت های تکنولوژیک، به موضوع تنوع در مشتریان توجهی نداشته باشند، توسعه واقعی و کاربردی در محصولات مبتنی بر هوش مصنوعی بوجود نخواهد آمد.

هما عبیدی، مدیر ارشد محصولات نرم‌افزاری هوش مصنوعی و مهندسی اینتل، و یکی از سخنرانان ایوالو، در رویداد 90 دقیقه‌ای که محوریت آن جانباری، نژادپرستی و عدم تنوع بود، این‌طور می‌گوید:«در سال 2020 اتفاقات زیادی افتاده است، از دورکاری تا جهانی شدن شعار «جان سیاه‌ها اهمیت دارد» و این موارد باعث شدند که حالا همه مردم بهتر درک کنند که چرا تنوع، عدالت و شمول از همیشه مهم‌تر است. به همین دلیل صحبت شرکت‌های بزرگ این روزها حول محور انعطاف‌پذیری در کار، عدالت اجتماعی، رعایت انصاف، امتیازات و همچنین اهمیت این موارد است.

عبیدی بیش از 20 سال است که در زمینه کاری‌اش فعال است و مدت‌هاست که روی گزینه تنوع جنسیتی کار کرده است. با این حال عدم وجود تعداد مناسبی از زنان در صنعت تکنولوژی، همواره معضل بزرگی بوده که شرکت‌ها اخیرا درصدد برطرف کردن آن برآمده‌اند.

در سال 2015، اینتل 300 میلیون دلار برای افزایش تنوع و شمول از استخدام تا آموزش، تخصیص داد. هدفی که این شرکت در سال 2020 تعیین کرده، افزایش زنان شاغل در امور مربوط به تکنولوژی به میزان 40% تا سال 2030 و دوبرابر کردن تعداد زنان در رهبری و پست مدیریت ارشد است.

اهمیت تنوع

عبیدی می‌گوید:«تنوع تنها موضوعی که باید به آن رسیدگی شود نیست، اما بهتر است که در کسب و کارها به آن توجهی ویژه شود. تحقیقات محققانی ازجمله مک‌کنزی، نشان می‌دهد که شرکت‌هایی با تنوع بیشتر نیروی کار، از نظر مالی عملکردی بهتر دارند».

او در ادامه گفت:«هوش مصنوعی در زندگی امروزه بشر فراگیر شده است و در بسیاری از تصمیم‌گیری‌های حیاتی، پیش‌بینی ریسک‌های مربوط به بهداشت و سلامت و حتی برقراری عدالت از آن استفاده می‌شود. اگر در داده‌ها و الگوریتم‌هایی که در آن‌ها استفاده می‎شود، جهت‌گیری داشته باشد، آن وقت است که نتیجه فاجعه‌باری در راه خواهد بود، مخصوصا برای کسانی که باید تصمیم نهایی را بگیرند».

هنوز هم نمونه های زیادی از عدم توجه به تنوع و شمول دیده می شود. برای مثال سیستم‌های تشخیص چهره‌ای که در شناسایی چهره افراد سیاه‌پوست سردرگم هستند یا با افت کارایی مواجه می‌شوند. یا مواردی که نشان از استخدام نشدن زنان در پست‌های مدیریتی دارد، آن هم به دلیل نوع آموزشی که به سیستم‌های هوش مصنوعی داده شده و داده‌های آن. یا اپلیکیشنی که برای اولویت‌بندی درمان بیماران در بیمارستان توسعه داده شده و به طرز عجیبی سفیدپوستان را نسبت به سیاه‌پوستان در اولویت قرار می‌دهد.

عبیدی می‌گوید:«با وجود انگیزه زیادی که برای ایجاد و استفاده از تکنولوژی برای عموم مردم وجود دارد، اگر گروه مسئول در زمینه تولید این تکنولوژی‌ها ملاحظاتی را در نظر نگیرند، آن وقت است که نتیجه کار هم فقط برای گروهی خاص مفید خواهد بود. شرکت‌ها باید بدانند که اگر در استفاده از هوش مصنوعی موارد ذکر شده را در نظر نگیرند، نتیجه کار فقط به ناامیدی یا شکست منجر نخواهد شد، بلکه می‌تواند عواقب دیگری داشته باشد که پای قانون را به ماجرا باز خواهد کرد».

بررسی حسن نیت سازنده‌ها

عبیدی معتقد است حسن نیت سازنده‌ها در زمینه تنوع و اصول نژادی در توسعه و تحقیق هوش مصنوعی می‌تواند مورد بررسی قانون قرار گیرد و باید به‌گونه‌ای باشد که در توسعه سیستم‌ها شفافیت، قابل محاسبه بودن و قابل توصیف بودن، دیده شود.

عبیدی در ادامه می‌گوید:«تنوع، عدالت و شمول، این‌ها مواردی هستند که باعث می‎‌شوند یک کسب و کار منطق بهتری داشته باشد و در نظر گرفتن آن، کار درستی است. اما اگر به آن به عنوان موضوع محوری در شرکت نگاه نکنید، مشکل بزرگی خواهید داشت».

وقتی موضوع صحبت استفاده از هوش مصنوعی باشد، شرکت‌ها همواره باید درباره جمعیت هدف فکر کنند و بررسی کنند که آیا سیستم‌هایشان برای رسیدن به جمعیت هدف مورد نظر مناسب است یا نه. افرادی که با داده‌‎ها سر و کار دارند اولین افرادی هستند که می‌دانند آیا سیستم هوش مصنوعی مورد استفاده برای رسیدن به تنوع در جمعیت هدف مناسب است یا نه.

عبیدی معتقد است شرکت‌ها باید مطمئن شوند که تیم مرتبط با امور داده آن‌ها از تنوع خوبی از نظر نژادی و آشنایی با قانون برخوردار است. در نهایت هم برای فراهم کردن محیط کاری که در آن پروسه‌ها شفافیت لازم را داشته باشند، نیاز به یک استراتژی مناسب با قابلیت اندازه‌گیری است.

3 فاکتور حیاتی هوش مصنوعی

عبیدی معتقد است تنوع، عدالت و شمول، 3 فاکتور حیاتی هوش مصنوعی هستند که باید به آن‌ها توجهی ویژه شود:«وقتی تنوع، عدالت و شمول، محوریت اصلی یک شرکت را تشکیل دهد و رعایت این موارد قابل اندازه‌گیری و شفاف باشد، راه‌حل‌های ارائه شده توسط شرکت هم برای تنوع نژادی در جامعه مناسب‌تر خواهند بود. به این دلیل که هوش مصنوعی قدرت تغییر دنیا را دارد و می‌تواند برای بشریت بهره‌وری زیادی داشته باشد. در نتیجه اگر به درستی از آن استفاده شود، شاهد انسانیت بیشتر در جامعه خواهیم بود. به همین دلیل باید به این سه اصل به عنوان اصول حیاتی برای هر شرکت نگاه کرد».