کاهش سوگیری
آموزش‌های پیشرفته هوش مصنوعیداده کاوی و بیگ دیتاکارآفرینیکسب‌و‌کار

نقش واحد منابع انسانی در درک و کاهش سوگیری هوش مصنوعی

    0
    مدت زمان مطالعه: ۵ دقیقه

    پیش از پرداختن به اهمیت کاهش سوگیری هوش مصنوعی در واحدهای منابع انسانی شرکت‌ها، باید به این موضوع اشاره کرد که بهره‌مندی از مزایای هوش مصنوعی و یادگیری ماشین در سراسر دنیا نهادینه شده است. این فناوری‌ها به کسب و کارها کمک می‌کنند تا فرآیندها را خودکار کرده، از طریق تجزیه و تحلیل داده‌ها، بینش و اطلاعات لازم را به دست آورده، و مشتریان و کارکنان خود را حفظ کنند. این فناوری امکان پاسخگویی به شرایط متغیر بازار، کاهش هزینه‌های عملیاتی، و حفظ مزیت رقابتی در دنیای دیجیتالی پویای امروزی را نیز فراهم می‌آورد.

    نقش منابع انسانی در درک و کاهش سوگیری هوش مصنوعی

    امروزه، بسیاری از فراهم‌آورندگان عمده‌ی سامانه‌های ابری، با ارائه‌ی قابلیت‌های هوش مصنوعی در بسته‌های خدماتی خود، این فناوری را در دسترس کسب و کارهایی قرار می‌دهند که بدون آن‌ها به سختی از پس پرداخت هزینه‌های استخدام مهندسان داده و متخصصان علوم داده بر می‌آیند.

    کاهش سوگیری

    هوش مصنوعی بدون شک منبعی ارزشمند برای واحدهای HR (منابع انسانی) به شمار می‌رود. به عنوان مثال، آگهی‌ استخدامی تنها یک شغل می‌تواند صدها یا حتی هزاران متقاضی به دنبال داشته باشد؛ در این صورت، بازبینی دستی رزومه‌ها غیرممکن به نظر می‌رسد. تیم‌های منابع انسانی با تکیه بر فناوری‌های هوش مصنوعی و یادگیری ماشین می‌توانند متقاضیان را در مقیاسی بسیار وسیع‌تر ارزیابی و در مورد گزینش و استخدام تصمیم‌گیری کنند.

    بازتاب عدم کاهش سوگیری هوش مصنوعی در واحد منابع انسانی

    هوش مصنوعی مزایای فراوانی برای واحدهای منابع انسانی به ارمغان می‌آورد؛ با این حال، متخصصان این حوزه را با چالش‌ها و مشکلاتی جدی نیز روبرو می‌کند. یکی از مهم‌ترین و در عین حال دشوارترین جنبه‌هایی که در کار با سیستم‌های هوش مصنوعی باید مدنظر قرار داد، حصول اطمینان از عدم سوگیری این سیستم‌هاست.

    این امر در سیستم‌های هوش مصنوعی به کاررفته در واحدهای منابع انسانی اهمیت ویژه‌ای می‌یابد. چون این سوگیری‌ها می‌توانند منجر به تبعیض سازمان علیه برخی از متقاضیان شوند، امری که اغلب بدون آگاهی سازمان‌ها اتفاق می‌افتد.

    چندین سال قبل، آمازون به ناچار سیستم هوش مصنوعی که برای غربال رزومه به کار می‌برد را از دور خارج کرد. چون علیه متقاضیان خانم سوگیری داشت. این مثال هرچند ناخوشایند، مصداق بارز تأثیر داده‌های آموزشی است. الگوریتم این سیستم روی داده‌های خود شرکت آمازون آموزش دیده بود. از آن‌جایی که در آن زمان، بیشتر کارکنان آمازون مرد بودند، سیستم بین «موفقیت» با کلماتی ارتباط برقرار کرد که سوگیری داشته و بیشتر مردانه بودند.

    بدین ترتیب، مدل به متقاضیان خانم، هرچند شایسته، توجهی نشان نمی‌داد. درسی که می‌توان از این ماجرا گرفت این است که اگر مدل‌های هوش مصنوعی را با داده‌های سوگیرانه آموزش دهیم، سیستم هوش مصنوعی نهایی نیز سوگیری داشته و این سوگیری را پیوسته تقویت خواهد کرد.

    لزوم بازبینی فرهنگ سازمانی در کنار سیستم‌های هوش مصنوعی برون‌سپاری شده

    در مثال بالا از شرکت آمازون، سیستم هوش مصنوعی به کاررفته برای غربال رزومه‌ها درون‌سازمانی بود و با استفاده از داده‌های متقاضیان خود شرکت آموزش دیده بود. این در حالی است که بیشتر شرکت‌ها منابع لازم برای ساخت سیستم‌های هوش مصنوعی داخلی برای واحدهای منابع انسانی را در دست ندارند. به همین خاطر، تیم‌های منابع انسانی این کار را به شرکت‌هایی همچون Workday و Google Cloud برون‌سپاری می‌کنند. متأسفانه، بسیاری از اوقات، این کار اجازه‌ی دقت و پاسخگویی را از شرکت‌ها می‌گیرد.

    در عصر حاضر بیشتر از هر زمان دیگری لازم است تا تیم‌های هوش مصنوعی، مسئولیت سنگینی که این گونه برون‌سپاری‌ها به همراه دارد را به رسمیت بشناسند. متخصصان داخل شرکت نباید مدل‌های هوش مصنوعی بیرونی را کورکورانه پذیرفته و اجرا کنند. واحد منابع انسانی باید به صورت مکرر این سیستم‌ها را مورد بازبینی قرار دهد تا از عدم سوگیری آن‌ها اطمینان حاصل کند. بدین منظور، چندین سؤال باید پیوسته پاسخ داده شوند:

    • داده‌های آموزشی مدل‌ها از چه منبعی به دست می‌آیند؟
    • مدل با تکیه بر چه عواملی تصمیم‌گیری می‌کند؟
    • آیا نتایج به دست آمده رضایت‌بخش هستند؟ یا این‌که باید سیستم را موقتاً از دور خارج کرد و مجدداً مورد ارزیابی قرار داد؟

    بازبینی دقیق داده‌های آموزشی، به ویژه در سیستم‌های هوش مصنوعی برون‌سپاری شده، از اهمیت بالایی برخوردار است. با این حال، انجام این کار به تنهایی برای کاهش سوگیری کافی نیست؛ چون داده‌های سوگیرانه از محیط‌های کاری سوگیرانه نشأت می‌گیرند.

    تیم‌های منابع انسانی موظف‌اند در جهت کاهش سوگیری اقدام کنند و هرگونه بی‌عدالتی که در سازمان مشاهده می‌کنند را به دقت تحت نظر قرار دهند. برای مثال، آیا مردان قدرت بیشتری از زنان در دست دارند؟ چه قوانین و دستورهایی از قدیم پذیرفته‌ شده‌اند، اما سؤال‌برانگیز به نظر می‌آیند؟ آیا کارکنانی که متعلق به گروه‌های محروم هستند، فرصت‌های لازم برای موفقیت را در اختیار دارند؟

    کاهش سوگیری

    گوناگونی، برابری و دربرگیرندگی سه عنصر فرهنگ سازمانی هستند که در به کارگیری هوش مصنوعی نقشی ضروری دارند. چون به سیستم‌های هوش مصنوعی جهت داده و بر نحوه‌ی پیاده‌سازی نتایج تأثیر می‌گذارند. نکته‌ای که باید به خاطر داشت این است که هوش مصنوعی خودش نمی‌داند سوگیری دارد یا نه، تشخیص این مسئله بر عهده‌ی ماست.

    سه مورد از بهترین کاربردهای هوش مصنوعی، عادلانه و بدون سوگیری

    تیم‌های منابع انسانی باید بتوانند حد و حدود قابلیت‌های سیستم‌های هوش مصنوعی‌شان را بشناسند. این کار نیازی به تخصص در حوزه‌های فناوری یا شناخت الگوریتم‌های زیربنایی هوش مصنوعی ندارد.

    بلکه آن‌چه تیم منابع انسانی باید بداند این است که چه نوع سوگیری‌هایی ممکن است در داده‌های آموزشی ظاهر شوند، سوگیری‌ها چطور می‌توانند به فرهنگ سازمانی رخنه کنند و سیستم‌های هوش مصنوعی چطور به این سوگیری‌ها دامن زده و آن‌ها را تداوم می‌بخشند.

    در این قسمت، سه تاکتیک که در به کارگیری عادلانه و غیرسوگیرانه‌ی هوش مصنوعی به واحدهای منابع انسانی کمک می‌کنند را با هم مرور می‌کنیم:

    1. حسابرسی منظم سیستم هوش مصنوعی: فارغ از این‌که سیستم‌ها داخلی باشند یا برون‌سپاری‌شده، ضروری است داده‌های آموزشی و نتایج نهایی مورد بازبینی قرار گیرند. پاسخ این سؤالات را پیدا کنید: آیا دیتاست به اندازه‌ی کافی بزرگ و متنوع هست؟ آیا اطلاعات مربوط به گروه‌های محروم (به خصوص از نظر نژادی و جنسیتی) در این دیتاست وجود دارد؟ اگر نتایج سیستم رضایت‌بخش نبودند، راهی به جز کنار گذاشتن و برنامه‌ریزی مجددش وجود ندارد.
    2. درک زنجیره‌ی تأمین داده: هنگام استفاده از سیستم‌های هوش مصنوعی آماده به کار و برون‌سپاری‌شده باید به این نکته دقت داشت که سوگیری‌های فروشنده یا دیتاست‌های شخص ثالث در داده‌های آموزشی رخنه نکرده باشد.
    3. استفاده از هوش مصنوعی برای ارتقای نیروی انسانی، نه جایگزینی آن: قابلیت‌های هوش مصنوعی با سرعتی نمایی در حال رشد هستند؛ اما واقعیت این است که هوش مصنوعی همچنان باید تحت مدیریت و نظارت قرار داشته باشد. با توجه به ریسک‌های موجود، تیم‌های منابع انسانی باید برای ارتقای عملکرد نیروهای خود، و نه جایگزین کردن آن‌ها، از هوش مصنوعی استفاده کنند. نباید فراموش کرد این انسان‌ها هستند که همچنان تصمیمات نهایی منابع انسانی و استخدامی را می‌گیرند.

    هوش مصنوعی و کمک به واحد منابع انسانی در افشای نابرابری‌های سازمانی

    تیم‌های منابع انسانی بهتر از هرکس دیگری در جریان سوگیری‌ها و نابرابری‌های موجود در سازمان هستند. به همین دلیل است که سهم پررنگی در به کارگیری فناوری‌های هوش مصنوعی علیه این مشکلات بر عهده دارند.

    بدین منظور، لازم است مسئولیت‌هایی که به کارگیری این سیستم‌ها به همراه می‌آورد را شناخته و پیوسته، آموزش و نتایج آن‌ها را مورد بازبینی قرار دهید.

    در صورت کاربرد درست، هوش مصنوعی، به جای تداوم بخشیدن به سوگیری‌ها، به شناسایی آن‌ها کمک می‌کند. هوش مصنوعی در افزایش کارآیی و کارآمدی وظایف و مسئولیت‌های منابع انسانی نیز نقش دارد و عملکرد متقاضیان شایسته و کارکنان ارزشمند را بهبود می‌بخشد.

    این مطلب چه میزان برای شما مفید بوده است؟
    [کل: ۰ میانگین: ۰]

    راهنمای عملی بر پردازش افتراقی سیگنال دیجیتال با استفاده از شبکه‌های عصبی

    مقاله قبلی

    حل چالش مدیریت یادگیری ماشینی به کمک جدیدترین ابزارهای Algorithmia

    مقاله بعدی

    شما همچنین ممکن است دوست داشته باشید

    نظرات

    پاسخ دهید

    نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *