چرا پیشرفت هوش مصنوعی از نظر عده‌ای ترسناک است؟
تیم تحریریه- ۱۵ آبان ۱۴۰۱
ربات‌ها و هوش مصنوعی نقش مهمی در شکل‌گیری جامعه مدرن ایفا کرده‌اند و همچنان به این مسیر ادامه خواهند داد. بااین‌حال، این فناوری‌ها عاری از ریسک نیستند و اثرات ناخواسته‌ای هم به همراه دارند. هوش مصنوعی تاریخچه‌ای طولانی دارد، ولی به آینده نیز جهت می‌بخشد و هیچ‌کس نمی‌تواند ادعا کند که می‌داند پیشرفت هوش مصنوعی چه آینده‌ای برایمان رقم خواهد زد. برای آمادگی مقابل ریسک‌های احتمالی هوش مصنوعی در سال 2023، اولین گام آشنایی با آن‌هاست.
خروجی‌های سوگیرانه
از آنجایی که الگوریتم‌های هوش مصنوعی به دست انسان‌ها ساخته می‌شوند، خروجی‌های سوگیرانه انسانی می‌توانند به‌صورت عمد یا غیرعمد وارد آن‌ها بشوند. به‌بیان‌دیگر، اگر داده‌های آموزشی الگوریتم‌ها سوگیری داشته باشند، خروجی الگوریتم‌ها نیز دچار سوگیری خواهد بود. سوگیری در ربات‌ها و ماشین‌ها می‌تواند نمودهای مختلفی داشته باشد؛ به‌عنوان مثال، می‌توان به الگوریتم‌های استخدامی تبعیض‌آمیز یا چت‌بات نژادپرست مایکروسافت اشاره کرد. شرکت‌های ارائه‌دهنده هوش مصنوعی می‌بایست فرایند طراحی و آموزش هوش مصنوعی را با دقت و به شکل مناسب انجام دهند.
ازدست‌دادن مشاغل
برخی پیش‌بینی‌ها حاکی از این هستند که تعداد مشاغلی که به‌موجب پیشرفت هوش مصنوعی ایجاد می‌شوند، بیشتر از تعداد ازدست‌دادن مشاغل افراد است و یا حداقل شمارشان با هم برابری می‌کند. در هر صورت، مشاغلی وجود دارند که در حال حاضر به دست انسان‌ها انجام می‌شوند و در آینده، هوش مصنوعی آن‌ها را به دست می‌گیرد. به‌همین‌دلیل است که برنامه‌های آموزشی باید با این تغییرات سازگار شوند، نیروی کار آینده را آماده و به شاغلین کمک کنند تا به‌سمت مشاغل جدید پیش بروند.
ابهام فرایند
بسیاری از خروجی‌های هوش مصنوعی به‌سختی قابل توضیح و شفاف‌سازی هستند. پیشرفته‌ترین سیستمهای هوش مصنوعی که دقیق‌ترین پیش‌بینی‌ها را ارائه می‌دهند، همان‌هایی هستند که مبهم‌ترین کارکرد را دارند. عدم شفافیت در تصمیمات سیستم‌ها را تحت عنوان «جعبه سیاه» می‌شناسند. موقعیت‌های زیادی هستند که در آن‌ها، افراد نیاز دارند منطق زیربنایی تصمیمات را درک کنند.
این نکته به‌ویژه در مورد صنایعی صدق می‌کند که تحت قوانین سخت‌گیرانه کار می‌کنند. به‌عنوان مثال، در حوزه بهداشت و درمان، دلیل تشخیص بیماری یا انتخاب یک راهکار درمانی خاص باید مشخص باشد. نمونه دیگر را می‌توان الگوریتم‌هایی در نظر گرفت که بهترین سهام را انتخاب می‌کنند و عملکرد خوبی هم دارند. اگر کاربر سود ۹ درصدی از سرمایه‌گذاری‌اش دریافت کند، مشکلی پیش نمی‌آید؛ اما اگر با ضرر روبه‌رو شود، مطمئناً می‌خواهد دلیل تصمیمات الگوریتم را بداند. به بیان خلاصه می‌توان گفت با اینکه در بیشتر اوقات نمی‌دانیم الگوریتم چطور کار می‌کند، نمی‌توانیم منکر اهمیت این شفاف‌سازی و رفع ابهام فرایند شویم؛ بدون چنین اطلاعاتی، راهکارهای محدودی در صورت ارتکاب اشتباه پیش رو خواهیم داشت.
حملات سایبری سریع
با پیشرفت هوش مصنوعی، تعداد حملات سایبری سریع نیز افزایش یافته است. این سرعت تا جایی رسیده است که انسان‌ها به‌سختی می‌توانند با آن همگام بمانند. فناوری‌های خودکارسازی و رباتیک، تشخیص ورود ویروس به نرم‌افزارها را سخت‌تر می‌کنند و باعث می‌شوند به‌راحتی بتوان از سیستمهای هوش مصنوعی سوءاستفاده کرد.
تروریسم مبتنی بر هوش مصنوعی
به‌تازگی با نوع جدیدی از تروریسم مواجه شده‌ایم که از قابلیت‌های هوش مصنوعی استفاده می‌کند. از جمله عملیات‌هایی که در این حوزه انجام می‌شوند، می‌توان به ساخت پهپادهای خودکار، ربات‌های توده‌ای و ریزربات‌ها اشاره کرد که حملات از راه دور را امکان‌پذیر ساخته و حتی برای انتشار بیماری به کار می‌روند.
پیامدهای منفی احتمالی فناوری‌ها تا حد امکان به حداقل می‌رسند؛ باوجود‌این، آماده‌سازی به بهترین نحو برای پیشرفت‌های آینده هوش مصنوعی و جلوگیری از تروریسم مبتنی بر هوش مصنوعی، مستلزم اختصاص زمان و استدلال انسانی است.
جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید
