هوش مصنوعی نباید جای انسان تصمیم بگیرد

چمنیان در خصوص خط قرمزهای الگوریتم‌های هوشمند گفت: «ما هوش مصنوعی را در ۳ حوزه بیزینس، خطوط تولید و محصولات هوشمند به کار گرفته‌ایم؛ اما باور شخصی من این است که هنوز نباید اجازه دهیم هوش مصنوعی به‌تنهایی جای انسان تصمیم نهایی را بگیرد. هوش مصنوعی باید نقش دستیار را ایفا کند و با تحلیل داده‌های پیچیده، دامنه تصمیم‌گیری را برای مدیر یا اپراتور محدود و پیشنهاد کند. واگذاری تصمیمات حیاتی به الگوریتم‌ها در شرایط فعلی بسیار پرریسک است.»

چمنیان توضیح داد که هنر هوش مصنوعی در کاهش دامنه تصمیم‌گیری برای انسان است، نه حذف. وی معتقد است در پدیده‌هایی که تأثیرات ارگانیک و پیچیده‌ای دارند، هوش مصنوعی باید نقش یک دستیار قدرتمند را بازی کند که گزینه‌های مطلوب را پیش روی مدیر قرار می‌دهد، اما مسئولیت نهایی و کلید تأیید باید همچنان در دستان انسان باقی بماند.

وی با ذکر یک مثال واقعی از چالش‌های دسترسی به داده در کشور گفت: «در پروژه‌ای مشترک با ایرانسل برای نگهداری هوشمند تعدادی ایستگاه تعامل داشتیم تا حجم نیروهای پایش را کاهش دهیم. کار با موفقیت پیش می‌رفت و داده‌ها تحلیل می‌شد؛ اما به‌محض وقوع شرایط بحرانی و جنگ، طبق دستورات امنیتی، دسترسی ما به تمام داده‌های سازمان کلاً قطع شد.»

مدیرعامل نیان الکترونیک ادامه داد: «پس از قطع دسترسی، مجبور شدیم مدل پروژه را تغییر دهیم و واحد رابط داده (Data Interface) ایجاد کنیم تا خود سازمان‌ها پردازش اولیه را انجام دهند و فقط خروجی را منتقل کنند. این تجربه نشان داد که بدون وجود سند شفاف حکمرانی داده و پروتکل‌های امنیتی مشخص، هر بحران بیرونی می‌تواند پروژه‌های هوش مصنوعی صنایع را به تعطیلی بکشاند»

در هوشیو بخوانید:
مدیران موفق چگونه هوش مصنوعی را در بهره‌وری عملیاتی به کار می‌گیرند؟

سه‌شنبه ۲۴ شهریورماه ۱۴۰۵، اولین «همایش هوش مصنوعی صنعتی: مدیران موفق چگونه هوش مصنوعی را در بهره‌وری عملیاتی به کار می‌گیرند؟» به میزبانی دانشکده مهندسی دانشگاه فردوسی مشهد با محوریت بررسی راهکارهای بهره‌وری عملیاتی برگزار شد.