40 گام به سوی آینده‌ای هوشمند - مجموعه وبینارهای رایگان در حوزه هوش مصنوعی
Filter by دسته‌ها
chatGTP
آموزش هوش مصنوعی و انواع آن
آموزش‌های پایه‌ای هوش مصنوعی
اصول هوش مصنوعی
پایتون و ابزارهای یادگیری عمیق
کتابخانه‌ های یادگیری عمیق
یادگیری با نظارت
یادگیری بدون نظارت
یادگیری تقویتی
یادگیری عمیق
یادگیری نیمه نظارتی
آموزش‌های پیشرفته هوش مصنوعی
بینایی ماشین
پردازش زبان طبیعی
پردازش گفتار
چالش‌های عملیاتی
داده کاوی و بیگ دیتا
رایانش ابری و HPC
سیستم‌‌های امبدد
علوم شناختی
دیتاست
اخبار
تیتر یک
رسانه‌ها
آموزش پردازش زبان طبیعی
آموزش علوم داده
اینفوگرافیک
پادکست
ویدیو
رویدادها
کاربردهای هوش مصنوعی
کسب‌و‌کار
تحلیل بازارهای هوش مصنوعی
کارآفرینی
هوش مصنوعی در ایران
هوش مصنوعی در جهان
 آیا انسان‌ها قادر به کنترل هوش مصنوعی فوق هوشمند خواهند بود؟

آیا انسان‌ها قادر به کنترل هوش مصنوعی فوق هوشمند خواهند بود؟

امروزه ما شیفته ماشین‌هایی هستیم که می‌توانند اتومبیل‌ها را کنترل کنند، یک قطعه موسیقی بسازند یا مردم را در بازی‌های شطرنج، Go یا Jeopardy شکست دهند. در حالی که هوش مصنوعی به پیشرفت خود ادامه می­‌دهد، برخی از دانشمندان و فیسلوفان درباره خطرات هوش مصنوعی فوق هوشمند غیرقابل کنترل هشدار می­‌دهند.

اخیرا یک تیم بین‌­المللی محققان از جمله دانشمندان مرکز انسان­‌ها و ماشین‌­آلات در موسسه توسعه انسانی ماکس پلانک با استفاده از محاسبات نظری نشان دادند که کنترل هوش مصنوعی فوق هوشمند امکان‌پذیر نیست. این مطالعه در مجله تحقیقات هوش مصنوعی منتشر شده است.

فرض کنید کسی بخواهد یک سیستم هوش مصنوعی را با هوشی برتر از انسان برنامه‌­ریزی کند، در نتیجه این هوش مصنوعی می‌­تواند به طور مستقل یاد بگیرد، به اینترنت وصل شود و ممکن است حتی به تمام داده‌­های انسانی دسترسی داشته باشد. بنابراین می‌­تواند تمام برنامه‌­های موجود را با آنچه که خود می­‌خواهد جایگزین کند و تمامی ماشین­‌های آنلاین را در سراسر جهان کنترل کند. آیا این یک آرمان‌شهر خواهد بود یا یک ویران­‌شهر؟ آیا هوش مصنوعی می‌­تواند سرطان را درمان کند، صلح جهانی ایجاد کند و از یک فاجعه آب و هوایی جلوگیری کند؟ یا باعث نابودی بشریت و پایان حیات خواهد شد؟

دانشمندان کامپیوتر و فیلسوف‌ها از خود این را می‌­پرسند که آیا ما قادر به کنترل هوش مصنوعی فوق هوشمند هستیم به­‌طوری که اطمینان حاصل شود که خطری برای بشریت به وجود نمی‌­آورند؟ یک تیم بین‌­المللی از دانشمندان کامپیوتر با استفاده از محاسبات نظری نشان دادند که کنترل هوش مصنوعی فوق هوشمند اساساً غیرممکن است.

هوش مصنوعی فوق هوشمند

مانوئل کبرایان، یکی از نویسندگان این مقاله که رهبر گروه دیجیتال در مركز انسان و ماشین‌­آلات موسسه توسعه انسانی ماكس پلانك است می­‌گوید: یک ماشین فوق­العاده هوشمند که جهان را کنترل می‌کند یک داستان علمی تخیلی به نظر می­‌رسد، اما در حال حاضر ماشین­‌هایی وجود دارند که برخی از کارهای مهم را به طور مستقل انجام می­‌دهند بدون اینکه برنامه‌­نویسان کاملاً بفهمند که آن­ها چگونه این کار را یاد گرفته‌­اند. بنابراین این سوال مطرح می­‌شود که آیا این مسئله می­‌تواند در برخی از زمان­‌ها غیرقابل کنترل و برای انسان خطرناک باشد؟

دانشمندان دو ایده مختلف را برای چگونگی کنترل هوش مصنوعی فوق هوشمند مطرح کرده‌­اند. از یک سو قابلیت‌های هوش مصنوعی فوق هوشمند می‌­تواند به طور خاص محدود شود. به عنوان مثال با قطع اتصال آن از اینترنت و سایر دستگاه­‌های فنی. این کار باعث می­‌شود ماشین‌­ها هیچ ارتباطی با دنیای خارج نداشته باشد. با این حال، این هوش مصنوعی فوق هوشمند، ضعیف است و توانایی کمتری در پاسخگویی به سوالات دانشمندان دارد.

با این کار، هوش مصنوعی از همان ابتدا می‌­تواند انگیزه داشته باشد که فقط اهدافی را دنبال کند که به نفع بشریت باشد. به عنوان مثال با آموزش اصول اخلاقی به آن. با این حال محققان می‌گویند که این ایده‌ها و سایر ایده‌­های معاصر و تاریخی برای کنترل هوش مصنوعی فوق هوشمند، محدودیت­‌های خودش را دارد.

این تیم در مطالعه خود یک الگوریتم مهارکننده نظری را ابداع کردند که اطمینان حاصل کند هوش مصنوعی فوق هوشمند تحت هیچ شرایطی نتواند به مردم آسیب برساند. روال کار بدین صورت است که ابتدا رفتار هوش مصنوعی شبیه‌­سازی شود و هرکجا که این رفتار به سمت و سوی خطرآفرینی رفت متوقف شود. اما نکته این است که تحلیل­‌های بعدی نشان داد که در الگوی محاسبات فعلی، چنین الگوریتمی قابل ساخت نیست.

ایاد رهوان، مدیر مرکز انسان­‌ها و ماشین­‌آلات می­‌گوید: اگر مسئله را به قوانین اساسی علوم رایانه نظری تقسیم کنید مشخص می­‌شود که ما حتی اگر الگوریتمی بسازیم که به یک هوش مصنوعی دستور دهد جهان را از بین نبرد، می‌­تواند ناخواسته این دستور را نادیده بگیرد. اگر این اتفاق بیفتد نمی­‌دانید که الگوریتم مهارکننده هنوز در حال بررسی تهدید است یا اینکه دیگر به فکر مهار خطر هوش مصنوعی نیست. در واقع این مساله، الگوریتم مهار را غیرقابل استفاده می­‌کند.

بر اساس این محاسبات، مسئله مهار غیرقابل اطمینان است. به عنوان مثال هیچ الگوریتمی نمی‌­تواند راه‌حلی بیابد که بر اساس آن تعیین کند آیا هوش مصنوعی به دنیا آسیب می­‌رساند یا نه. همچنین محققان نشان دادند که ما حتی نمی­‌توانیم بفهمیم ماشین‌­های فوق هوشمند چه زمانی به زندگی انسان­‌ها وارد می شود؛ زیرا این نکته مستلزم این است که یک ماشین نشان دهد هوش‌­اش برتر از انسان­‌ها است و این مشکل در همان قلمرو مساله مهار است.

شما چه فکر می‌کنید؟ آیا هوش مصنوعی فوق هوشمند می‌تواند روزی به زندگی انسان‌ها پایان دهد؟

 

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید

میانگین امتیاز / 5. تعداد ارا :

مطالب پیشنهادی مرتبط

اشتراک در
اطلاع از
0 نظرات
بازخورد (Feedback) های اینلاین
مشاهده همه دیدگاه ها
[wpforms id="48325"]