امکان کنترل هوش مصنوعی فوق هوشمند وجود ندارد

گفتگو درباره امکان تسلط هوش مصنوعی بر انسان چندین دهه است که مطرح شده و تا به اکنون نیز ادامه یافته است. سرانجام در ماه ژانویه ۲۰۲۱ بخشی از دانشمندان دیدگاهشان را درباره این موضوع به این شکل ابزار کردند که، انسان قادر نیست تا بر هوش مصنوعی فوق هوشمند تسلط پیدا کند. در واقع بر طبق نظر این عده از دانشمندان، مشکل کنترل هوش مصنوعی فوق هوشمند و نظارت بر آن ماورای توانایی انسان آن است که باید یک سیستم ابر هوشمند طراحی شود تا متخصصان بتوانند با بررسی دقیق‌تری آن را درک کنند. این در حالی است که اگر انسان قادر نباشد هوش مصنوعی فوق هوشمند را کشف و بررسی کند، بدون تردید از طراحی شبیه‌ساز آن نیز بازمی‌ماند.

به بیان دیگر اگر انسان قادر نباشد تا ذهن هوش مصنوعی فوق هوشمند را بخواند، یعنی سناریوهای طراحی شده توسط این سیستم را کشف کند، همچنین نمی‌تواند قواعدی مانند «هوش مصنوعی نباید باعث آسیب رساندن به انسان‌ها شود» را در تکامل هسته هوش مصنوعی بگنجاند.

ناتوانی در اعمال محدودیت‌ها

در واقع بر اساس دیدگاه این عده از دانشمندان، آن‌گاه که یک سیستم کامپیوتری ساخته شده در طرازی مافوق برنامه‌نویس آن عمل کند، دیگر قادر نخواهید بود تا محدودیت‌هایی را بر عملکرد آن اعمال کنید. به بیان دیگر وجود یک سیستم فوق هوشمند معضلاتی ایجاد می‌کند که به کل با موضوعاتی که در «اخلاق ربات‌ها» با آن مواجه هستیم، متفاوت است.

این بدان معنا است که هسته‌های هوش مصنوعی فوق پیشرفته چند بُعدی هستند و از شیوه‌های مختلفی برای اجرای برنامه‌هایشان استفاده می‌کنند. شیوه‌هایی که به احتمال زیاد مانع از کنترل هوش مصنوعی فوق هوشمند توسط انسان می‌شود و حتی امکان درک آن نیز به آسانی مقدور نیست.

نکته قابل توجه آن است که دیدگاه مطرح شده در واقع چکیده‌ای از اظهارات تعداد اندکی از دانشمندان فعال در حوزه هوش مصنوعی است. زیرا غالب دانشمندان بر این عقیده‌اند که به موازات توسعه فناوری‌های حوزه هوش مصنوعی و اختراع پردازنده‌های فوق هوشمند، دانش بشر برای تعلیم اخلاق به ربات‌ها نیز پیوسته در حال تکامل است.

لذا با توجه به ظرفیت‌های علمی و فناورانه فعلی نمی‌توانیم درباره آینده هوش مصنوعی فوق هوشمند قضاوت کرده و آن‌ها را یکسره غیراخلاقی معرفی کنیم؛ بنابراین منطقی است که انتظار داشته باشیم تا با تولد هوش مصنوعی فوق هوشمند، شاهد خلق فناوری‌های نوین با هدف تعلیم اخلاق و ادب به ربات نیز باشیم.

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید