آیا هوش مصنوعی تهدیدی برای آینده ما به شمار می‌آید؟
محمدحسین خلیلی- ۳ مهر ۱۴۰۳
نگران قیام ربات‌ها نباشید! شاید بتوانیم به راحتی با قطع برق آنها را متوقف کنیم، آیا این‌طور نیست؟ حداقل این چیزی است که به نظر می‌رسد.
در فیلم علمی – تخیلی به نام «خالق» (The Creator) آینده‌ای را به تصویر می‌کشد که در آن انسان‌ها درگیر جنگی تمام‌عیار با هوش مصنوعی هستند. این مفهوم در دنیای داستان‌های علمی – تخیلی تازگی ندارد، اما برخلاف فیلم‌هایی مانند «ترمیناتور»، این بار به نظر می‌رسد که این احتمال به واقعیت نزدیک‌تر است تا یک داستان خیالی.
اخیراً، هشدارهای متعددی درباره تهدیدهای وجودی ناشی از هوش مصنوعی مطرح شده است. نگرانی اصلی این است که ممکن است روزی هوش مصنوعی قادر باشد سلاح‌ها را به طور خودکار و به جای انسان‌ها کنترل کند. این وضعیت می‌تواند به ایجاد یک مسابقه تسلیحاتی خطرناک منجر شود.
نویسنده کتاب «چهار میدان نبرد: قدرت در عصر هوش مصنوعی» و معاون مرکز امنیت جدید آمریکا، به مثال اخیر چالش AlphaDogfight دارپا (آژانس پروژه‌های تحقیقاتی پیشرفته دفاعی) اشاره می‌کند. یک شبیه‌ساز هوایی که یک خلبان انسانی را در برابر یک هوش مصنوعی قرار می‌دهد.
شار می‌گوید: «نه تنها هوش مصنوعی خلبان را ۱۵ به صفر شکست داد، بلکه حرکاتی انجام داد که انسان‌ها نمی‌توانند انجام دهند؛ به‌ویژه شلیک‌های بسیار دقیق؛ در کسری از ثانیه».
مسئله اصلی این است که اگر هوش مصنوعی دچار اشتباهی شود و یک غیرنظامی را بکشد، چه کسی باید پاسخگو باشد؟ همچنین، ممکن است هوش مصنوعی به قدری سریع عمل کند که انسان‌ها نتوانند اوضاع را تحت کنترل خود درآورند.
اگرچه وقوع جنگی تمام‌عیار میان انسان و هوش مصنوعی بعید به نظر می‌رسد، اما استفاده از هوش مصنوعی در استراتژی‌ها و تحلیل‌های نظامی به طور فزاینده‌ای در حال گسترش است. این روند ممکن است به ایجاد یک مسابقه تسلیحاتی خطرناک منجر شود.
شار می‌گوید: «هوش مصنوعی می‌تواند به پردازش بهتر اطلاعات کمک کند و ارتش‌ها را کارآمدتر کند».
«فکر می‌کنم ارتش‌ها احساس خواهند کرد که مجبورند تصمیم‌گیری‌های بیشتری را به هوش مصنوعی واگذار کنند، زیرا ارتش یک محیط بی‌رحمانه رقابتی است. اگر مزیتی وجود داشته باشد و دشمن شما آن را بگیرد و شما نگیرید، در یک نقطه‌ضعف بزرگ قرار دارید.» به گفته شار، می‌تواند به یک مسابقه تسلیحاتی هوش مصنوعی منجر شود، مشابه مسابقه تسلیحاتی برای سلاح‌های هسته‌ای.
سوال این است که اگر هوش مصنوعی واقعاً از انسان‌ها هوشمندتر شود، چه عواقبی به دنبال خواهد داشت؟ آیا ما قادر به کنترل آن خواهیم بود؟ پاسخ به این پرسش می‌تواند نگران‌کننده باشد.
او می‌گوید: «برخی از دانشمندان چینی درباره یک تکینگی در میدان نبرد فرضیه‌پردازی کرده‌اند. [این] نقطه‌ای است که سرعت تصمیم‌گیری مبتنی بر هوش مصنوعی از سرعت توانایی درک انسان پیشی می‌گیرد و انسان‌ها عملاً مجبورند ماشه‌ها را به سیستمهای خودمختار برای تصمیم‌گیری در میدان نبرد واگذار کنند».
البته، در چنین سناریویی، احساس نمی‌شود که ازدست‌دادن کنترل آن هوش مصنوعی برای ما غیرممکن باشد یا حتی اینکه آن هوش مصنوعی علیه ما بشود. به همین دلیل است که سیاست ایالات متحده این است که انسان‌ها همیشه در حلقه تصمیم‌گیری برای استفاده از سلاح‌های هسته‌ای باشند.
شار می‌گوید: «اما ما چیزی مشابه از کشورهایی مانند روسیه و چین ندیده‌ایم؛ بنابراین، این یک حوزه است که نگرانی‌های جدی‌ای درباره‌اش وجود دارد.» اگر بدترین اتفاق بیفتد و یک هوش مصنوعی اعلام جنگ کند، شار نسبت به شانس‌های ما خوش‌بین نیست.
او می‌گوید: «منظورم این است که آیا شامپانزه‌ها می‌توانند در جنگی علیه انسان‌ها پیروز شوند؟» او می‌خندد. «هوش مصنوعی‌های برتر در بازی شطرنج نه تنها به اندازه استادان بزرگ خوب هستند؛ بلکه استادان بزرگ نمی‌توانند با آنها رقابت کنند. و این خیلی سریع اتفاق افتاد. ما در حال ساخت سیستمهای هوش مصنوعی قدرتمندتری هستیم که نمی‌فهمیم و نمی‌توانیم کنترل کنیم، و آنها را در دنیای واقعی به کار می‌گیریم. فکر می‌کنم اگر واقعاً بتوانیم ماشین‌هایی بسازیم که از ما باهوش‌تر باشند، مشکلات زیادی خواهیم داشت»
سوال اینجاست که اگر هوش مصنوعی واقعاً از انسان هوشمندتر شود، چه اتفاقی می‌افتد؟ آیا ما توانایی کنترل آن را خواهیم داشت؟ پاسخ به این سوال نگران‌کننده است.
آیا آماده رویارویی با دشمن جدیدی به نام هوش مصنوعی هستیم؟
منبع
