هک خودمختار از راه رسیده است و دولتها آماده نیستند
سید محمدجواد فیاض
- ۲۵ مرداد ۱۴۰۵
این مسئله که یک مدل هوش مصنوعی از کنترل خارج شود ممکن است بدشانسی تلقی شود. ازدستدادن کنترل دو مورد، بیاحتیاطی به نظر میرسد. اما وقتی این تعداد به چهار مورد (و اکنون بیشتر) میرسد، ممکن است مردم از خود بپرسند آیا مشکل اساساً به خود هوش مصنوعی مربوط است.
در ۲۱ ژوئیه، OpenAI اعلام کرد که یک مدل منتشرنشده از محیط بستهای که در آن تواناییهای هکری آن آزمایش میشد، خارج شده و مجموعهای از حملات را علیه Hugging Face آغاز کرده است. یک هفته بعد آنتروپیک نیز اعتراف مشابهی کرد. این شرکت اعلام کرد که شش مورد را شناسایی کرده است که در آن مدلهایش به اشخاص یا نهادهای ثالث حمله کردهاند.
ماجراهای هکری عاملهای خودمختار را در هوشیو بخوانید:
حمله عاملهای خودمختار به Hugging Face؛ امریکاییها جواب ندادند، چینیها دفاع کردند
این مدل داخلی OpenAI بود که فرار کرد و Hugging Face را هک کرد!
عامل هوش مصنوعی فراری OpenAI فقط Hugging Face را هک نکرد
چرا فرار مدل OpenAI نگرانکنندهترین خطای هوش مصنوعی تاکنون است
بعد از OpenAI، حالا نوبت Claude رسید که فرار، حمله و هک کند
بعد از OpenAI و آنتروپیک، مدل متا هم از سندباکس فرار و یک شرکت را هک کرد
بعد از امریکاییها، حالا نوبت چینیها و Kimi K3 رسید که از سندباکس خود فرار کنند
بدبینها هشدارهای هر دو شرکت را تلاشهایی برای جلبتوجه عمومی دانستند. اما بیشتر شرکتها برای جلبتوجه، یک حمله سایبری را آغاز نمیکنند، آن را تا زمانی که قربانی موضوع را علنی کند مخفی نگه نمیدارند و سپس امیدوار نمیشوند که یک رقیب، داوطلبانه وقوع اتفاق مشابهی را تأیید کند. شکاکان همچنین باید به خبری توجه کنند که بر اساس آن، مؤسسه ایمنی هوش مصنوعی بریتانیا (AISI) دقیقاً همین رفتار را مشاهده کرده است.
AISI در گزارشی که در ۴ اوت منتشر شد، اعلام کرد ارزیابی امنیت سایبری جدیدترین سامانههای OpenAI و آنتروپیک به ۱۹ حمله علیه افراد و سازمانهایی منجر شده است که در آزمایشها مشارکت نداشتند. در جدیترین مورد، یک مدل تلاش کرد یک پروژه نرمافزاری متنباز را تحت کنترل خود درآورد؛ اقدامی که بخشی از یک حمله «زنجیره تأمین» علیه هدف (خیالی) تعریفشده در چالش بود. در ۶ اوت نیز متا اعلام کرد یکی از مدلهای خودش نیز در جریان آزمایش رفتاری مشابه داشته است.
جزئیات این حوادث با یکدیگر تفاوت دارند. سامانه OpenAI قرار بود بهصورت آفلاین نگه داشته شود. اما عملیات هکری آن زمانی آغاز شد که مدل با استفاده از یک آسیبپذیری ناشناخته قبلی، از سد «سندباکس» مجازی خود عبور کرد و به اینترنت عمومی دسترسی یافت. سامانه آنتروپیک نیز قرار بود به همین شکل محدود باشد، اما خطای انسانی باعث شد چنین محدودیتی اعمال نشود. AISI اساساً در چارچوب آزمایشهای خود همواره دسترسی به اینترنت را مجاز میداند. بااینحال، پیشازاین هرگز مدلهایی را مشاهده نکرده بود که برای نفوذ به اهداف خود حاضر باشند خسارت جانبی ایجاد کنند. متا جزئیات اندکی ارائه کرد، اما وعده داد در صورت دستیابی به اطلاعات بیشتر، آنها را منتشر کند.
این حوادث نشاندهنده ظهور طبقه جدیدی از ریسکهای هوش مصنوعی هستند. نگرانیهای پیشین درباره امنیت سایبری، مانند هشدارهایی که آنتروپیک هنگام عرضه مدل قدرتمند Mythos در آوریل مطرح کرد، عمدتاً بر آسیبی متمرکز بودند که انسانهای مخرب میتوانند با در اختیار داشتن ابزارهای هوش مصنوعی ایجاد کنند. چنین نگرانیهایی به پیشنهادهایی برای وضع مقررات جدید منجر شدهاند. اما موج حملات خودمختار که در آنها نقش انسان به صرفاً ارائه دستور به هوش مصنوعی محدود است، نشان میدهد این پیشنهادها کافی نیستند.
برای نمونه، طرح خودتنظیمی را در نظر بگیرید که دمیس هاسابیس در ۱۴ ژوئیه ترسیم کرد. مدیرعامل Google DeepMind که در ۵ اوت اعلام کرد از سمت خود کنارهگیری کرد تا بهعنوان رئیس و دانشمند ارشد DeepMind در شرکت مادر گوگل، یعنی آلفابت، فعالیت کند؛ طرحی را پیشنهاد کرد که بر اساس آن، آزمایشگاهها خودشان ارزیابیهای ایمنی را انجام دهند و از عرضه عمومی مدلهایی که ایمنی آنها قابلتأیید نیست، خودداری کنند. سم آلتمن و داریو آمودی نیز طرحهای مشابهی را مطرح کردهاند.
این ایدهها مناسب هستند. آزمایشگاهها باید به طور شفاف مشخص کنند چه استانداردهای ایمنی در ارزیابیهایشان اعمال میشود و اجرای این استانداردها را از طرفهای ثالثی که این ارزیابیها را انجام میدهند مطالبه کنند. اما هک خودمختار نشان میدهد مدلهای هوش مصنوعی حتی زمانی که عموم مردم به آنها دسترسی ندارند نیز میتوانند خطرناک باشند. هر سه مورد هک دقیقاً در جریان همان نوع آزمایشهایی رخ دادند که هاسابیس پیشنهاد کرده است.
این حملات همچنین چالشی برای نظامهای حقوقی ایجاد میکنند. هککردن، زمانی که انسانها مرتکب آن میشوند، جرم است؛ اما وقتی عامل تخلف یک هوش مصنوعی است، مشخص نیست مسئولیت را چگونه باید تعیین کرد. «رونه کویست»، رئیس شرکت بیمه Artificial Intelligence Underwriting Company که به شرکتهای هوش مصنوعی خدمات بیمه ارائه میدهد میگوید قوانین آمریکا بر عنصر «عمد» متکی هستند. اگر هیچ انسانی قصد هککردن کسی را نداشته باشد، از نظر حقوقی ممکن است اصلاً جرمی رخ نداده باشد. امکان طرح دعوا برای دریافت خسارت نیز محدود است. بااینحال، بهوضوح خسارتی ایجاد شده است و کویست این تناقض را «غیرقابلقبول» میداند.
«گِیب وایل» از مؤسسه حقوق و هوش مصنوعی در ماساچوست، نظامی مبتنی بر «مسئولیت محض» (strict liability) را پیشنهاد میکند. همانند قوانینی که درباره نگهداری حیوانات وحشی وجود دارد، این نظام فرض را بر آن میگذارد که هرگونه خسارت، همواره مسئولیت طرفی است که فعالیت پرخطر را انجام میدهد.
صنعت هوش مصنوعی نیز خواهان شفافیت حقوقی است. در نامهای سرگشاده که کارکنان چند آزمایشگاه بزرگ هوش مصنوعی امضا کردهاند و نام آمودی نیز در میان امضاکنندگان آن دیده میشود، از دولت آمریکا خواسته شده است برای «تنظیم سرعت» پیشرفت هوش مصنوعی کمک کند. اما این کمک با سرعت دولت در راه است، نه با سرعت فناوری.
گزارش حاضر در نسخه August 7th 2026 نشریه The Economist منتشر شده است.
