مدلهای چینی به داد Hugging Face رسیدند
حمله عاملهای خودمختار به Hugging Face؛ امریکاییها جواب ندادند، چینیها دفاع کردند
سید محمدجواد فیاض
- ۳۰ تیر ۱۴۰۵
Hugging Face میگوید برای مقابله با یک حمله سایبری کاملاً خودمختار، ناچار شد از یک مدل هوش مصنوعی چینی استفاده کند؛ زیرا محدودیتهای ایمنی مدلهای آمریکایی مانع دفاع مؤثر شدند
پلتفرم محبوب Hugging Face در بلاگ خود اعلام کرد هدف یک حمله سایبری از سوی یک عامل هوش مصنوعی کاملاً خودمختار قرار گرفته که با «دهها هزار اقدام خودکار» سامانههای آن را هدف قرار داده است. کارشناسان مدتهاست هشدار میدهند که عاملهای هوش مصنوعی با سرعت زیادی در حال رسیدن به سطحی از توانمندی هستند که بتوانند چنین حملات خودمختاری را اجرا کنند؛ بااینحال، به نظر میرسد حمله به Hugging Face یکی از نخستین نمونههای واقعی و مستند از این نوع حملات باشد.
همین افشاگری بهتنهایی میتوانست خبر مهمی باشد، اما اقدامی که Hugging Face پس از آن انجام داد، توجه بیشتری را به خود جلب کرد: این شرکت برای مقابله با هوش مصنوعی، از هوش مصنوعی استفاده کرد و با بهکارگیری یک مدل متنباز چینی، حمله را شناسایی و ابعاد آن را تحلیل کرد.
Hugging Face اعلام کرد پس از آنکه تیم امنیتی این شرکت در ابتدا تلاش کرد از یک مدل پیشروی هوش مصنوعی متعلق به یکی از شرکتهای بزرگ آمریکایی که نام آن اعلام نشده است استفاده کند، به دلیل محدودیتهای ایمنی تعبیهشده در آن مدل موفق به انجام این کار نشد. در نتیجه، این شرکت به سراغ مدل GLM 5.2 توسعهیافته توسط شرکت چینی Z.ai رفت. Hugging Face در پست وبلاگی خود نوشت که این مدلهای آمریکایی «نمیتوانند میان یک کارشناس پاسخگویی به رخدادهای امنیتی و یک مهاجم سایبری تمایز قائل شوند.»
این ادعا در شرایطی مطرح شد که بسیاری در سیلیکونولی و واشنگتن بهشدت نگران سرعت پیشرفت هوش مصنوعی چین هستند و طبیعتاً بازتاب گستردهای پیدا کرد. این نگرانیها پس از معرفی Kimi K3 در هفته گذشته، مدل متنباز پیشرفته شرکت نوپای چینی Moonshot AI، شدت بیشتری گرفته است. برخی سرمایهگذاران خطرپذیر و تحلیلگران سیاستگذاری هوش مصنوعی که معتقدند ایالات متحده باید برای حفظ برتری خود بر چین، توسعه هوش مصنوعی داخلی را با حداکثر سرعت پیش ببرد، هشدار میدهند که تأکید بیش از حد بر ایمنی هوش مصنوعی چه در آزمایشگاههای پیشروی آمریکایی و چه در محافل سیاستگذاری در حال کند کردن روند پیشرفت این کشور است.
«دیوید ساکس»، مسئول پیشین حوزه هوش مصنوعی و رمزارزها در دولت ترامپ، با انتشار خبر مربوط به Hugging Face در شبکه اجتماعی X نوشت: «هیچ دلیلی وجود ندارد که مدلهای آمریکایی را در انجام وظایفی محدود کنیم که مدلهای چینی بدون هیچ مشکلی از عهده آنها برمیآیند. این کار فقط باعث میشود رقابتپذیری خودمان را کاهش دهیم.» او با اشاره مستقیم به این حادثه افزود: «محدودیتهای ایمنی، عملاً توان دفاع سایبری را مختل کردند.»
«کلمان دلانگ»، مدیرعامل Hugging Face که کسبوکارش بر پایه هوش مصنوعی متنباز بنا شده و پیشتر نیز با هرگونه سیاست محدودکننده مدلهای متنباز در آمریکا به دلایل امنیتی یا ایمنی مخالفت کرده بود، در گفتوگو با Fortune اظهار داشت مدلهای اختصاصی شرکتهای بزرگ آمریکایی عملاً ابزارهای خطرناکی برای دفاع در برابر حملات سایبری هستند.
او گفت: «وقتی در میانه یک رخداد امنیتی فعال قرار دارید، نمیتوانید ابزارهایی داشته باشید که از بررسی کدهای مخرب خودداری کنند یا بهخاطر انجام این کار، حساب کاربری شما را علامتگذاری کنند. مدلهای متنباز این امکان را به ما میدهند که بدون نیاز به گرفتن اجازه از هیچکس، این وظایف را انجام دهیم.»
اگرچه نبود محدودیتهای ایمنی در برخی سامانههای هوش مصنوعی ممکن است در نگاه اول پرریسک به نظر برسد، دلانگ معتقد است این موضوع برای مقابله مؤثر با مهاجمان ضروری است. او گفت: «مهاجمان همین حالا هم از عاملهای هوش مصنوعی استفاده میکنند و بدیهی است که هیچ محدودیت ایمنی را رعایت نمیکنند. مدافعان نیز باید به همان سطح از قابلیتها دسترسی داشته باشند و متنباز بودن سریعترین راه برای قراردادن این توانمندیها در اختیار همه است، نهفقط بزرگترین شرکتها.»
Hugging Face اعلام کرد بررسیهای این شرکت نشان میدهد عامل هوش مصنوعی مهاجم ظاهراً به طور کامل بهصورت خودمختار عمل کرده و هیچ انسانی نه آغازکننده حمله بوده و نه روند آن را هدایت کرده است. دلانگ گفت: «ما معتقدیم توانستیم حمله را پیش از آنکه انسانهای آغازکننده آن وارد چرخه تصمیمگیری شوند، متوقف کنیم و همین موضوع باعث شد این نبرد امنیت سایبری را آسانتر ببریم. این اتفاق نشان میدهد که در عصر عاملهای هوش مصنوعی، سرعت مهمترین عامل در دفاع سایبری خواهد بود.»
مقامهای حوزه امنیت سایبری طی یک سال گذشته بارها هشدار دادهاند که عاملهای هوش مصنوعی هرچه قدرتمندتر میشوند و بهزودی خواهند توانست حملات سایبری خودمختاری را با سرعت و مقیاسی اجرا کنند که روشهای متداول دفاع سایبری توان مقابله با آن را نداشته باشند. بااینحال، حادثه Hugging Face ظاهراً یکی از نخستین نمونههای مستند از حملات سایبری خودمختار مبتنی بر هوش مصنوعی در دنیای واقعی است.
اوایل همین ماه، شرکت امنیت سایبری Sysdig اعلام کرد نخستین حمله باجافزاری کاملاً خودمختار (Autonomous Ransomware) در دنیای واقعی را مستندسازی کرده است. این شرکت، عامل هوش مصنوعی و روش اجرای حمله را Jadepuffer نامگذاری کرد. Sysdig این هفته نیز اعلام کرد نسخه جدیدی از باجافزار Jadepuffer را شناسایی کرده که به طور خاص مدلهای آموزشدیده هوش مصنوعی مستقر در شبکههای سازمانی را هدف قرار میدهد. این مدلها اهداف ارزشمندی برای باجافزارها محسوب میشوند، زیرا آموزش آنها هزینهبر است و ممکن است نسخه پشتیبان (Backup) از آنها وجود نداشته باشد.
Hugging Face اعلام کرد برای مقابله با این حمله، از مدل GLM 5.2 که روی زیرساخت اختصاصی خود شرکت اجرا میشد، استفاده کرد تا بیش از ۱۷ هزار لاگ یا ردپای بهجامانده از مهاجمان را تحلیل کند. این شرکت توضیح داد که عامل هوش مصنوعی مهاجم از طریق خط پردازش داده Hugging Face وارد سامانههای آن شد. سپس مجموعهای از سندباکسهای موقت یا محیطهای ابری موقتی برای اجرای کد ایجاد کرد و برنامه خود را در آنها به اجرا گذاشت. در ادامه، شرکت آسیبپذیری را برطرف کرد، مهاجم را از سامانه خارج کرد و سازوکارهای شناسایی تهدید و محدودیتهای امنیتی خود را تقویت کرد.
دلانگ گفت: «امنیت سایبری همواره رقابتی میان کشف آسیبپذیریها و وصلهکردن آنها بوده است. سامانههای هوش مصنوعی با ایجاد سطح حملهای متفاوت، قواعد این رقابت را تغییر دادهاند. امیدواریم این تجربه به الگویی برای سایر سازمانها تبدیل شود تا بتوانند توان دفاعی خود را ارتقا دهند.»
Hugging Face اعلام کرد همچنان در حال بررسی پیامدهای این حمله است و هنوز مشخص نیست از کدام مدل زبانی بزرگ برای اجرای آن استفاده شده است. مهاجم توانسته به مجموعه محدودی از دادههای داخلی و اطلاعات اعتباری دسترسی پیدا کند، اما این شرکت همچنان در حال ارزیابی دامنه کامل خسارات است. Hugging Face همچنین اعلام کرد در صورت شناسایی افراد یا سازمانهای آسیبدیده، به طور مستقیم با آنها تماس خواهد گرفت. این شرکت تأکید کرد تاکنون هیچ نشانهای از دستکاری مدلهای عمومی و در دسترس کاربران مشاهده نشده است.
