نگاهی اجمالی به آینده امنیت سایبری مبتنی بر هوش مصنوعی

درحالی‌که اکثر گردهمایی‌های حرفه‌ای از مهمانان خود می‌خواهند تا از وای‌فای هتل استفاده کنند، Black Hat شبکه کنفرانس‌های سالانه خود در لاس‌وگاس، لندن و سنگاپور را از پایه می‌سازد و پیش از افتتاح کنفرانس، سوییچ‌ها، نقاط دسترسی، فایروال‌ها و حسگرهای نظارتی را نصب می‌کند. سپس مرکز عملیات شبکه (NOC) باید در زمان واقعی از این شبکه در برابر هزاران نفر از بهترین هکرهای جهان دفاع کند؛ نه‌تنها در برابر مهاجمان خارجی کنفرانس، بلکه در برابر شرکت‌کنندگانی که صراحتاً وظیفه حمله به زیرساخت آن را بر عهده دارند.

وقتی بهترین هکرهای جهان، خودشان هدف آزمایش‌اند

نسخه امسال در سنگاپور که از ۲۱ تا ۲۴ آوریل برگزار شد، زیر سایه اطلاعیه‌های شرکت‌های بزرگ فناوری قرار داشت مبنی بر اینکه مدل‌های هوش مصنوعی اکنون می‌توانند از همه هکرها به جز بهترینِ آن‌ها پیشی بگیرند. به‌عنوان‌مثال، گفته می‌شود Mythos، جدیدترین محصول Anthropic که برجسته‌ترین مدل ازاین‌دست است، از قبل آسیب‌پذیری‌های شدیدی را در «هر سیستم‌عامل و مرورگر وب اصلی» شناسایی کرده است. برای اکثر کاربران فناوری، این امر به منزله یک نقطه عطف تاریخی است. بااین‌حال، برای حاضران در Black Hat، این تأییدی بر چیزی است که مدت‌ها پیش‌بینی می‌کردند.

در هوشیو بخوانید:
Mythos، مدل هوش مصنوعی جدید Anthropic چقدر می‌تواند خطرناک باشد؟

دفاع از Black Hat، سخت‌تر از امنیت یک شرکت معمولی است

«نیل گریفتر وایلر» (Neil Grifter Wyler) که به مدت ۲۴ سال مدیریت مرکز عملیات شبکه را بر عهده داشته و به جز ۶ سال، مابقی را در کنار همکارش «بارت استامپ» (Bart Stump) کار کرده است می‌گوید دفاع از Black Hat «چندین مرتبه بزرگی» (Orders of Magnitude) سخت‌تر از امنیت سایبری یک شرکت معمولی است. در واقع، زمانی که رئیس امنیت سایبری المپیک پاریس به مدلی برای مرکز عملیات امنیتی خود نیاز داشت، یک هفته را با مرکز عملیات شبکه در Black Hat لندن گذراند. بخشی از این چالش به مقیاس مربوط می‌شود؛ یک شرکت معمولی در یک زمان با یک یا دو مهاجم مواجه می‌شود، درحالی‌که Black Hat باید با هزاران نفر مقابله کند که بسیاری از آن‌ها در حال آزمایش اکسپلویت‌هایی هستند که به‌تازگی توسط مدرسانی در سطح جهانی آموزش داده شده‌اند. چالش دیگر فیلترکردن است؛ تیم مرکز عملیات شبکه باید اجازه دهد این مدل کارها انجام شود، درحالی‌که باید آن‌ها را از حملات واقعی متمایز کند.

آنچه آن‌ها مشاهده می‌کنند، از موارد پیش‌پاافتاده تا نگران‌کننده متغیر است. برخی از شرکت‌کنندگان از یک برنامه آب‌وهوا استفاده می‌کردند که مختصات GPS آن‌ها را نشت می‌داد. شخص دیگری در حال غذادادن از راه دور به گربه خود از طریق اپلیکیشنی بود که دیگران می‌توانستند آن را هک کنند. همچنین بازدیدهایی از ۸۱ دامنه منحصربه‌فرد وب‌سایت‌های بزرگسالان ثبت شد.

از گربه خانگی تا تأسیسات تصفیه آب؛ هکرها همه‌جا را امتحان می‌کنند

اما همان ابزارهایی که دستگاه‌های تغذیه حیوانات خانگیِ در معرض خطر را شناسایی می‌کنند، فعالیت‌های شرورانه را نیز گیر می‌اندازند. چند سال پیش یک شرکت‌کننده از شبکه کنفرانس برای هک‌کردن یک تأسیسات تصفیه آب در آمریکا استفاده کرد (وایلر و استامپ درباره جزئیات محتاطانه عمل می‌کنند). شخص دیگری در پشت هیاهوی ترافیک هکرهای قانونی پنهان شد تا به وب‌سایت‌های دولتی و سیستم‌های پرداخت حمله کند. تیم مرکز عملیات شبکه او را ردیابی کرد، پیامی برایش فرستاد تا به او یادآوری کند که انجام کارهای غیرقانونی از درون Black Hat همچنان غیرقانونی است و سپس مشاهده کردند که او لپ‌تاپ خود را بست و آنجا را ترک کرد.

هکرهایی در آن سوی دنیا نیز شانس خود را امتحان می‌کنند. هنگامی که سرور ثبت‌نام روشن شد، حملات بلافاصله آغاز شد، از جمله ترافیکی که به نظر می‌رسید از رومانی نشئت می‌گرفت. وایلر می‌گوید: «ازکارانداختن Black Hat برای آن‌ها یک افتخار بزرگ خواهد بود.»

نبرد هکرها با مدافعان، حالا با هوش مصنوعی سرعت گرفته است

وایلر می‌گوید که این تیم سال‌هاست از هوش مصنوعی برای دفاع از شبکه هم در برابر بات‌ها و هم در برابر انسان‌ها استفاده می‌کند. اما بات‌ها به طرز چشمگیری ماهرتر شده‌اند. «مشکل این است که مدت‌زمان حملات از یک هفته به یک روز و سپس به ساعت‌ها یا دقایق کاهش یافته است»؛ بنابراین تیم مرکز عملیات شبکه، پشته‌ای (Stack) از ابزارهای هوش مصنوعی را برای مقابله‌به‌مثل ساخته است.

به‌عنوان‌مثال، Trevor که یک چت‌بات هوش مصنوعی است، می‌تواند سؤالاتی را که به زبان انگلیسی ساده نوشته شده‌اند به کدی تبدیل کند که قادر است در پایگاه‌داده پیچیده مرکز عملیات شبکه پیمایش کند. این امر کمک می‌کند تا اعضای تیم که بسیاری از آن‌ها فریلنسر هستند، سریع‌تر به‌سرعت مطلوب در کار برسند. ابزار دیگری بر الگوهای سیگنال‌های رمزنگاری‌شده معروف به Beacons که بررسی‌های دوره‌ای و کوچکی هستند که دستگاه‌های آلوده به سرورهای مهاجمان بازمی‌گردانند نظارت می‌کند و از یادگیری ماشین برای تمایز آن‌ها از میلیون‌ها اتصال قانونی که دستگاه‌ها هر روز برقرار می‌کنند، بهره می‌برد. با کمک همین ابزار بود که مشخص شد کامپیوتر یک روزنامه‌نگار تایوانیِ حاضر در Black Hat به بدافزار آلوده شده است؛ در میان نویز ترافیک عادی، این دستگاه با ریتمی منظم و مترونوم‌وار در حال برقراری اتصال با یک سرور ناشناس بود و در فواصل زمانی‌ای تکرار می‌شد که هیچ اپلیکیشن قانونی‌ای آن را تولید نمی‌کرد.

ابزار سوم از یک عامل هوش مصنوعی برای پروفایل‌سازی هر دستگاه روی شبکه استفاده کرده و رفتارهای غیرعادی را پرچم‌گذاری (Flag) می‌کند. هنگامی که مرکز عملیات شبکه ترافیک مشکوکی را روی لپ‌تاپ آن روزنامه‌نگار مشاهده کرد، این عامل هوش مصنوعی سرنخ‌های به‌دست‌آمده از شبکه را با اطلاعات موجود در اینترنت تطبیق داد تا به‌سرعت مالک آن را شناسایی کند. تیم پیش از تدوین گزارش و اطلاع‌رسانی به روزنامه‌نگار و سازمان متبوعش، از پایگاه‌داده ثبت‌نام کنفرانس برای تایید این تطابق استفاده کرد.

 استامپ می‌گوید مرکز عملیات شبکه، الگویی را در چندین کنفرانس Black Hat مشاهده کرده است که در آن شرکت‌کنندگان تایوانی با دستگاه‌های هک‌شده حاضر می‌شوند و «بیشتر [این ترافیک] به چین بازمی‌گردد.» احتمالاً حملات مبتنی بر هوش مصنوعی توسط دولت-ملت‌ها یا مجرمان سایبری شدت خواهد یافت.

مسابقه تسلیحاتی هوش مصنوعی تازه شروع شده است

این تیم معتقد است که مسابقه هوش مصنوعی تازه در آغاز راه است. از نظر وایلر، آسیب‌پذیری‌هایی که Mythos کشف کرده، جمله مواردی که دهه‌ها کشف‌نشده باقی‌مانده بودند به‌جای ترسیدن، باید مورد استقبال قرار گیرند؛ زیرا «اکنون می‌دانیم که چنین آسیب‌پذیری‌هایی وجود دارند.»

بااین‌وجود، استامپ هشدار می‌دهد که دو سال آینده پرالتهاب خواهد بود، زیرا آسیب‌پذیری‌های بیشتری کشف خواهند شد. با واردکردن داده‌های حساس توسط شرکت‌ها به سیستم‌های هوش مصنوعی رخنه‌های اطلاعاتی (Breaches) بیشتری رخ خواهد داد و کدهای ناامن بیشتری نوشته خواهد شد. اگر بتوان این دوره گذار را مسئولانه مدیریت کرد، ممکن است تعادل جدیدی حاصل شود که شبیه به تعادلی است که اکنون در حال پشت سر گذاشتن آن هستیم. استامپ می‌گوید یک چیز قطعی است: «یک سال دیگر مدل هوش مصنوعی جدیدی وجود خواهد داشت که کاری می‌کند تا Mythos مانند یک کودک نوپا با یک کیبورد به نظر برسد.»

گزارش حاضر در نسخه May 2nd 2026 نشریه The Economist منتشر شده است.