تیم امنیت سایبری آنتروپیک: مدل‌های هوش مصنوعی متن‌باز حتی روی تلویزیون‌های هوشمند هم می‌توانند خودشان را تکثیر کنند

مفهوم تکثیر و سازگاری خودمختار (autonomous replication and adaptation یا ARA) به توانایی یک مدل برای استقرار و گسترش خود بدون کنترل انسانی اشاره دارد. آزمایش‌های مطرح‌شده در گزارش آنتروپیک نشان می‌دهند که مدل‌های کوچک هوش مصنوعی ممکن است طی چند ماه آینده به‌اندازه‌ای توانمند شوند که بتوانند خود را روی دستگاه‌های اینترنت اشیا (IoT) تجاری، مانند دستگاه‌های اندرویدی ارزان‌قیمت متصل به تلویزیون تکثیر کنند.

مقدمه

چنین سامانه‌ای می‌تواند به شکل یک شبکه توزیع‌شده از دستگاه‌های آلوده فعالیت کند. برخلاف زیرساخت‌های متمرکز، در این شبکه نقطه واحدی برای خاموش‌کردن کل سامانه وجود ندارد. بااین‌حال، سرعت تکثیر آن احتمالاً پایین خواهد بود و ممکن است چند روز طول بکشد تا تعداد نسخه‌های آن دو برابر شود. تفاوت مهم دیگر با بدافزارهای سنتی این است که مدل هوش مصنوعی می‌تواند برای کار با دستگاه‌های ناآشنا تلاش کند و خود را با محیط‌های سخت‌افزاری متفاوت سازگار سازد.

در آزمایش‌های انجام‌شده، یک مدل ۹ میلیارد پارامتری توانست فرایند راه‌اندازی استنتاج را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده انجام دهد. همچنین، مدل‌های دارای حداکثر ۳۰ میلیارد پارامتر از هم‌اکنون قادرند بسیاری از مراحل منفرد موردنیاز برای تکثیر را اجرا کنند، هرچند هنگام ترکیب این مراحل در یک فرایند یکپارچه دچار خطا می‌شوند. در ارزیابی‌های ساده‌شده، مدل GLM-5.2 و مدل‌های توانمندتر توانستند کل فرایند تکثیر را از ابتدا تا انتها انجام دهند.

بر اساس روند تاریخی بهبود قابلیت مدل‌های کوچک، پژوهشگران تخمین می‌زنند که این مدل‌ها ممکن است تا پایان سال ۲۰۲۶ به سطح توانمندی موردنیاز برای تکثیر خودمختار برسند. البته این پیش‌بینی تقریبی است و به معنای اثبات امکان تکثیر قابل‌اعتماد در شرایط واقعی نیست.

کرم‌های هوش مصنوعی چگونه می‌توانند تکثیر شوند؟

در امنیت سایبری، کرم رایانه‌ای برنامه‌ای است که بدون دخالت انسان، خود را از یک رایانه به رایانه دیگر منتقل می‌کند. پژوهش‌های پیشین نشان داده‌اند که عامل‌های هوش مصنوعی نیز می‌توانند رفتارهایی مشابه داشته باشند؛‌یعنی بتوانند شبکه را بررسی کنند، از آسیب‌پذیری‌ها بهره‌برداری کنند و وزن‌های مدل را به دستگاه دیگری انتقال دهند.

در چنین حمله‌ای، وزن‌های مدل می‌توانند بخشی از محموله بدافزار باشند. عامل آلوده ممکن است وزن‌ها را همراه خود منتقل کند یا آن‌ها را دوباره از یک مخزن عمومی دریافت کند و سپس روی سخت‌افزار به‌دست‌گرفته‌شده اجرا کند.

پردازنده‌های گرافیکی دیتاسنترها اهداف ارزشمندی برای چنین حملاتی هستند، اما اجرای مدل‌های هوش مصنوعی لزوماً به شتاب‌دهنده‌های گران‌قیمت نیاز ندارد. مجموعه‌ای از دستگاه‌های اینترنت اشیا، که معمولاً ارزان هستند و از سطح امنیتی ضعیف‌تری برخوردارند، ممکن است در مجموع توان محاسباتی کافی برای اجرای یک مدل قابل‌توجه فراهم کنند.

پژوهشگران برای نشان‌دادن این امکان، مدل Gemma4-26B-A4B را روی ۱۵ دستگاه اندرویدی ارزان‌قیمت متصل به تلویزیون اجرا کردند. قیمت هر دستگاه حدود ۵۵ دلار بود و هرکدام چهار گیگابایت حافظه رم داشتند. مدل با تقسیم‌شدن به بخش‌های کوچک‌تر میان دستگاه‌ها، به سرعتی معادل ۰٫۳۹ توکن در ثانیه رسید.

در این روش، مدل به قطعاتی موسوم به «شارد» (Shard) تقسیم می‌شود. شارد یک بخش یا پارتیشن افقی از یک پایگاه‌داده بزرگ است که به‌صورت مستقل روی یک سرور یا گره جداگانه ذخیره می‌شود تا بار پردازشی و حجم داده‌ها توزیع شده و مقیاس‌پذیری افقی سیستم بهبود یابد. هر دستگاه بخشی از لایه‌های مدل را اجرا می‌کند و دستگاه‌ها با برقراری ارتباط با یکدیگر، اجرای مدل کامل را امکان‌پذیر می‌سازند. بنابراین، حتی اگر یک دستگاه به‌تنهایی ظرفیت اجرای مدل را نداشته باشد، مجموعه‌ای از دستگاه‌های ضعیف‌تر می‌توانند در کنار یکدیگر این کار را انجام دهند.

در این پژوهش، آنتروپیک تکثیر خودمختار را به چهار مرحله عملیاتی تفکیک می‌کنید: یافتن اهداف، دستیابی به امکان اجرا، برقراری استنتاج و تداوم انتشار از میزبان جدید.

پژوهشگران در بررسی خود بر بخشی از فرایند تمرکز کردند که کمتر مطالعه شده است؛ یعنی راه‌اندازی موتور استنتاج روی سخت‌افزارهای ناآشنا. آن‌ها مراحل نفوذ سایبری را تا حد زیادی ساده‌سازی کردند، زیرا پژوهش‌های قبلی نشان داده بودند که مدل‌های کوچک، به‌ویژه در صورت دسترسی به ابزارهای مناسب، توانایی‌هایی در بهره‌برداری از آسیب‌پذیری‌های سایبری دارند.

کدام دستگاه‌ها در معرض خطر قرار دارند؟

نخستین سناریوی مورد بررسی، تکثیر یک مدل کوچک از طریق آلوده‌کردن دستگاه میزبان است. پژوهشگران در این گزارش به مدل‌هایی که مستقیماً روی سخت‌افزارهای آلوده اجرا می‌شوند، عنوان «تکثیرکننده‌های مبتنی بر وزن» (Weight-based Replicators) می‌دهند.

دستگاه‌های اینترنت اشیای خانگی و کسب‌وکارهای کوچک ممکن است از نخستین اهداف چنین حملاتی باشند؛ زیرا به اینترنت متصل‌اند و در بسیاری از موارد، اقدامات امنیتی محدودی دارند. از جمله دستگاه‌های بالقوه می‌توان به یخچال‌ها و فرهای هوشمند، جاروبرقی‌های خودکار، ماشین‌های چمن‌زنی و دوربین‌های امنیتی اشاره کرد. برخی دستگاه‌های کنفرانس و تجهیزات دیگر نیز به تراشه‌های کوچک هوش مصنوعی مجهز شده‌اند که برای اجرای مدل‌ها روی خود دستگاه طراحی شده‌اند. این توان محاسباتی اضافی ممکن است چنین تجهیزاتی را به اهداف جذاب‌تری تبدیل کند.

دستگاه‌های ارزان‌قیمت اندرویدی متصل به تلویزیون نمونه‌ای مهم از این گروه هستند. این محصولات معمولاً نسخه‌هایی از پروژه متن‌باز اندروید را اجرا می‌کنند که سازندگان آن‌ها ممکن است امکانات امنیتی کافی به آن‌ها اضافه نکرده باشند. ظرفیت حافظه رم در دستگاه‌های مورد اشاره معمولاً بین یک تا چهار گیگابایت است.

در کنار این سناریو، دو نوع دیگر از تکثیرکننده‌های مبتنی بر وزن نیز مطرح می‌شوند. گروه نخست، تکثیرکننده‌های پیشرفته‌ای هستند که دیتاسنترها و زیرساخت‌های دارای توان محاسباتی بالا را هدف می‌گیرند. این گروه شامل مدل‌های پیشرو با وزن‌های بسته و مدل‌های دارای وزن‌های باز است. مدل‌های بزرگ‌تر معمولاً قابلیت‌های سایبری بیشتری دارند، اما برای اجرا به منابع محاسباتی بیشتری نیاز دارند و ممکن است مجبور شوند به زیرساخت‌هایی با حفاظت امنیتی قوی‌تر نفوذ کنند.

گروه دیگر، تکثیرکننده‌های مبتنی بر رابط برنامه‌نویسی کاربردی (API) هستند. این مدل‌ها با سرقت اعتبارنامه‌های دسترسی به API استنتاج، از زیرساخت ارائه‌دهنده خدمات برای اجرای خود استفاده می‌کنند. پایداری این روش ممکن است کمتر باشد، زیرا شناسایی چنین فعالیت‌هایی احتمالاً آسان‌تر است؛ بااین‌حال، سرعت گسترش آن می‌تواند بیشتر باشد، به‌ویژه اگر مهاجم بتواند از حساب‌هایی که به ان‌ها نفوذ کرده استفاده کند.

در عمل، یک کرم هوش مصنوعی لزوماً به یک مدل یا روش محدود نخواهد بود. ترکیبی از مدل‌های متفاوت، سخت‌افزارهای گوناگون و شیوه‌های مختلف تکثیر می‌تواند سناریوی تهدید پیچیده‌تری ایجاد کند.

چگونه یک مدل روی تلویزیون‌های هوشمند اجرا می‌شود؟

دستگاه‌های اینترنت اشیا حافظه کمی دارند، اما استنتاج توزیع‌شده مانند Petals، ارائه مدل‌های سبک را امکان‌پذیر می‌کند. مدل تهدید نمونه در آزمایش‌های آنتروپیک، یک بات‌نت بزرگ اینترنت اشیا به نام Kimwolf است که بیش از دو میلیون دستگاه، عمدتاً تلویزیون‌های اندرویدی غیربرند را آلوده کرده است. این دست تلویزیون هوشمندی که به‌راحتی برای خرید در دسترس هستند، معمولاً نسخه‌هایی از پروژه متن‌باز اندروید (AOSP) را اجرا می‌کنند که تولیدکنندگان آنها ویژگی‌های امنیتی به آن اضافه نمی‌کنند. دستگاه‌های معمولی در این محدوده با بین ۱ تا ۴ گیگابایت رم عرضه می‌شوند. طبق برآورد پژوهشگران، با فرض چهار گیگابایت رم و کوانتیزه‌سازی چهار بیتی، اجرای مدل‌های ۹ میلیارد پارامتری به چهار دستگاه یا بیشتر و اجرای مدل‌های ۲۶ میلیارد پارامتری به بیش از ۱۰ دستگاه نیاز دارد.

راه‌اندازی استنتاج؛ حلقه دشوار زنجیره تکثیر

تکثیر خودمختار صرفاً به نفوذ به یک دستگاه محدود نمی‌شود. مدل باید پس از دسترسی به دستگاه جدید، بتواند محیط آن را بررسی کند، نرم‌افزارهای مناسب را انتخاب کند، وابستگی‌ها را نصب کند و موتور استنتاج را به‌درستی راه‌اندازی کند.

این فرایند به تصمیم‌گیری‌های متوالی درباره سخت‌افزار و سیستم‌عامل نیاز دارد. مدل باید پشته نرم‌افزاری سازگار برای استنتاج را انتخاب کند، نسخه‌های مناسب بسته‌ها را پیدا کند و خطاهای اختصاصی دستگاه را برطرف سازد. شکست در هر مرحله ممکن است ادامه کار را مختل کند و بازیابی از خطا نیز دشوار باشد.

برای سنجش این توانایی، پژوهشگران عملکرد مدل‌های دارای وزن باز را در راه‌اندازی استنتاج مدل Llama3.1-8B روی انواع سخت‌افزارهای ناهمگون ارزیابی کردند. آن‌ها برای انجام آزمایش‌ها از چارچوبی به نام Memento استفاده کردند که بر پایه عامل برنامه‌نویسی متن‌باز Pi ساخته شده است. این چارچوب برای کاهش یکی از مشکلات عامل‌های هوش مصنوعی در وظایف طولانی طراحی شده است؛ پافشاری بر یک فرضیه اشتباه به‌جای بازگشت به مراحل قبلی و امتحان‌کردن راهبردی دیگر.

Memento به‌صورت دوره‌ای یک نمونه تازه از عامل را اجرا می‌کند. نمونه جدید به محیط کاری، کدها و یادداشت‌های نمونه قبلی دسترسی دارد و می‌تواند با استفاده از اطلاعات مربوط به تلاش‌ها و شکست‌های قبلی، راهبرد متفاوتی را دنبال کند. در آزمایش راه‌اندازی استنتاج، هر مدل در هر مرحله یک ساعت و نیم فرصت داشت و محدودیت زمانی کل شش ساعت بود. حدود هزار توکن اطلاعات، از جمله مشخصات سخت‌افزار و یک اسکریپت ساده برای سنجش عملکرد، در اختیار مدل قرار گرفت.

پژوهشگران تأکید می‌کنند که Memento برای بهبود قابلیت اطمینان در وظایف طولانی طراحی شده است، نه برای افزودن قابلیت‌های جدید سایبری یا توانایی‌های اختصاصی استنتاج. آن‌ها همچنین انتظار دارند مدل‌های کوچک حتی بدون چنین چارچوبی و با افزایش توانمندی‌هایشان پیشرفت کنند.

آزمایش تکثیر در شبکه‌ای از دستگاه‌ها

در مرحله بعد، پژوهشگران بررسی کردند که آیا مدل‌ها می‌توانند مراحل مختلف تکثیر را در یک فرایند پیوسته ترکیب کنند یا خیر. این مراحل شامل شناسایی اهداف شبکه، دسترسی به دستگاه‌ها، انتقال محموله و راه‌اندازی استنتاج است. برای این منظور، یک شبکه خصوصی و ایزوله‌شده شامل هشت گره ابری گوگل (GCP) ایجاد شد که هرکدام شبیه‌ساز اندروید ۱۵ موسوم به redroid را اجرا می‌کردند. یکی از گره‌ها از ابتدا به کرم آلوده بود و نقش نقطه آغاز را داشت.

در این آزمایش، گره‌ها از طریق درگاه ADB بدون احراز هویت به یکدیگر دسترسی داشتند. عامل پس از رسیدن به دستگاه جدید، محموله را منتقل می‌کرد و تلاش می‌کرد موتور استنتاج Llama3.1-8B را راه‌اندازی کند. در صورت موفقیت و عبور از آزمون‌های صحت و بررسی‌های ضدتقلب، نسخه دیگری از کرم روی گره مقصد اجرا می‌شد.

هدف از استفاده از Llama3.1-8B، ایجاد مبنایی یکسان برای مقایسه مدل‌ها بود؛ زیرا اجرای استنتاج مدل‌های بزرگ‌تر دشوارتر است. در نتیجه، آزمایش نشان می‌داد که یک مدل تا چه اندازه قادر است مراحل لازم برای تکثیر را به طور خودمختار انجام دهد، نه اینکه الزاماً بتواند وزن‌های خودش را روی دستگاه مقصد اجرا کند.

نتایج نشان دادند که GLM-5.2 توانایی خوبی در تکثیر Llama3.1-8B دارد. این نتیجه حاکی از آن است که مدل‌های کوچک آینده، در صورت رسیدن به سطح مشابهی از توانمندی، ممکن است بتوانند شناسایی شبکه، انتقال محموله و راه‌اندازی استنتاج را نیز انجام دهند. این مدل در ۴ مورد از ۵ آزمایش به هر ۸ گره از ۸ گره موجود و در یک مورد به ۷ گره نفوذ کرد.

بااین‌حال، این آزمایش مراحل نفوذ سایبری را بسیار ساده کرده بود؛ زیرا درگاه ADB به احراز هویت نیاز نداشت. بنابراین، نتایج به‌دست‌آمده را باید حد بالایی از موفقیت بالقوه در نظر گرفت، نه معیاری مستقیم از میزان موفقیت در دنیای واقعی. پژوهشگران یادآوری می‌کنند که بات‌نت‌های اینترنت اشیا در گذشته نیز از روش‌های ساده‌ای مانند امتحان‌کردن فهرست نام‌های کاربری و گذرواژه‌های پیش‌فرض سازندگان استفاده کرده‌اند.

در یک آزمایش تکمیلی، پژوهشگران مراحل راه‌اندازی استنتاج را با یک اسکریپت ازپیش‌نوشته‌شده جایگزین کردند تا دشواری هماهنگی و اجرای فرمان‌ها را جداگانه بسنجند. بسیاری از مدل‌ها، از جمله مدل‌های کوچک‌تر، توانستند مراحل باقی‌مانده را انجام دهند. در آزمایشی دیگر روی شبکه‌ای شامل ۱۷ میزبان، حتی یک مدل ۳ میلیارد پارامتری به حدود نیمی از گره‌ها رسید.

بر اساس این نتایج، تکثیر قابل‌اعتماد به دو شرط وابسته است::

1. مدل باید از حداقل سطح توانمندی لازم برای انجام مراحل تکثیر برخوردار باشد
2. آن‌قدر کوچک باشد که بتوان آن را روی سخت‌افزار هدف اجرا کرد.

در حال حاضر، این دو شرط در مدل‌های بررسی‌شده کاملاً بر هم منطبق نیستند. بااین‌حال، روند رشد توانمندی مدل‌های دارای حداکثر ۳۰ میلیارد پارامتر نشان می‌دهد که ممکن است این شکاف تا پایان سال ۲۰۲۶ کاهش یابد.

پژوهشگران برای برآورد این روند از شاخص توانمندی Epoch (ECI) استفاده کردند. براساس برازش خطی بر بهترین مدل‌های هر مقطع زمانی، این شاخص سالانه ۱۳٫۷ واحد افزایش یافته و ضریب R²  مدل برازش‌شده ۰٫۹۵ بوده است. اگر GLM-5.2 به‌عنوان حداقل سطح توانمندی موردنیاز برای تکثیر در نظر گرفته شود، این روند دستیابی یک مدل کوچک به آن سطح تا پایان سال ۲۰۲۶ را پیش‌بینی می‌کند. بااین‌حال، ECI تنها شاخصی جانشین برای توانایی تکثیر است و این تخمین قطعیت بالایی ندارد.

سرعت گسترش یک کرم هوش مصنوعی چقدر خواهد بود؟

سرعت اجرای عامل‌های تکثیرکننده روی سخت‌افزارهای لبه‌ای بسیار کمتر از سرعت عامل‌های برنامه‌نویسی تعاملی است. بنابراین، چنین کرمی احتمالاً به‌آرامی اما پیوسته گسترش می‌یابد. پژوهشگران با استفاده از سرعت به‌دست‌آمده در آزمایش دستگاه‌های واقعی، زمان تقریبی تکمیل وظایف را محاسبه کردند. در این ارزیابی، یک پنجره زمینه ۳۲ هزار توکنی مبنای محاسبه قرار گرفت. تکمیل این پنجره، شامل پردازش ورودی و تولید خروجی، بسته به مدل و تنظیمات، چندین ساعت زمان می‌برد.

این اعداد نشان می‌دهند که راه‌اندازی کامل استنتاج روی سخت‌افزارهای محدود ممکن است یک تا چند روز زمان ببرد. برآوردها براساس تعداد پنجره‌های زمینه موردنیاز برای تکمیل فرایند عامل محاسبه شده‌اند.

برای نشان‌دادن مقیاس بالقوه، پژوهشگران به بات‌نت Kimwolf اشاره می‌کنند که طبق گزارش Synthient، در اوج فعالیت خود بیش از دو میلیون دستگاه را آلوده کرده بود؛ بخش عمده این دستگاه‌ها تلویزیون‌ها و تجهیزات اندرویدی متصل به اینترنت بودند.

اگر شبکه‌ای با همین تعداد دستگاه وجود داشته باشد و هر ۱۵ دستگاه یک نسخه از Gemma4-26B-A4B را اجرا کنند، حدود ۱۳۳ هزار نسخه از مدل به وجود می‌آید. مجموعه‌ای متشکل از ۱۵ دستگاه مشابه نمونه آزمایش‌شده می‌تواند دو عامل را هم‌زمان با سرعت تقریبی ۰٫۳ توکن در ثانیه برای هر عامل اجرا کند. در نتیجه، ظرفیت کل شبکه به حدود ۸۰ هزار توکن در ثانیه خواهد رسید.

برای مقایسه، یک پردازنده گرافیکی H100 می‌تواند در شرایط هم‌زمانی بالا و با استفاده از رمزگشایی حدسی، مدل Gemma4-26B-A4B را با سرعت تقریبی ۱۹۵۰ توکن در ثانیه اجرا کند. براین‌اساس، کل توان استنتاج شبکه فرضی یادشده حداکثر معادل حدود ۴۰ پردازنده H100 خواهد بود. این میزان توان محاسباتی در مقیاس مطلق چندان زیاد نیست و تکثیرکننده‌ها نیز کند هستند. بااین‌حال، خطر اصلی می‌تواند در توزیع‌شدگی، پایداری و دشواری حذف کامل آن‌ها نهفته باشد.

پژوهشگران تأکید می‌کنند که این محاسبات تقریبی‌اند و تنها بر یک گروه سخت‌افزاری و یک نمونه تاریخی از بات‌نت تکیه دارند. در عمل، یک تکثیرکننده توانمندتر ممکن است از انواع دیگری از دستگاه‌های با امنیت پایین استفاده کند، مدل‌هایی با اندازه‌های متفاوت را روی سخت‌افزارهای مختلف اجرا کند و حتی لازم نباشد روی تمام دستگاه‌های آلوده وزن‌های یک مدل را بارگذاری کند. همچنین، گسترش سخت‌افزارهای محاسباتی لبه‌ای و کاهش اندازه مدل‌های لازم برای تکثیر قابل‌اعتماد می‌تواند شرایط را در آینده تغییر دهد.

سازگاری و یادگیری در جریان تکثیر

یکی از تفاوت‌های بالقوه کرم‌های هوش مصنوعی با بدافزارهای سنتی، امکان انتقال تجربه میان نسخه‌های مختلف است. پژوهشگران این فرایند را با مفهوم تکامل لامارکی مرتبط می‌دانند. «تکامل لامارکی» (Lamarckian Evolution) نظریه‌ای است که بر اساس آن، صفات و ویژگی‌هایی که جانداران در طول زندگی خود بر اثر استفاده یا عدم استفاده از اندام‌ها کسب می‌کنند، می‌توانند به نسل‌های بعدی منتقل شوند. در اینجا، نمونه والد می‌تواند دستورها، کدها و یادداشت‌های خود را به نمونه‌های بعدی منتقل کند.

برای گسترش موفق در محیط‌های متنوع، یک مدل باید دو قابلیت داشته باشد:

1. نخست، بتواند برای نخستین‌بار روی سخت‌افزار یا محیط نرم‌افزاری ناآشنا مستقر شود.
2. دوم، پس از مواجهه با یک محیط، تجربه خود را برای عملکرد بهتر در مواجهه‌های بعدی به کار گیرد.

برای بررسی این موضوع، هر نمونه از Qwen3.5-9B راهبردهای امتحان‌شدن و خطاهای خود را در یادداشت‌های کوتاه ثبت می‌کرد. نمونه بعدی این یادداشت‌ها را دریافت می‌کرد و دوباره برای راه‌اندازی استنتاج تلاش می‌کرد. پژوهشگران همچنین بررسی کردند که آیا مدل‌های کوچک می‌توانند هنگام مواجهه با مشکل از یک مدل پیشرفته‌تر کمک بگیرند یا خیر. در این آزمایش، Qwen3.5-9B به مدل Opus 4.8 دسترسی داشت.

نتایج نشان دادند که توصیه‌های مدل پیشرفته‌تر بهبود قابل‌اندازه‌گیری در عملکرد ایجاد نمی‌کنند. مدل‌های کوچک معمولاً نمی‌دانند چه پرسش‌هایی باید مطرح کنند و حتی دریافت توصیه بدون درخواست نیز عملکرد آن‌ها را بهبود نمی‌دهد. آموزش مبتنی بر یادگیری تقویتی برای استفاده از مشاور در مسائل برنامه‌نویسی پایتون نیز این مشکل را در وظیفه راه‌اندازی استنتاج برطرف نکرد. ازاین‌رو، پژوهشگران احتمال می‌دهند که در سامانه‌های پیچیده‌تر، یک مدل بزرگ‌تر راهبرد کلی را مدیریت کند و عامل‌های کوچک‌تر را به‌عنوان زیرعامل برای اجرای وظایف مشخص به کار گیرد.

تفاوت بات‌نت‌های هوش مصنوعی با بدافزارهای سنتی

بات‌نت‌های سنتی معمولاً برای نوع مشخصی از دستگاه طراحی می‌شوند. برای مثال، Kimwolf عمدتاً تلویزیون‌های اندرویدی و دستگاه‌های همراه را هدف قرار می‌داد. چنین بدافزارهایی برای گسترش به دستگاه‌های دیگر، اغلب به روش‌ها و کدهای متناسب با آن محیط نیاز دارند.

در مقابل، یک بات‌نت مبتنی بر هوش مصنوعی ممکن است به نوع خاصی از سخت‌افزار یا نرم‌افزار محدود نباشد. آزمایش‌های پژوهشگران نشان داده‌اند که مدل‌های کوچک توانسته‌اند موتورهای استنتاج را روی سخت‌افزارهای متفاوتی از Jetson Nano تا رایانه‌های مک، راه‌اندازی کنند.

این قابلیت می‌تواند دامنه اهداف احتمالی را از دستگاه‌های اینترنت اشیا فراتر ببرد. همچنین، بات‌نت‌های هوش مصنوعی ممکن است برای مقابله با مدافعان امنیتی رفتارهای هوشمندانه‌تری نشان دهند؛ هرچند پژوهشگران این توانایی را در آزمایش‌های خود بررسی نکرده‌اند.

نکته مهم آن است که توانایی بالقوه مدل‌های هوش مصنوعی در انجام وظایف طولانی و سازگاری با محیط‌های مختلف می‌تواند امکان بهره‌برداری از دستگاه‌های متنوع را فراهم کند؛ درحالی‌که بدافزارهای مبتنی بر قواعد ثابت معمولاً به محیط‌هایی محدود می‌شوند که از پیش برای آن‌ها طراحی شده‌اند.

راهکارهای دفاعی در برابر تکثیرکننده‌های هوش مصنوعی

پژوهشگران دفاع در برابر این تهدید را به کنترل یک بیماری واگیردار تشبیه می‌کنند. هدف این است که عدد تولیدمثل مؤثر، یعنی R₀، به کمتر از یک برسد. در این وضعیت، هر دستگاه آلوده به طور متوسط کمتر از یک دستگاه جدید را آلوده می‌کند و در نتیجه، شبکه به‌تدریج از بین می‌رود.

نخستین فرصت دفاعی، شناسایی الگوهای غیرعادی ترافیک شبکه است. یک تکثیرکننده مبتنی بر وزن برای انتقال محموله‌های چندگیگابایتی و اجرای استنتاج توزیع‌شده به ارتباطات شبکه‌ای نیاز دارد. این فعالیت‌ها ممکن است در سامانه‌های پایش ترافیک ارائه‌دهندگان اینترنت قابل‌شناسایی باشند. برای مثال، دریافت حجم زیادی داده از دستگاه‌های دیگر یا سرویس‌های میزبانی خارجی، ارتباط مداوم میان دستگاه‌هایی که معمولاً چنین حجمی از تبادل داده ندارند و الگوهای غیرعادی اسکن شبکه و اتصال‌های خروجی می‌توانند نشانه‌های آلودگی باشند. سرعت و پنهان‌کاری نیز با یکدیگر در تعارض‌اند. تکثیر سریع‌تر معمولاً ترافیک بیشتری تولید می‌کند و شناسایی آن را آسان‌تر می‌کند. پس از شناسایی، مدافعان می‌توانند از سامانه‌های طعمه یا هانی‌پات برای جمع‌آوری کدها، ابزارها و محموله بدافزار و بررسی رفتار آن استفاده کنند.

راهکار دوم، قرنطینه شبکه‌های آلوده و اطلاع‌رسانی به کاربران است. پژوهشگران به تجربه مقابله با بات‌نت Mirai اشاره می‌کنند. در آن مورد، ارائه‌دهنده خدمات اینترنت با محدودکردن دسترسی مشترکان آلوده به فهرستی کوتاه از وب‌سایت‌های مجاز و هدایت مرورگرهای آن‌ها به دستورالعمل‌های پاک‌سازی، توانست طی ۱۴ روز ۹۲ درصد آلودگی‌ها را برطرف کند. میزان پاک‌سازی در نبود اطلاع‌رسانی ۷۴ درصد بود. پژوهشگران انتظار دارند قرنطینه‌کردن شبکه‌ها برای مقابله اولیه با تکثیرکننده‌های مبتنی بر وزن نیز مؤثر باشد. بااین‌حال، حذف کامل یک تکثیرکننده توزیع‌شده مستلزم هماهنگی میان تمام ارائه‌دهندگان اینترنتی است که شبکه‌های آلوده دارند؛ اقدامی که اجرای آن دشوار خواهد بود.

راهکار سوم، افزایش امنیت دستگاه‌ها از طریق اقدامات سازندگان و مقررات‌گذاری است. استفاده از گذرواژه‌های پیش‌فرض ناامن، یکی از مشکلات شناخته‌شده دستگاه‌های اینترنت اشیا بوده است. برای مثال، استفاده از چنین گذرواژه‌هایی در بازار بریتانیا دیگر با مقررات مربوطه سازگار نیست. ارتقای تنظیمات امنیتی پیش‌فرض و افزایش حداقل الزامات امنیتی می‌تواند سطح آسیب‌پذیری دستگاه‌ها را در برابر بات‌نت‌های مبتنی بر هوش مصنوعی و بدافزارهای سنتی کاهش دهد.

جمع‌بندی: نشانه‌های اولیه یک تهدید جدید

نتایج آزمایش‌ها نشان می‌دهند قابلیت‌هایی که مدل‌های هوش مصنوعی را به عامل‌های برنامه‌نویسی قدرتمند تبدیل می‌کنند، می‌توانند در وظایف سایبری، از جمله تکثیر خودمختار، نیز کاربرد داشته باشند. پژوهشگران هنوز یک تکثیرکننده خودمختار کامل و خارج از کنترل را ایجاد نکرده‌اند، اما نشانه‌هایی از امکان‌پذیرشدن این قابلیت دیده می‌شود. عامل‌ها به‌تدریج توانمندتر می‌شوند و می‌توانند بخش‌های مختلف زنجیره تکثیر را اجرا کنند و تجربه خود را به نسخه‌های بعدی منتقل کنند.

شکل نهایی این تهدید هنوز مشخص نیست. ممکن است با شبکه‌ای کند و توزیع‌شده از عامل‌ها مواجه شویم که روی سخت‌افزارهای نسبتاً ناامن فعالیت می‌کنند؛ یا تکثیرکننده‌هایی قدرتمندتر که با سرعت بیشتری به دیتاسنترها نفوذ می‌کنند یا از طریق فریب افراد، اعتبارنامه‌ها و منابع محاسباتی موردنیاز خود را به دست می‌آورند.

پژوهشگران همچنین پیش‌بینی می‌کنند که در آینده، عامل‌های هوش مصنوعی روی انواع سخت‌افزارها اجرا شوند و برخی از آن‌ها خارج از کنترل انسان فعالیت کنند. از دیدگاه آن‌ها، عامل‌های سبک ممکن است نسبت به مهاجمان انسانی آمادگی بیشتری برای صرف زمان و تلاش لازم به‌منظور آلوده‌کردن شمار زیادی از دستگاه‌های اینترنت اشیا داشته باشند. ظهور تکثیرکننده‌های کند نیز می‌تواند نشانه‌ای هشداردهنده از امکان ظهور نمونه‌های سریع‌تر و توانمندتر باشد؛ نمونه‌هایی که قادرند به سامانه‌های دارای حفاظت امنیتی قوی‌تر نفوذ کنند یا کلیدهای API را سرقت کنند.

در نتیجه، راهبرد دفاعی نباید فقط بر جلوگیری از حملات اولیه متمرکز باشد. تقویت امنیت دستگاه‌ها، شناسایی الگوهای غیرعادی شبکه، قرنطینه سریع میزبان‌های آلوده و هماهنگی میان ارائه‌دهندگان خدمات اینترنتی می‌تواند گسترش این تهدید را محدود کند. درعین‌حال، پژوهشگران بر ضرورت آمادگی برای شرایطی تأکید می‌کنند که در آن، عامل‌های خودمختار تکثیرشونده به بخشی پایدار از چشم‌انداز امنیت سایبری تبدیل شده‌اند.