خودآگاه
آموزش‌های پایه‌ای هوش مصنوعیآموزش‌های پیشرفته هوش مصنوعیداده کاوی و بیگ دیتایادگیری تقویتی

محققان با طراحی الگوریتمی «خودآگاه» به مبارزه با هکرها می‌روند

    0
    مدت زمان مطالعه: ۶ دقیقه

    محققان قرار است با طراحی نوعی الگوریتم خودآگاه مانع فعالیت‌های هکرها شوند. هکرها از مرزهای دفاعی یک نیروگاه انرژی هسته‌ای عبور می‌کنند و با تغذیه‌ داده‌های جعلی به سیستم‌ها، کامپیوترها و کارکنان را فریب می‌دهند؛ ماشین‌آلات کلیدی نیروگاه‌ها دچار اختلال شده یا به طور کل از کار می‌افتند. تا وقتی اپراتورها متوجه مشکل بشوند، کار از کار گذشته و فاجعه‌ای بزرگ رخ داده است! این سناریو بیشتر به صحنه‌ای از یک فیلم جاسوسی شباهت دارد.

    اما به‌هیچ‌عنوان، تخیلی و دور از ذهن نیست. مشابه این اتفاق در سال ۲۰۱۰ رخ داد، زمانی که ویروس استاکس‌نت سانتریفیوژهای هسته‌ای ایران را هدف قرار داد و تخریب کرد. طی سال‌های اخیر، شمار حملات سایبری و باج‌افزاری در سراسر دنیا افزایش یافته است. اپراتورها بیشتر از همه نگران حملات پیچیده‌ای هستند که به سیستم‌ها «داده‌های اشتباه تزریق می‌کنند». مدل‌های کامپیوتری و تحلیل داده که کارایی عملیات‌ها را در شبکه‌های برق، تأسیسات تولیدی و نیروگاه‌ها تضمین می‌کنند، مبتنی بر هوش مصنوعی هستند و در صورتی که به دست آدم‌های اشتباه بیفتند، می‌توانند علیه این نیروگاه‌ها و تأسیسات به کار بروند.

    هانی عبدالخالق از دانشگاه پردو، راهکاری قدرتمند برای رفع این نگرانی‌ها ارائه می‌دهد: «مدل‌های کامپیوتری که در این سیستم‌های سایبر- فیزیکی به کار می‌روند، باید خاصیت خودآگاه و خودترمیمی داشته باشند.» عبدالخالق و دانشجویانش دریافته‌اند که با استفاده از نویزهای موجود در جریان داده‌های خود سیستم‌ها، می‌توان سیگنال‌های یک‌بارمصرف و دائم‌التغییری ایجاد کرد و بدین ترتیب، اجزای منفعل سیستم را به عنوان نگهبان‌هایی فعال به کار برد. در این صورت، حتی اگر هکرها یک نسخه کپی از مدل در دست داشته باشند، هرگونه تلاشی که برای تزریق داده‌های اشتباه به سیستم‌ها انجام دهند، به سرعت شناسایی می‌شود و به دست خود سیستم رد می‌شود، بدون اینکه نیازی به پاسخ یا دخالت انسانی وجود داشته باشد.

    عبدالخالق، استاد و پژوهشگر مهندسی هسته‌ای مرکز آموزشی- پژوهشی امنیت و تضمین اطلاعات (CERIAS)، توضیح می‌دهد: «ما نام این روش را خودآگاهی نهان گذاشته‌ایم. برای درک بهتر این رویکرد، فرض کنید یک دسته زنبور اطرافتان می‌چرخند. اگر کمی جابه‌جا شوید، کل این دسته نیز به حرکت شما پاسخ می‌دهند. حال در حوزه‌ امنیت سایبری، اگر یک نفر به داده‌ها دست‌درازی کند، کل سیستم متوجه این مزاحمت می‌شود و داده‌های تغییریافته را درست می‌کند.»

    خودآگاه

    اعتمادسازی از طریق خودآگاهی

    عبدالخالق خود به این نکته واقف است که تخصص اصلی‌اش، مهندسی هسته‌ای، با حوزه‌ مهندسی کامپیوتر فاصله‌ زیادی دارد؛ اما درحال‌حاضر، زیرساخت‌های بحرانی صنایع انرژی، آب و تولید از تکنیک‌های محاسباتی پیشرفته‌ای از جمله یادگیری ماشین، تحلیل‌های پیش‌بین و هوش مصنوعی استفاده می‌کنند. کارکنان برای خواندن صفحه‌ دستگاه‌ها و ماشین‌آلات و اعتبارسنجی آمار و ارقامی که مشاهده می‌کنند، بر این مدل‌ها تکیه دارند. عبدالخالق طی یادگیری در خصوص رآکتورها و واکنش‌شان به خرابی‌ها، با فناوری دوقلوهای دیجیتال که در این تأسیسات و نیروگاه‌ها به کار می‌روند نیز آشنا شده است. دوقلوهای دیجیتال، رونوشت شبیه‌سازی شده از مدل‌های نظارتی هستند که به اپراتورها کمک می‌کنند اشتباه‌های واقعی را تشخیص دهند.

    با این حال، بعد از مدتی، تمرکز و علاقه‌ عبدالخالق از خرابی تصادفی دستگاه‌ها به مشکلات عمدی، به خصوص مسائلی که با دسترسی هکرها به دوقلوهای دیجیتال پیش می‌آیند، تغییر کرد. دسترسی به شبیه‌سازهایی که کنترل رآکتورهای هسته‌ای و سایر زیرساخت‌های بحرانی را در دست بگیرند، کار نسبتاً آسانی است. به علاوه، این خطر هم همیشه وجود دارد که فردی از داخل نیروگاه که به مدل و دوقلوی دیجیتال آن دسترسی دارد، حمله‌ای راه‌اندازی کند.

    ینی لی، از دیگر محققان حاضر در این پروژه که به کاربرد مدل‌های هوش مصنوعی برای تشخیص حملاتی از این دست علاقه‌مند است، می‌گوید: «اثربخشی راهکارهای دفاعی قدیمی وابسته به سطح دانشی است که از مدل دارید. به همین خاطر، اگر هکرها هم دانش خوبی از مدل داشته باشند، این راهکارها دیگر کاربردی نخواهد داشت.»

    عبدالخالق توضیح می‌دهد: «همه‌ سیستم‌های امروزی که وظیفه‌شان تصمیم‌گیری بر اساس اطلاعات است، در برابر این نوع حملات آسیب‌پذیرند. با دسترسی به داده‌ها و جابه‌جایی آن‌ها با داده‌های جعلی، به‌راحتی می‌توان این اطلاعات و به‌تبع، تصمیمات نهایی را تحت‌تأثیر قرار داد.»

    عبدالخالق و آرویند ساندارام، دانشجوی مهندسی هسته‌ای، برای مبارزه با این نوع حملات، راهکاری ارائه داده‌اند که شامل مخفی کردن سیگنال‌ها در «فضای نهان نویز» سیستم می‌شود. مدل‌ها هزاران هزار متغیر را مدیریت می‌کنند؛ اما تنها کسری از این داده‌ها در محاسبات به کار رفته و بر خروجی‌ها و پیش‌بینی‌های مدل، تأثیر می‌گذارد. با اعمال تغییراتی جزئی در متغیرهای غیرضروری، الگوریتم می‌تواند سیگنالی تولید کند که همه‌ اجزای سیستم با تکیه بر آن، بتوانند صحت داده‌های ورودی را تشخیص و پاسخ درست را ارائه دهند.

    ساندارام توضیح می‌دهد: «اگر اجزا به درستی و در چارچوبی منسجم کنار هم قرار نگرفته باشند، سیستم نمی‌تواند درک درستی نسبت به این اجزا یا حتی نسبت به خودش داشته باشد و به همین دلیل، به هر ورودی‌‌ای که دریافت کند، پاسخ می‌دهد؛ اما سیستم‌های خودآگاه، نوعی مدل تشخیص ناهنجاری داخل خود دارند. بدین ترتیب، خود مدل مشکلات را تشخیص می‌دهد و ورودی‌های ناسالم را نادیده می‌گیرد.»

    الگوریتم خودآگاه

    به منظور افزایش سطح امنیت، این سیگنال‌ها به وسیله‌ نویزهای تصادفی سخت‌افزارهای سیستم (به عنوان مثال، نوسانات دما یا مصرف برق سیستم) تولید می‌شوند؛ بنابراین، حتی اگر هکرها دوقلوی دیجیتال مدل‌های نیروگاه را هم در دست داشته باشند، نمی‌توانند این سرنخ‌های داده‌ای را که دائماً در حال تغییر هستند، پیش‌بینی یا شبیه‌سازی کنند. حتی افرادی که دسترسی داخلی دارند هم نمی‌توانند از این مانع عبور کنند.

    عبدالخالق می‌گوید: «هر چقدر هم که به یک راهکار امنیتی اعتماد داشته باشید، باز هم باید کلید آن را در اختیار یک نفر قرار دهید و اگر آن فرد از این کلید سوءاستفاده کند، همه چیز از دست می‌رود. اینجاست که لزوم بیشتری می‌یابد، اگر اختلالات اضافه‌شده مبتنی بر نویز خود سیستم باشند؛ چون درک نویز سیستم به‌هیچ‌عنوان، حتی برای افراد داخلی هم امکان‌پذیر نیست. این نویزها به صورت خودکار ضبط و به سیگنال اضافه می‌شوند.»

    این روش تاکنون در رآکتورهای هسته‌ای اجرایی شده است؛ بااین‌حال، محققان کاربردهای گسترده‌تری نیز برای پروژه‌ خود در نظر گرفته‌اند و معتقدند همه‌ صنایعی که از حلقه‌های کنترلی و حسگرها استفاده می‌کنند، می‌توانند از آن بهره‌مند شوند. کاربرد این روش‌ها به حوزه‌ امنیت سایبری محدود نمی‌شود؛ به عنوان مثال، می‌توان به تشخیص ناهنجاری همراه با خاصیت خودترمیمی اشاره کرد که جلوی خاموشی‌های پرهزینه را می‌گیرد یا روش جدیدی برای رمزنگاری است که اشتراک‌گذاری ایمن داده‌ها از سیستم‌های بحرانی به محققان بیرونی را تضمین می‌کند.

    امنیت سایبری در دنیای واقعی

    عبدالخالق و ساندارام به عنوان مهندسان هسته‌ای از تخصص و منابع CERIAS بهره برده‌اند، تا نقاط آسیب‌پذیر دنیای امنیت سایبری و علوم کامپیوتر را پیدا کنند. عبدالخالق کمک‌های الیسا برتینو، استاد علوم کامپیوتر و مدیر پژوهشی CERIAS را نیز مورد قدردانی قرار می‌دهد؛ به گفته‌ وی، کمک‌های برتینو جرقه‌ آغازگر مسیری بوده است که به الگوریتم «خودآگاهی نهان» منتهی شده است. مرکز CERIAS فرصت‌های جدید و امکان برقراری ارتباط با همکاران دیگر را در اختیار او قرار داده است.

    CERIAS که در سال ۱۹۹۸ تأسیس شده، یکی از قدیمی‌ترین و بزرگ‌ترین مراکز تحقیقاتی سراسر دنیا در حوزه‌ امنیت سایبری به شمار می‌رود. به عقیده‌ جوئل راسموس، مدیر CERIAS، مأموریت اصلی این سازمان همواره ماهیتی میان‌رشته‌ای داشته است. درحال‌حاضر، این مرکز با محققانی از ۱۸ دپارتمان مختلف از هشت دانشکده‌ دانشگاه پردو همکاری دارد؛ پژوهش عبدالخالق مصداق بارز این همکاری‌هاست.

    راسموس معتقد است: «بیشتر مردم وقتی در خصوص امنیت سایبری فکر می‌کنند، تنها جنبه‌ کامپیوتری آن را مدنظر قرار می‌دهند. اما اینجا می‌بینیم که عبدالخالق، متخصص مهندسی هسته‌ای، کاری بی‌سابقه و باورنکردنی در حوزه‌ امنیت سایبری و سایبری- فیزیکی انجام داده است. ما توانستیم بین او و متخصصان کامپیوتر دانشگاه پردو که با وجود دانش بالا در این حوزه، شناختی از مهندسی هسته‌ای یا شبکه‌های برق ندارند، ارتباط برقرار کنیم.»

    مبارزه با هکرها

    عبدالخالق و ساندارام به فکر تجاری‌سازی الگوریتم «خودآگاهی نهان» به کمک یک استارتاپ هستند. این استارتاپ که «دفاع‌های نهان LLC» نام دارد، اخیراً با شرکت Entanglement، شرکتی نوپا در حوزه‌ فناوری عمیق، شروع به همکاری کرده است، تا در نهایت راهبردی آماده‌ ورود به بازار توسعه دهند.

    علاوه بر این، محققان، مشغول کار بر روی توسعه‌ جعبه‌افزار نرم‌افزاری هستند که قابلیت ادغام با بسترهای آزمایشی امنیت سایبری CERIAS و آزمایشگاه ملی Pacific Northwest را داشته باشد؛ در این آزمایش‌ها، سنسورها و موتورها با نرم‌افزارها ترکیب می‌شوند، تا سیستم‌های صنعتی عظیم را شبیه‌سازی کنند.

    راسموس معتقد است: «دامنه‌ کاربردهای دستاورد عبدالخالق بسیار گسترده است، چون این راهکار در اصل ایده‌ای است که تقریباً همه‌ حوزه‌های امنیت سایبری، از جمله تولید پیشرفته یا حمل‌ونقل، می‌توانند از آن بهره ببرند. هدف ما حصول اطمینان از این نکته است که تحقیقات‌مان به حل مسائل دنیای واقعی نیز کمک کنند.»

    این مطلب چه میزان برای شما مفید بوده است؟
    [کل: ۳ میانگین: ۳.۷]

    کاهش سوگیری و ارتقای عدالت در عرصه‌ هوش مصنوعی

    مقاله قبلی

    تحول دیجیتال در صنعت انرژی با هوش مصنوعی

    مقاله بعدی

    شما همچنین ممکن است دوست داشته باشید

    نظرات

    پاسخ دهید

    نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *