۱۶ کارگاه عملی هوش مصنوعی برای فعالان محتوا و رسانه ثبت‌نام با ۵۰٪ تخفیف
Generic filters
Search in title
Filter by دسته‌ها
chatGTP
ابزارهای هوش مصنوعی
اخبار
گزارش خبری
پرامپت‌ نویسی
تیتر یک
چندرسانه ای
آموزش علوم داده
اینفوگرافیک
پادکست
ویدیو
دانش روز
آموزش‌های پایه‌ای هوش مصنوعی
اصول هوش مصنوعی
یادگیری بدون نظارت
یادگیری تقویتی
یادگیری عمیق
یادگیری نیمه نظارتی
آموزش‌های پیشرفته هوش مصنوعی
بینایی ماشین
پردازش زبان طبیعی
پردازش گفتار
چالش‌های عملیاتی
داده کاوی و بیگ دیتا
رایانش ابری و HPC
سیستم‌‌های امبدد
علوم شناختی
خطرات هوش مصنوعی
دیتاست
مدل‌های بنیادی
رویدادها
Ai Conect
جیتکس
جیتکس ترکیه
کاربردهای هوش مصنوعی
کتابخانه
اشخاص
شرکت‌های هوش مصنوعی
محصولات و مدل‌های هوش مصنوعی
مفاهیم
کسب‌و‌کار
تحلیل بازارهای هوش مصنوعی
کارآفرینی
هوش مصنوعی در ایران
هوش مصنوعی در جهان
مقاله
پیاده‌سازی هوش مصنوعی
گزارش
مصاحبه
هوش مصنوعی در عمل
یادداشت
 ترس از آخرالزمان هوش مصنوعی بیش از حد بزرگ‌نمایی شده است

تهدید امنیتی هوش مصنوعی

ترس از آخرالزمان هوش مصنوعی بیش از حد بزرگ‌نمایی شده است

زمان مطالعه: 5 دقیقه

«سیران مارتین» در اکونومیست می‌نویسد: «به‌کارگیری اصول اولیه امنیت سایبری می‌تواند تا حد زیادی مشکلاتی را که آنتروپیک و OpenAI شناسایی کرده‌اند برطرف کند.»

در ۱۹ مه ۱۹۹۸، هفت هکر از گروهی به نام L0pht وارد ساختمان دفاتر سنا در واشنگتن دی‌سی شدند. آن‌ها با برخورداری از امکان استفاده از نام مستعار، درحالی‌که کت‌وشلوارهایی نامتناسب به تن داشتند، وارد جلسه شدند تا به یکی از کمیته‌های کنگره هشدار دهند که هرکدام از آن‌ها می‌تواند ظرف ۳۰ دقیقه اینترنت را غیرقابل‌استفاده کند. در میان آن‌ها افرادی با نام‌های مستعار «Mudge»، «Space Rogue» و «Kingpin» حضور داشتند. چهارده سال بعد، «لئون پانه‌تا»، وزیر دفاع وقت آمریکا، درباره وقوع یک «پرل هاربر سایبری» هشدار داد.

ترس از آخرالزمان هوش مصنوعی بیش از حد بزرگ‌نمایی شده است
«سیران مارتین» استاد مدرسه حکومت‌داری بلاواتنیک در دانشگاه آکسفورد است. او از سال ۲۰۱۶ تا ۲۰۲۰ ریاست مرکز ملی امنیت سایبری بریتانیا را بر عهده داشت.

امنیت سایبری سابقه‌ای طولانی از پیش‌گویی‌های آخرالزمانی دارد؛ پیش‌گویی‌هایی که با وجود وقوع هک‌ها و آسیب‌های متعدد و گاه جدی، هیچ‌گاه دقیقاً به واقعیت نپیوسته‌اند. حالا، ۱۴ سال دیگر گذشته و موج تازه‌ای از فاجعه‌نمایی به راه افتاده است. آنتروپیک در آوریل اعلام کرد جدیدترین مدلش به نام Mythos آن‌قدر در هک‌کردن توانمند است که قرار نیست به‌صورت عمومی عرضه شود. OpenAI نیز در ژوئیه فاش کرد که چند عامل هوش مصنوعی این شرکت از محیط آزمایشی خود خارج شده و وارد Hugging Face، کتابخانه‌ای از مدل‌های هوش مصنوعی، شده‌اند. پس از آن نیز افشاگری‌های مشابهی از سوی آنتروپیک، متا و مؤسسه امنیت هوش مصنوعی بریتانیا منتشر شد.

ماجراهای فرار و حمله عامل‌های هوش مصنوعی را در هوشیو بخوانید:

حمله عامل‌های خودمختار به Hugging Face؛ امریکایی‌ها جواب ندادند، چینی‌ها دفاع کردند

این مدل داخلی OpenAI بود که فرار کرد و Hugging Face را هک کرد!

عامل هوش مصنوعی فراری OpenAI فقط Hugging Face را هک نکرد

چرا فرار مدل OpenAI نگران‌کننده‌ترین خطای هوش مصنوعی تاکنون است

بعد از OpenAI، حالا نوبت Claude رسید که فرار، حمله و هک کند

مدل هوش مصنوعی متا در جریان آزمایش‌های امنیت سایبری، یک شرکت دیگر را هک کرد

بعد از امریکایی‌ها، حالا نوبت چینی‌ها و Kimi K3 رسید که از سندباکس خود فرار کنند

یکی از رسانه‌ها، در بازتاب حس نگرانی و بیم، این وضعیت را «آغاز عصر خطرناک سایبری هوش مصنوعی» نامید. اما آیا این بار واقعاً شرایط متفاوت است؟ یا همچنان تعادل ناپایدار میان حمله و دفاع برقرار است؟ در بیشتر موارد و خوشبختانه، همان تعادل همچنان برقرار است؛ به دو دلیل.

نخست اینکه الگویی که در آن اطلاعیه‌ها و هشدارهای ترسناک، ظرف چند هفته جای خود را به ارزیابی‌های سنجیده‌تر می‌دهند، بار دیگر و بار دیگر تکرار می‌شود. برجسته‌ترین ادعای آنتروپیک درباره Mythos این بود که این مدل توانسته نقصی را در نرم‌افزاری پرکاربرد کشف کند که قدمت آن حتی به دهه ۱۹۹۰ بازمی‌گشت. بااین‌حال، تحلیل‌های بعدی نشان دادند که این تهدید بسیار کم‌خطرتر از چیزی است که تیترهای رسانه‌ای القا می‌کردند. ظرف چند هفته، پیش‌بینی‌ها درباره سونامی حملات سایبری مبتنی بر هوش مصنوعی جای خود را به پیش‌بینی دوره‌ای صرفاً طوفانی دادند و سپس بحث‌ها به این سمت رفت که هوش مصنوعی می‌تواند فرصتی برای بهبود امنیت باشد. اگر هوش مصنوعی در یافتن نقاط ضعف مهارت دارد، می‌تواند به رفع آن‌ها نیز کمک کند.

در مورد عامل‌های موسوم به «سرکش» (Rogue) نیز واقعیت آن‌قدرها که در نگاه اول به نظر می‌رسد نگران‌کننده نیست. آن‌ها سرکش نشده بودند. بلکه دقیقاً همان کاری را انجام می‌دادند که انسان‌ها از آن‌ها خواسته بودند؛ با این تفاوت که مانند کودکانی بااستعداد اما بدون نظارت، بیش از حد پیش‌قدم و فاقد انضباط بودند. آن‌ها هیچ آسیب واقعی ایجاد نکردند.

ترس از آخرالزمان هوش مصنوعی بیش از حد بزرگ‌نمایی شده است

جزئیات این رخدادها با یکدیگر متفاوت است، اما عامل مشترک، ناتوانی در کنترل محیط آزمایش است. این وضعیت باید اصلاح شود. برخی افراد در جامعه امنیت سایبری از ضعف کنترل‌های آزمایشی ابراز شگفتی کردند و خاطرنشان کردند که اگر آزمون‌های شرکت‌های امنیتی به نتایج مشابهی منجر می‌شد، ممکن بود پای شکایت‌های قضایی و حتی پیگرد کیفری به میان بیاید.

این اصل پاسخ‌گویی بسیار مهم است و فراتر از محیط آزمایش می‌رود. عامل‌ها می‌توانند به‌صورت خودکار عمل کنند، اما خودمختار نیستند: هرکس یک عامل را برای انجام کاری به کار می‌گیرد، مسئول کاری است که آن عامل انجام می‌دهد. اگر جهان اجازه دهد عامل‌های هوش مصنوعی بدون نظارت یا پاسخ‌گویی به حال خود رها شوند و هر کاری که می‌خواهند انجام دهند، حملات سایبری در میان مشکلاتی که در پی خواهد آمد، احتمالاً از کم‌اهمیت‌ترین آن‌ها خواهند بود.

دومین دلیل برای حفظ آرامش، به درک هکرها بازمی‌گردد. گزارش‌های مربوط به Mythos و عامل‌ها، به شرایط آزمایشی مصنوعی؛ یعنی همان محیط ایزوله سندباکس مربوط می‌شوند. استفاده از عامل‌ها برای هک در دنیای واقعی مستلزم عبور از حفاظ‌های ایمنی و صرف هزینه‌های محاسباتی بسیار سنگین است.

این محدودیت‌ها اهمیت دارند؛ زیرا بااینکه چندین سال از آغاز عصر هوش مصنوعی گذشته، اما شواهد مبنی بر اینکه هکرهای مخرب از تکنیک‌های پیشرفته هک مبتنی بر هوش مصنوعی استفاده می‌کنند، همچنان به شکل شگفت‌آوری اندک است.

سال گذشته، یک مقاله پژوهشی اولیه از MIT Sloan که با همکاری یک شرکت ارائه‌دهنده خدمات امنیت هوش مصنوعی تهیه شده بود، ادعا کرد که ۸۰ درصد از حملات باج‌افزاری (مخرب‌ترین شکل جرایم سایبری) با استفاده از هوش مصنوعی انجام شده‌اند. بخش‌های بازاریابی شرکت‌ها به‌سرعت روی این یافته مانور و نشریات معتبر نیز آن را بازتاب دادند.

اما این مقاله پس ازآن‌پس گرفته شد که منتقدان متوجه شدند پژوهشگران، WannaCry را نیز در شمار حملات مبتنی بر هوش مصنوعی قرار داده‌اند؛ حمله‌ای در سال ۲۰۱۷ که طی آن هکرهای کره شمالی با حمله‌ای که از کنترل خارج شد، در بیش از ۱۵۰ کشور اختلال ایجاد کردند.

یکی از افرادی که این ادعای بی‌معنا را شناسایی کرد، «مارکوس هاچینز»، متخصص امنیت سایبری بریتانیایی بود که به دلیل متوقف‌کردن WannaCry شهرت دارد. هاچینز اکنون از «هراس جمعی درباره Mythos» ابراز تأسف می‌کند؛ به‌ویژه باتوجه‌به اینکه «تأسیسات تصفیه آب محلی با Windows XP کار می‌کند» که در زمان حمله WannaCry نیز از رده خارج شده بود. او همچنین به این نکته اشاره می‌کند که «پروتکلی که ترافیک اینترنت را مسیریابی می‌کند، صرفاً با این توافق جمعی ایمن شده است که ربودن آن کار جالبی نیست.»

Mudge و دیگران در سال ۱۹۹۸ هشدار داده بودند که بخش‌های بنیادی معماری اینترنت به‌شدت ناامن هستند و برخی از آن‌ها هنوز هم همین وضعیت را دارند. دلیل اینکه هیچ‌کس اینترنت را از کار نینداخته این است که هیچ هکر توانمندی دلیل موجهی برای انجام چنین کاری ندارد و هرکس چنین اقدامی کند، باید انتظار پیامدهای سنگینی را داشته باشد. این امر همچنان مبنای ناپایدار زندگی دیجیتال مدرن است.

نکته هاچینز درباره زیرساخت‌های حیاتی، حتی از این هم به‌روزتر و مهم‌تر است. درحالی‌که رسانه‌ها با حیرت به شکست‌های آزمون‌های هوش مصنوعی خیره شده بودند؛ هکرها در دنیای واقعی به تأسیسات آب در ۱۲ ایالت آمریکا حمله می‌کردند. اینکه چه کسانی پشت این حملات بودند (برخی ایران را مسئول می‌دانند، اما دونالد ترامپ، رئیس‌جمهور آمریکا، با این نظر مخالف است) در این بحث چندان تفاوتی ایجاد نمی‌کند. آن‌ها از تکنیک‌های ابتدایی و سوءاستفاده از ضعف‌های اساسی امنیتی استفاده می‌کردند، نه از هوش مصنوعی پیشرفته. اینجاست که نکته اصلی خود را نشان می‌دهد: امنیت سایبری زیرساختی اغلب آن‌قدر ضعیف است که هکرها اساساً نیازی به تکنیک‌های جدید و گران‌قیمت ندارند.

هوش مصنوعی هنوز به بیشتر هکرها قدرت‌های جادویی و کاملاً جدیدی نمی‌دهد. اما می‌تواند به آن‌ها کمک کند تا آماده‌سازی، سرعت و مقیاس عملیات خود را افزایش دهند. این وضعیت می‌تواند احتمال آن را بیشتر کند که غفلت از امنیت، سرانجام گریبان سازمان‌ها را بگیرد و این همان درس کسل‌کننده اما حیاتی است.

ترس از آخرالزمان هوش مصنوعی بیش از حد بزرگ‌نمایی شده است

در کنفرانس امنیتی Black Hat که این ماه برگزار شد، دو تن از کارکنان OpenAI درباره حادثه مربوط به Hugging Face ارائه‌ای داشتند. توصیه نهایی آن‌ها این بود که به‌کارگیری اصول اساسی و دیرینه امنیت می‌توانست تا حد زیادی به مهار عامل‌های بیش از حد مشتاق OpenAI کمک کند. شاید این نتیجه افسرده‌کننده باشد؛ اما اگر لازم است هیاهوی اغراق‌آمیز درباره ربات‌های هوش مصنوعی همه‌کاره که دست به عملیات‌های هکری افسارگسیخته می‌زنند، سرانجام غرب را وادار کند بر رفع نقص‌های امنیت سایبری‌ای تمرکز کند که مدت‌هاست آب و دیگر خدمات حیاتی را در معرض خطر قرار داده‌اند، پس بگذارید چنین باشد.

گزارش حاضر در نسخه Augst 29th 2026 نشریه The Economist منتشر شده است.

مطالب پیشنهادی مرتبط

اشتراک در
اطلاع از
0 نظرات
بازخورد (Feedback) های اینلاین
مشاهده همه دیدگاه ها
[wpforms id="48325"]