چگونه ابزارهای هوش مصنوعی می‌توانند زمینه‌ساز بیوتروریسم شوند

پیشرفت‌ها در توالی‌یابی ژنتیکی، دستورالعمل‌های ساخت عوامل بیولوژیکی را به طور گسترده‌ای در دسترس قرار داده است؛ ابزارهای ویرایش ژن مانند CRISPR از نظر تئوری می‌توانند میکروب‌های بی‌خطر را به عوامل کشنده تبدیل کنند و کیت‌های ابزار موردنیاز برای مونتاژ و کشت پروتئین‌ها و ویروس‌های خطرناک را می‌توان با پرداخت چند صد دلار به‌صورت آنلاین خریداری کرد.

اکنون مدل‌های زبانی بزرگ نیز وارد این معادله شده‌اند. متخصصان امنیت زیستی که در ماه‌های اخیر نگرانی‌شان تشدید شده است، بیم آن دارند که این مدل‌ها با آموزش بر روی حجم عظیمی از دانش علمی از جمله اطلاعات تخصصی ویروس‌شناسی و باکتری‌شناسی، بتوانند کاربران مبتدی را یک‌شبه به متخصص تبدیل کنند. سال گذشته، شرکت‌های OpenAI، آنتروپیک و گوگل همگی اقدامات احتیاطی و ایمنی خود را افزایش دادند. این شرکت‌ها دیگر نمی‌توانستند این احتمال را رد کنند که مدل‌هایشان ممکن است به افرادی با دانش علمی اندک که قصد توسعه سلاح‌های بیولوژیکی دارند، کمک کنند (اگرچه آنتروپیک اعلام کرد که «هدف ما ایجاد وحشت نیست»). طبیعی است که بپرسیم آیا جهان در آستانه یک عصر کابوس‌وار از بیوتروریسمِ مبتنی بر هوش مصنوعی قرار دارد یا خیر و اگر چنین است، چه باید کرد.

یک بیوتروریست بالقوه که مایل به دستیابی به یک پاتوژن مناسب است، قطعاً می‌تواند اطلاعات مفیدی را از یک مدل هوش مصنوعی استخراج کند. در دسامبر ۲۰۲۵، «مؤسسه ایمنی هوش مصنوعی بریتانیا» گزارش داد که مدل‌های زبانی بزرگ می‌توانند به طور قابل‌اعتمادی پروتکل‌های علمی برای سنتز ویروس‌ها و باکتری‌ها از قطعات ژنتیکی تولید کنند. در همان ماه، دو دانشمند در اندیشکدهRAND  نشان دادند که مدل‌های موجود در بازار می‌توانند در دشوارترین مرحله مونتاژ RNA ویروس فلج اطفال کمک‌کننده باشند.

اما به گفته «مایکل ایمپریال» (Michael Imperiale)، استاد بازنشسته میکروبیولوژی و ایمونولوژی دانشکده پزشکی دانشگاه میشیگان: «رهاسازی یک عامل کشنده به این سادگی نیست که یک مولکول DNA یا RNA را وارد سلول‌ها کنیم و امیدوار باشیم که ویروس تولید کند.» بخشی از چالش، گذار از تئوری به عمل است. دانستن اینکه هنگام شکست یک آزمایش حساس ویروس‌شناسی چه مشکلی رخ‌داده و چگونه باید آن را در آزمایش بعدی برطرف کرد، یک مهارت اساسی است که صرفاً از روی کتاب‌های درسی قابل‌یادگیری نیست. در اینجا نیز، مدل‌های زبانی بزرگ در حال کمک‌رسانی هستند.

تست قابلیت‌های ویروس‌شناسی (Virology Capabilities Test) را در نظر بگیرید؛ یک ارزیابی با پذیرش گسترده که توسط SecureBio، یک سازمان غیرانتفاعی مستقر در کمبریجِ ماساچوست، توسعه یافته است. این آزمون شامل ۳۲۲ سؤال دشوار عیب‌یابی است که مهارت‌های آزمایشگاهی کاربر را می‌سنجد. هنگامی که SecureBio سال گذشته چندین کارشناس برجسته را برای شرکت در بخش‌هایی از این آزمون به چالش کشید، آن‌ها میانگین ناچیز ۲۲ درصد را کسب کردند. در مقایسه، طبق مطالعه‌ای که در ماه فوریه توسط بخش تحقیقات شرکت آمریکایی Scale AI منتشر شد، افراد مبتدی در زیست‌شناسی که این آزمون را با کمک مدل‌های زبانی بزرگ انجام دادند، نمره ۲۸ درصد گرفتند. مدل‌های زبانی بزرگی که بدون دخالت انسان در آزمون شرکت کردند، امتیازات بالاتری کسب کردند که برای جدیدترین مدل‌ها بین ۵۵ تا ۶۱ درصد متغیر بود و با عملکرد تیم‌هایی از برترین ویروس‌شناسان انسانی برابری می‌کرد.

چنین نتایجی در تصمیمات اخیر سازندگان مدل‌ها برای استقرار اقدامات ایمنی بیشتر، تأثیرگذار بوده است. اما مطالعه‌ای که در ماه فوریه توسط Active Site، یک سازمان غیرانتفاعی دیگر در کمبریج منتشر شد، نشان می‌دهد که مدل‌ها هنوز راه زیادی تا تبدیل‌شدن به دستیاران آزمایشگاهی در دنیای واقعی دارند. مطالعه آن‌ها اولین کارآزمایی تصادفی‌سازی و کنترل‌شده‌ای بود که میزان ارتقای عملکرد (boost) یا پدیده‌ای موسوم به «اثر ارتقا» (uplift) را که این ابزارها می‌توانند در یک آزمایشگاه مرطوب (wet lab) به یک فرد مبتدی ارائه دهند، آزمایش کرد. هنگامی که به ۱۵۳ شرکت‌کننده با حداقل تجربه در زیست‌شناسی، وظایف مرتبط با تولید یک ویروس محول شد، مدل‌های هوش مصنوعی هیچ ارتقا معناداری ارائه نکردند. تنها چهار نفر از شرکت‌کنندگان با کمک این مدل‌ها توانستند وظایف اصلی را تکمیل کنند که یک نفر کمتر از گروه کنترلی بود که فقط مجاز به استفاده از اینترنت بودند. به گفته «جو تورس» (Joe Torres)، یکی از نویسندگان این مطالعه: «مدل‌های زبانی بزرگ اغلب به‌سرعت پاسخ‌هایی تولید می‌کردند که منطقی به نظر می‌رسیدند؛ اما اشتباه بودند و در نتیجه، تلاش‌های کاربرانشان را با شکست مواجه می‌کردند.» کسانی که اتکای بیشتری به چت‌بات‌های خود داشتند، عملکرد بهتری نسبت به کسانی که به‌ندرت از آن‌ها استفاده می‌کردند، نشان ندادند. شرکت‌کنندگان در هر دو گروه اظهار داشتند که مفیدترین منبعی که یافته‌اند، یوتیوب بود.

چنین نتایجی پارادوکس بنیادین پدیده ارتقا را برجسته می‌سازد. «سونیا بن واگرهام-گورملی» (Sonia Ben Ouagrham-Gormley)، استاد دانشگاه جورج میسون که روی تاریخ شفاهی برنامه‌های سلاح‌های زیستی در دوران جنگ سرد کار کرده است می‌گوید: «اگر کاربری به کمک یک مدل نیاز داشته باشد، متوجه نخواهد شد که مدل چه زمانی در حال ارائه توصیه‌های نادرست است.» در جایی که پیشرفت وجود دارد، امکان پسرفت نیز هست. آنتروپیک دریافته است که مدل‌های Mythos و Opus به کارشناسان سطح دکترا کمک می‌کنند تا در مقایسه با کسانی که تنها از اینترنت استفاده می‌کردند، بسیار سریع‌تر کار کنند و پروتکل‌های بهتری برای آزمایش‌های پیچیده ویروس‌شناسی تولید کنند. بااین‌وجود، تمامی این پروتکل‌ها حاوی خطاهای بحرانی بودند که باعث شکست آن‌ها در یک آزمایش واقعی می‌شد.

علاوه بر این، ارزیابان ریسک‌های زیستی در شرکت آنتروپیک دریافتند که مدل‌های این شرکت تمایلات تملق‌آمیز از خود نشان می‌دهند، مرتباً دچار توهم (hallucinate) می‌شوند و نسبت به آنچه خود آن‌ها را «ایده‌های غیرمحتمل» می‌نامند، بیش از حد اعتمادبه‌نفس دارند. هنگامی که کارشناسان انسانی یک ایده غیرعملی را پیشنهاد می‌کردند، مدل غالباً به‌جای پیشنهاد راهکار جایگزین، با لحنی ترغیب‌کننده به بسط آن ایده می‌پرداخت. در یک آزمایش، از کارشناسان زیست‌شناسی خواسته شد تا با استفاده از مدل Mythos، «یک طرح دقیق برای یک عامل بیولوژیکی فاجعه‌بار» تدوین کنند. به قضاوت ارزیابان انسانی، حتی بهترین طرح‌ها نیز دارای نقص بودند. یکی از ارزیابان خاطرنشان کرد که Mythos مراحلی را پیشنهاد داده است «که در واقع شکست را تضمین می‌کرد».

این موضوع ممکن است در حال حاضر مایه دلگرمی باشد. اما «لوکا ریگتی» (Luca Righetti)، نویسنده دیگر این مطالعه که در زمان انجام این پژوهش در METR (یک گروه ایمنی هوش مصنوعی) حضور داشت می‌گوید: «نباید این واقعیت را نادیده گرفت که به‌هرحال افراد مبتدی در مطالعه Active Site توانستند یک ویروس را سنتز کنند و پیشرفت فنی همچنان ادامه دارد.» ابزارهای نوظهور طراحی بیولوژیکی، مانند مدل‌های زبانی بزرگی عمل می‌کنند که به‌جای کلمات، توالی‌های نوکلئوتیدی تولید می‌کنند و بازیگران مخرب می‌توانند از آن‌ها برای خطرناک‌تر کردن پاتوژن‌های موجود استفاده کنند. بر اساس مطالعه‌ای که با بودجه وزارت جنگ آمریکا انجام شده است، این ابزارهای طراحی که کاربردهای مشروع متنوعی دارند روزی می‌توانند توالی‌های ژنومی را به‌گونه‌ای اصلاح کنند که پاتوژن‌ها را به‌شدت بیماری‌زا، مسری و مقاوم در برابر اقدامات متقابل سازند.

در این میان، پژوهشگران باید راه‌های بهتری برای برآورد خطرات پیدا کنند. به‌عنوان‌مثال، این حوزه هنوز فاقد داده‌های معتبر در این مورد است که آیا هوش مصنوعی بیشتر احتمال دارد عملکرد متخصصان با تجربه در زیست‌شناسی را ارتقا دهد یا افراد مبتدی. «کسیدی نلسون» (Cassidy Nelson)، مدیر سیاست‌گذاری امنیت زیستی در Centre for Long-term Resilience، یکی از پژوهشگران متعددی است که به‌ویژه نگران خطرات ناشی از افرادی با میزان مشخصی از تخصص است. تورس می‌گوید: «تیم ارزیابی در Active Site نیز به نوبه خود، علاقه‌مند به بررسی اثر ارتقای بالقوه بر کاربران حرفه‌ای هوش مصنوعی است که در بهره‌گیری حداکثری از مدل‌ها مهارت دارند.»

آزمایش‌های منتشرشده به‌صورت عمومی نیز هنوز نشان نداده‌اند که آیا هوش مصنوعی می‌تواند به ساخت ویروس‌ها یا باکتری‌های بیماری‌زای واقعی کمک کند یا خیر؛ عواملی که ممکن است نیاز به برخوردی متفاوت از عوامل خوش‌خیم مانند نمونه مونتاژشده توسط شرکت‌کنندگان در مطالعه Active Site داشته باشند. همچنین هیچ مطالعه‌ای ارزیابی نکرده است که آیا هوش مصنوعی می‌تواند به حفظ شرایط لازم برای تولید یک عامل بیولوژیکی به مدت کافی جهت تبدیل آن به سلاحی در مقیاس وسیع کمک کند یا خیر. پر کردن این شکاف‌های دانشی احتمالاً نیازمند مداخله دولت‌ها و همچنین هماهنگی‌های ظریف بین‌المللی خواهد بود. به‌عنوان یک نمونه، توسعه اجزای یک سلاح بیولوژیکی به‌منظور اثبات اثر ارتقا، احتمالاً «کنوانسیون سلاح‌های بیولوژیک» را نقض خواهد کرد. سال گذشته تیمی در مایکروسافت، ۷۶ هزار توالی DNA اصلاح‌شده برای پاتوژن‌های خطرناک طراحی کرد تا نشان دهد چگونه این توالی‌ها می‌توانند از فرایندهای غربالگری شرکت‌هایی که خدمات سفارش پستی سنتز نوکلئوتید ارائه می‌دهند، فرار کنند. اما آن‌ها در عمل هیچ‌یک از این توالی‌ها را برای تأیید قابلیت حیاتشان سنتز نکردند. به آن‌ها هشدار داده شده بود که انجام این کار ممکن است «به‌عنوان اقدام برای توسعه سلاح‌های زیستی تفسیر شود».

باتوجه‌به این چالش‌ها، توسعه‌دهندگان ممکن است نیاز داشته باشند سرعت انتشار مدل‌های جدید را کاهش دهند. به‌عنوان‌مثال، در طول ۶ ماهی که طول کشید تا Active Site نتایج کارآزمایی اثر ارتقای خود را منتشر کند، ۴ مدل پیشرو و جدید با قابلیت‌های بیولوژیکی بهبودیافته ظاهر شدند. تورس خاطرنشان می‌کند که به نظر می‌رسد این مدل‌ها در مقایسه با مدل‌هایی که تیم او در مطالعه اولیه آزمایش کرده‌اند، کمتر احتمال دارد توالی‌های منطقی اما اشتباه را توهم کنند؛ امری که ممکن است پتانسیل ارتقای آن‌ها را افزایش دهد. تا زمانی که این گروه نتایج کارآزماییِ دنباله خود را که برای اواخر سال جاری برنامه‌ریزی شده منتشر کند، احتمالاً قابلیت‌های مدل‌ها از این هم فراتر رفته است.

چنین احتیاطی پیشینه دارد. ماه گذشته، آنتروپیک اعلام کرد که دسترسی به Mythos، مدل امنیت سایبری پیشروی خود در سطح جهان را محدود می‌کند تا زمانی که خطرات ناشی از آن برطرف شود. اگر توسعه‌دهندگان دریابند که مدلی جهش قابل‌توجهی در قابلیت‌های بیولوژیکی خطرناک از خود نشان می‌دهد، احتمالاً اقدام خردمندانه‌ی مشابهی خواهد بود که آن را تحت تدابیر امنیتی شدید نگه دارند تا زمانی که پتانسیل ارتقای آن مشخص شود. با وجود خطراتی به این بزرگی، اندکی صبوری می‌تواند بسیار راهگشا باشد.

گزارش حاضر در نسخه May 9^th 2026 نشریه The Economist منتشر شده است.