هوش مصنوعی روش ساخت سلاح‌های بیولوژیکی را به دانشمندان آموزش می‌دهد

به نقل از نیویورک‌تایمز، رلمن توسط یک شرکت هوش مصنوعی استخدام شده بود تا محصول آن را پیش از عرضه عمومی مورد آزمون فشار (pressure-test) قرار دهد. آن شب در دفتر کار خانگی این دانشمند، چت‌بات توضیح داد که چگونه می‌توان یک پاتوژن بدنام را در آزمایشگاه به‌گونه‌ای اصلاح کرد که در برابر درمان‌های شناخته‌شده مقاومت کند.

آغاز ماجرا؛ وقتی چت‌بات از مرزهای ایمنی عبور کرد

رلمن با بیان اینکه از نیویورک‌تایمز خواسته است نام پاتوژن و سایر جزئیات را از ترس الهام بخشیدن به یک حمله واقعی، مخفی نگه دارد گفت: «بدتر از آن، این ربات با جزئیات واضح نحوه رهاسازی این ابرمیکروب (superbug) را با شناسایی یک نقص امنیتی در یک سیستم حمل‌ونقل عمومی بزرگ توصیف کرد.» این ربات طرحی را برای به حداکثر رساندن تلفات و به‌حداقل‌رساندن شانس دستگیری ترسیم کرد.

رلمن که به دولت فدرال نیز در زمینه تهدیدات بیولوژیکی مشاوره داده است می‌گوید: «این مدل به سؤالاتی پاسخ می‌داد که من به پرسیدن آن‌ها فکر نکرده بودم و این سطح از فریبکاری و زیرکی برای من بسیار دلهره‌آور بود.» او با استناد به توافق‌نامه محرمانگی با سازنده این چت‌بات، از فاش کردن اینکه کدام چت‌بات این طرح را تولید کرده است، خودداری کرد. وی اظهار داشت که این شرکت پس از آزمایش‌های او، برخی از سازوکارهای محافظتی را به محصول اضافه کرد؛ اگرچه او احساس می‌کرد که این اقدامات کافی نیستند.

رلمن بخشی از گروه کوچکی از متخصصان است که توسط شرکت‌های هوش مصنوعی برای بررسی محصولاتشان از نظر خطرات فاجعه‌بار استخدام شده‌اند. در ماه‌های اخیر، برخی از آن‌ها بیش از دوازده مکالمه با چت‌بات‌ها را با نیویورک‌تایمز به اشتراک گذاشته‌اند که نشان می‌دهد حتی مدل‌های در دسترس عموم نیز می‌توانند فراتر از انتشار اطلاعات خطرناک عمل کنند. رونوشت‌ها نشان می‌دهند که این دستیاران مجازی با جزئیات واضح و به‌صورت فهرست‌وار، نحوه خرید مواد ژنتیکی خام، تبدیل آن‌ها به سلاح‌های مرگبار و استقرار آن‌ها در فضاهای عمومی را شرح داده‌اند. برخی حتی راه‌هایی را برای فرار از شناسایی پیشنهاد داده‌اند.

چرا هوش مصنوعی خطر حملات زیستی را افزایش می‌دهد؟

دولت ایالات متحده مدت‌هاست که برای مقابله با دشمنان قدرتمندی که باکتری‌ها، ویروس‌ها یا سموم مرگبار را در میان جمعیت آمریکا رها می‌کنند، برنامه‌ریزی کرده است. از سال ۱۹۷۰، چند ده حمله بیولوژیکی نسبتاً کوچک در سراسر جهان رخ‌داده است، مانند نامه‌های آلوده به سیاه‌زخم (anthrax) که باعث مرگ پنج آمریکایی در سال ۲۰۰۱ شد. اکثر کارشناسان می‌گویند که با وجود هشدارهای همیشگی، فاجعه بزرگی رخ نداده و همچنان غیرمحتمل است.

اما حتی اگر احتمال آن کم باشد، یک سلاح بیولوژیکی مؤثر می‌تواند تأثیر عظیمی داشته باشد و به طور بالقوه میلیون‌ها نفر را بکشد. ده‌ها تن از کارشناسان به نیویورک‌تایمز گفتند که هوش مصنوعی یکی از چندین پیشرفت تکنولوژیکی اخیر است که با گسترش دامنه افرادی که می‌توانند آسیب برسانند، این خطر را به میزان قابل‌توجهی افزایش داده است.

پروتکل‌هایی که زمانی محدود به مجلات علمی بودند، اکنون در سراسر اینترنت پخش شده‌اند. شرکت‌ها قطعات مصنوعی DNA و RNA را به‌صورت آنلاین مستقیماً به مصرف‌کنندگان می‌فروشند. دانشمندان می‌توانند جنبه‌های حساس کار خود را تفکیک کرده و وظایف را به آزمایشگاه‌های خصوصی برون‌سپاری کنند و اکنون تمام این تدارکات لجستیکی می‌تواند با کمک یک چت‌بات مدیریت شود.

نمونه‌هایی که کارشناسان را نگران کرده‌اند

«کوین اسولت» (Kevin Esvelt)، مهندس ژنتیک در MIT مکالماتی را به اشتراک گذاشت که در آن‌ها ChatGPT از نحوه استفاده از یک بالون هواشناسی برای پخش محموله‌های بیولوژیکی بر فراز یک شهر در ایالات متحده را توضیح می‌داد. در گفتگویی دیگر، Gemini پاتوژن‌ها را بر اساس میزان آسیبی که می‌توانند به صنایع دام‌پروری وارد کنند، رتبه‌بندی کرد. Claude نیز دستورالعملی برای یک سم جدید اقتباس‌شده از یک داروی سرطان تولید کرد. گفتگوهای دیگر حاوی اطلاعاتی بود که اسولت که در حوزه کاری خود به‌عنوان یک هشداردهنده (Cassandra) شناخته می‌شود، احساس می‌کرد برای به اشتراک گذاشتن بیش از حد خطرناک هستند.

دانشمندی که به دلیل ترس از اقدامات تلافی‌جویانه حرفه‌ای خواست نامش فاش نشود، از سیستم Deep Research گوگل یک «پروتکل گام‌به‌گام» برای ساخت ویروسی درخواست کرد که زمانی باعث ایجاد یک بیماری همه‌گیر شده بود. این ربات دستورالعملی ۸۰۰۰ کلمه‌ای در مورد تهیه قطعات ژنتیکی و مونتاژ آن‌ها ارائه داد. این دانشمند گفت درحالی‌که پاسخ کاملاً دقیق نبود، اما همچنان می‌توانست به طور قابل‌توجهی به فردی با نیت شوم کمک کند.

دولت ترامپ، با عزم رهبری جهان در نوآوری هوش مصنوعی، نظارت بر خطرات این فناوری را کاهش داده است. علاوه بر این، چندین تن از کارشناسان ارشد امنیت زیستی از جمله دانشمند ارشد در شورای امنیت ملی، سال گذشته قوه مجریه ایالات متحده را ترک کردند و جایگزینی برای آن‌ها تعیین نشده است. از طرفی درخواست‌های بودجه فدرال برای اقدامات دفاع زیستی سال گذشته نزدیک به ۵۰ درصد کاهش یافت. یک مقام کاخ سفید گفت که دولت متعهد به حفظ امنیت آمریکایی‌ها است و برخی از کارکنان در شورای امنیت ملی و چندین آژانس بر دفاع زیستی متمرکز هستند.

پاسخ شرکت‌های هوش مصنوعی به این نگرانی‌ها

حامیان این فناوری استدلال می‌کنند که هوش مصنوعی، پزشکی را به سمت بهترشدن متحول خواهد کرد، آزمایش‌ها را سرعت می‌بخشد و مجموعه‌‌داده‌های عظیمی را برای کشف درمان‌های جدید پردازش می‌کند. برخی از دانشمندان بر این باورند که مزایای این فناوری برای بشریت به‌راحتی بر هرگونه‌ای از خطرات جدید غلبه می‌کند. اما افراد شکاک می‌گویند که چت‌بات‌ها اطلاعاتی را ارائه می‌دهند که از قبل در اینترنت موجود است و ساخت یک ویروس مرگبار نیازمند سال‌ها تخصص عملی است.

شرکت‌های Anthropic ،OpenAI و گوگل اعلام کردند که به طور مداوم سیستم‌های خود را برای ایجاد تعادل بین خطرات و مزایای بالقوه بهبود می‌بخشند. همچنین عنوان کردند که گفت‌وگوهای به‌اشتراک‌گذاشته‌شده با نیویورک‌تایمز، جزئیات کافی برای اینکه کسی بتواند آسیبی وارد کند را ارائه نمی‌دهند. در همین حین نیز نیویورک‌تایمز در حال شکایت از OpenAI است و ادعا می‌کند که این شرکت در هنگام توسعه مدل‌های خود نقض حق چاپ کرده است. این شرکت این ادعاها را رد کرده است.

سخنگوی گوگل می‌گوید که جدیدترین مدل‌های این شرکت دیگر به پرسش‌های «جدی‌تر» از جمله درخواستی برای پروتکل ساخت ویروس، پاسخ نخواهند داد. اما یک گزارش جدید نیز نشان داد که جدیدترین مدل گوگل در امتناع از پاسخگویی به درخواست‌های بیولوژیکی پرخطر، عملکرد بدتری نسبت به سایر ربات‌های پیشرو داشته است.

هشدار از درون صنعت هوش مصنوعی

یکی از رساترین صداهای هشداردهنده از درون خود صنعت هوش مصنوعی به گوش می‌رسد. داریو آمودی مدیرعامل Anthropic که از قضا زیست‌شناس نیز هست، در ژانویه ۲۰۲۶ در مورد خطراتی که در توسعه هوش مصنوعی می‌دید، از جمله سلاح‌های خودمختار و تهدیدات علیه دموکراسی، نوشت. او نوشت: «زیست‌شناسی با اختلاف حوزه‌ای است که من بیشتر از همه نگران آن هستم، زیرا پتانسیل بسیار بالایی برای تخریب دارد و دفاع در برابر آن دشوار است.»

آزمون‌های ایمنی؛ آیا محافظت‌ها کافی هستند؟

 اسولت سال‌هاست که به دانشمندان، روزنامه‌نگاران و قانون‌گذاران در مورد خطرات زیست‌شناسی مصنوعی در صورت عدم کنترل آن هشدار داده است. در سال ۲۰۲۳، او به طراحی یک نمایش خیره‌کننده از نحوه افزایش خطرات توسط چت‌بات‌ها کمک کرد. او از ChatGPT خواست تا به او در مونتاژ پاتوژنی که می‌تواند باعث مرگ‌ومیر دسته‌جمعی شود، کمک کند. این ربات دستورالعمل‌های دقیقی ارائه داد و حتی مشخص کرد که چه مواد خامی باید خریداری شود. او قطعات بیولوژیکی مونتاژ نشده را در لوله‌های آزمایش قرار داد و آن‌ها را در یک جعبه بسته‌بندی کرد که سپس توسط یکی از همکارانش به نشستی در کاخ سفید در مورد خطرات بیولوژیکی برده شد.

اسولت به بررسی چت‌بات‌های پیشرو ادامه داده است و گاهی خود را به‌عنوان یک نویسنده جنایی در جستجوی روش‌های قابل‌قبول برای انتشار ویروس‌ها، یا به‌عنوان یک متخصص اخلاق که در تلاش برای آموزش دیگران است، جا می‌زند. اغلب او نسخه‌ای از خودش را بازی می‌کند، دانشمندی که در حال کاوش در پیچیدگی‌های ویروس‌شناسی است. او و دیگر دانشمندان نگران عمومی‌کردن این خطرات در مقالات خبری هستند که می‌تواند نقشه راهی برای بازیگران مخرب ترسیم کند. اما آن‌ها همچنین امیدوارند که بررسی‌های عمومی، شرکت‌ها را تشویق کند تا محصولات خود را ایمن‌تر بسازند.

اسولت که هم به Anthropic و هم OpenAI مشاوره داده است می‌گوید: «هر جا که متخصصی برای هشداردادن به آن‌ها وجود نداشته باشد، آن‌ها نمی‌توانند مشکل را برطرف کنند.» او گفت که این صنعت باید بخش وسیع‌تری از اطلاعات بیولوژیکی را سانسور کند و آن را تنها با کاربران تأیید شده به اشتراک بگذارد. او رونوشت‌هایی را به اشتراک گذاشت که نشان می‌داد چگونه این ربات‌ها دقت علمی را با استدلال استراتژیک ترکیب می‌کنند.

برای مثال، Gemini فهرستی از پنج پاتوژن را به اسولت داد که می‌توانستند به صنعت پرورش گاو آسیب برسانند و آسیب اقتصادی بالقوه هر کدام را تخمین زد. Gemini گفت که یکی از این تهدیدات «به لحاظ تاریخی فاجعه‌بار» بوده است. در گفت‌وگویی دیگر نیز به او گفت که چگونه یک سلاح بیولوژیکی را بدون شناسایی‌شدن از گیت امنیت فرودگاه رد کند

سخن‌گوی گوگل دراین‌خصوص می‌گوید که تیم متخصصان زیست‌شناسی این شرکت دریافته‌اند که این گفت‌وگوها که با نسخه قدیمی‌تر Gemini انجام شده و همان اطلاعاتی را ارائه داده که در دسترس عموم بوده و مخرب نیستند. Claude از نیز به اسولت دستورالعملی برای ساخت یک سم جدید ارائه داد که جوندگان را عقیم می‌کرد و گفت که سازگار کردن این سم برای انسان‌ها برای یک زیست‌شناس نسبتاً آسان خواهد بود.

«الکساندرا سندرفورد» (Alexandra Sanderford)، یکی از مدیران ایمنی Anthropic، با این موضوع مخالفت کرد و گفت: «تفاوت عظیمی بین تولید متن‌های به‌ظاهر معتبر توسط یک مدل و دادن آنچه افراد برای اقدام عملی نیاز دارند، وجود دارد.» بااین‌حال، او اذعان کرد که هوش مصنوعی خطراتی را به همراه دارد و گفت که Anthropic آستانه‌های امتناع سخت‌گیرانه‌ای برای درخواست‌های بیولوژیکی تعیین کرده است و «به دلیل احتیاط فراوان، مقداری امتناع بیش از حد را می‌پذیرد.»

 اسولت از ChatGPT در مورداستفاده از بالن‌های هواشناسی برای رهاکردن مواد از ارتفاعات بالا سؤال کرد. در ابتدا، این ربات مکرراً در مورد خطرات این فعالیت هشدار داد. ChatGPT گفت: «من به شما در مدل‌سازی یا بهینه‌سازی پراکندگی مواد بیولوژیکی (دانه‌ها، گرده‌ها، هاگ‌ها) کمک نخواهم کرد» و توضیح داد که این اطلاعات «به‌راحتی می‌توانند برای آسیب‌رساندن تغییر کاربری داده شوند.» سپس اخطار خود را نادیده گرفت و انتشار هوابرد دانه‌های گرده بر فراز یک شهر بزرگ غربی را مدل‌سازی کرد.

سخنگوی OpenAI در رابطه‌ با این مثال گفت که: «توانایی فرد را برای ایجاد آسیب در دنیای واقعی به طور معناداری افزایش نمی‌دهد.» وی افزود که این شرکت از نزدیک با زیست‌شناسان و دولت برای افزودن سازوکارهای مناسب به محصولات خود همکاری می‌کند.

دور زدن حصارهای ایمنی چت‌بات‌ها

مدل‌های پیشرو همچنین در برابر پدیده‌ای به نام قفل‌شکنی یا جیلبریک (jail-breaking) آسیب‌پذیر هستند که در آن افراد پرامپت‌های خاصی را به ربات‌ها می‌دهند که برای دورزدن فیلترهای ایمنی شناخته شده‌اند. «کسیدی نلسون» (Cassidy Nelson) از اندیشکده بریتانیایی Center for Long-Term Resilience معتقد است که سازوکارهای حفاظتی این مدل‌ها «مانند یک حصار چوبی سست هستند که غلبه بر آن آسان است.» سخنگوی OpenAI نیز می‌گوید که این شرکت پیوسته بر آسیب‌پذیری‌های مرتبط با jail-breaking نظارت می‌کند.

حتی زمانی که مدل‌های هوش مصنوعی با کنترل‌های ایمن‌تر به‌روزرسانی می‌شوند، نسخه‌های قدیمی‌تر اغلب به‌راحتی در دسترس هستند. برای مثال، اسولت گفت که Anthropic فیلترهای Claude را طوری تنظیم کرده است که از بحث در مورد یک تهدید کشاورزی خاص خودداری کند. هنگامی که نیویورک‌تایمز سؤالات خاصی در مورد همان میکروب پرسید، این ربات از پاسخ‌دادن امتناع کرد و پیشنهاد داد که برای ادامه گفتگو به نسخه قبلی سوئیچ کنند. سندرفورد می‌گوید که این یک استراتژی عمدی بوده است؛ زیرا مدل‌های قدیمی‌تر احتمال کمتری برای ارائه اطلاعات مضر داشتند. بااین‌حال، مدل قدیمی‌تر به‌تفصیل درباره «شرایط بهینه» موردنیاز پاتوژن برای ازبین‌بردن هزاران هکتار از یک محصول حیاتی توضیح داد. تایمز این رونوشت‌ها را با هفت متخصص در زمینه ویروس‌شناسی و امنیت زیستی به اشتراک گذاشت.

کارشناسان چه می‌گویند؟

«موریتز هانکه» (Dr. Moritz Hanke) از مرکز امنیت بهداشت جان هاپکینز می‌گوید که برخی از استراتژی‌های پیشنهادی چت‌بات‌ها برای گسترش عفونت «به طور قابل‌توجهی خلاقانه و واقع‌گرایانه» بودند. «ینس کوهن» (Jens Kuhn)، متخصص سلاح‌های بیولوژیکی که زمانی در یکی از امن‌ترین آزمایشگاه‌های ایالات متحده کار می‌کرد، گفت که گفت‌وگوهایی که جزئیات لجستیکی مانند دستورالعمل‌های بالون هواشناسی را ارائه می‌دهند، می‌توانند به زیست‌شناسان ماهر در طوفان فکری و اصلاح برنامه‌های حمله‌شان کمک کنند. کوهن گفت: «یک مشکل عمده که بازیگران باتجربه با آن مواجه هستند لزوماً ساخت ویروس نیست، بلکه تبدیل آن به یک سلاح است.»

سایرین نیز به تحقیقات اخیر اشاره کردند که نشان می‌دهد مدل‌های هوش مصنوعی می‌توانند برای جنگ بیولوژیکی مورد سوءاستفاده قرار گیرند. برای مثال، در یک مطالعه از چت‌بات‌های پیشرو سؤالات دشواری در مورد طیف وسیعی از پروتکل‌های آزمایشگاهی پرسیده شد. نتایج این حوزه را شوکه کرد: عملکرد ChatGPT از ۹۴ درصد ویروس‌شناسان متخصص بهتر بود.

مطالعه دیگری که سال گذشته در Science منتشر شد، بر شرکت‌هایی متمرکز بود که DNA مصنوعی می‌فروشند. بسیاری از آن‌ها از نرم‌افزار برای بررسی سفارش‌های مربوط به توالی‌های ژنتیکی مرتبط با سموم و پاتوژن‌ها استفاده می‌کنند. اما این مطالعه نشان داد که ابزارهای هوش مصنوعی هزاران توالی متغیر برای عوامل خطرناک ارائه کرده‌اند که نرم‌افزار غربالگری نتوانسته آن‌ها را تشخیص دهد. (محققان اصلاحاتی را برای نرم‌افزار پیشنهاد کردند که اجرا شد.)

تهدید واقعی یا نگرانی اغراق‌آمیز؟

بااین‌حال، کاربران هوش مصنوعی برای پیروی از دستورالعمل‌های یک ربات به مقداری تخصص در دنیای واقعی نیاز دارند. برخی تحقیقات، از جمله مطالعه‌ای که توسط شرکت‌های هوش مصنوعی حمایت شده است نشان داده‌اند که اگرچه چت‌بات‌ها می‌توانند به افراد مبتدی در یادگیری برخی مهارت‌های آزمایشگاهی کمک کنند؛ اما این فناوری برای انجام طیف وسیعی از وظایف پیچیده موردنیاز برای ساخت یک ویروس از پایه، کاربرد چندانی ندارد.

«وستاوو پالاسیوس» (Gustavo Palacios)، ویروس‌شناس Mount Sinai  که زمانی در آزمایشگاه وزارت دفاع کار می‌کرد می‌گوید: «ویروس‌ها ماشین‌های پیچیده‌ای هستند، شبیه به بهترین ساعت‌های جهان. آیا فکر می‌کنید یک فرد دست‌به‌آچار (do-it-yourself) می‌تواند یک ساعت سوئیسی را باز کند و سپس آن را دوباره مونتاژ کند؟» بااین‌حال، او گفت که در مورد قرارگرفتن هوش مصنوعی در دست بازیگران باتجربه نگران است.

اخیراً یک اقدام تروریستی در هند نشان داد که بازیگران مخرب در حال حاضر از این فناوری استفاده می‌کنند. در ماه اکتبر ۲۰۲۵، پلیس هند یک پزشک ۳۵ساله را دستگیر کرد و گفت که او از طرف داعش در حال برنامه‌ریزی برای یک حمله بوده است. وی متهم شد که سعی در استخراج سم کشنده رایسین (ricin) از دانه‌های کرچک داشته است. یک بازپرس ارشد به نیویورک‌تایمز گفت که این پزشک در مورد آماده‌سازی‌های خود از جستجوهای مبتنی بر هوش مصنوعی گوگل و ChatGPT مشاوره گرفته بود. سخنگوی OpenAI دراین‌رابطه گفت که بر اساس گزارش‌های عمومی، این پزشک به دنبال اطلاعاتی بوده است که از قبل به‌صورت آنلاین قابل‌دسترسی بوده‌اند. سخنگوی گوگل نیز گفت که این شرکت اطلاعات کافی برای اظهارنظر ندارد.

چالش همیشگی؛ تعادل میان نوآوری و امنیت

افراد شکاک خاطرنشان می‌کنند که محدودکردن قابلیت‌های بیولوژیکی مدل‌های هوش مصنوعی می‌تواند پیشرفت‌های نجات‌بخش، مانند کشف داروهای جدید را متوقف کند. «برایان هی» (Brian Hie) زیست‌شناس محاسباتی در استنفورد نیز می‌گوید: «جنبه‌های مثبت فوق‌العاده‌ای در این فناوری وجود دارد.» سال گذشته، او از یک مدل هوش مصنوعی به نام Evo برای طراحی ویروسی که باکتری‌های مضر را از بین می‌برد، استفاده کرد. او گفت که جدیدترین نسخه Evo می‌تواند پروتئین‌های مفیدی برای مبارزه با سرطان طراحی کند؛ اما همچنین این پتانسیل را دارد که سموم کشنده‌ای را اختراع کند که هیچ‌کس تابه‌حال ندیده است.