هنوز نه، اما روزی شاید هوش صنوعی بیوسلاح بسازد
آیا باید نگران باشیم که هوش مصنوعی سلاح‌های بیولوژیکی مرگبار بسازد؟
سید محمدجواد فیاض- ۲۰ مهر ۱۴۰۴
ابزارهای هوش مصنوعی برای طراحی پروتئین‌ها و ویروس‌ها استفاده می‌شوند، اما ترس‌های فزاینده درباره اینکه این ابزارها ممکن است حملات مبتنی بر سلاح‌های بیولوژیکی را تسهیل کنند، شاید نابجا باشد.
هوش مصنوعی نوید تحول در زیست‌شناسی را می‌دهد، به ما امکان می‌دهد داروها و واکسن‌های بهتری طراحی کنیم. اما برخی نگران‌اند که این فناوری ممکن است برای اهداف تاریک‌تری نیز به کار رود؛ یعنی ایجاد سلاح‌های بیولوژیکی که تا زمانی که خیلی دیر شده باشد، با روش‌های معمول شناسایی نشوند. پس، چقدر باید نگران باشیم؟
«اریک هورویتز» (Eric Horvitz)، مدیر علمی مایکروسافت، می‌گوید: «پیشرفت‌های هوش مصنوعی در حال تقویت دستاوردهای بزرگی در زیست‌شناسی و پزشکی است. با قدرت جدید، مسئولیت هوشیاری نیز به همراه می‌آید.» تیم او مطالعه‌ای را در نشریه Science منتشر کرده که بررسی می‌کند آیا هوش مصنوعی می‌تواند پروتئین‌هایی طراحی کند که همان کار پروتئین‌های خطرناک موجود را انجام دهند، اما به‌اندازه کافی متفاوت باشند که به‌عنوان پروتئین خطرناک شناسایی نشوند.
این تیم فاش نکرد که کدام پروتئین‌ها را برای بازطراحی انتخاب کرده‌اند و بخش‌هایی از مطالعه مخفی نگه داشته شد؛ اما احتمالاً شامل سمومی مانند ریسین که در ترورهای سال ۱۹۷۸ استفاده شد و بوتولینوم که به‌عنوان نوروتوکسین قدرتمندی که بیشتر به نام بوتاکس شناخته می‌شود بوده است.
برای تولید مقدار زیادی از پروتئینی مانند بوتولینوم، به دستورالعمل آن نیاز دارید؛ یعنی DNA که آن را کدگذاری می‌کند. وقتی زیست‌شناسان به قطعه خاصی از DNA نیاز دارند، معمولاً آن را از شرکت‌هایی که در ساخت قطعات دلخواه DNA تخصص دارند، سفارش می‌دهند.
به دلیل نگرانی از اینکه تروریست‌های زیستی ممکن است دستورالعمل‌های ساخت سلاح‌های بیولوژیکی را به این روش سفارش دهند، برخی شرکت‌های تولید DNA به‌صورت داوطلبانه سفارش‌ها را بررسی می‌کنند تا ببینند آیا کسی در تلاش برای ساخت چیزی خطرناک است یا خیر. پروتئین‌ها توالی‌هایی از اسیدهای آمینه هستند و این بررسی‌ها چک می‌کنند که آیا توالی اسیدهای آمینه با هر یک از «توالی‌های نگران‌کننده» مطابقت دارد یا خیر.
اما با هوش مصنوعی، در تئوری می‌توان نسخه‌ای از یک پروتئین را طراحی کرد که توالی اسیدآمینه متفاوتی داشته باشد؛ اما همان کار را انجام دهد. هورویتز و همکارانش این کار را با ۷۲ پروتئین بالقوه خطرناک امتحان کردند و نشان دادند که روش‌های بررسی اغلب این نسخه‌های جایگزین را شناسایی نمی‌کنند.
این موضوع آن‌قدر که به نظر می‌رسد نگران‌کننده نیست. اولاً، این تیم به دلایل واضح پروتئین‌های بازطراحی‌شده را واقعاً نساخت. اما در مطالعه جداگانه‌ای که اوایل سال جاری میلادی انجام شد، آن‌ها نسخه‌های بازطراحی‌شده پروتئین‌های بی‌ضرر را آزمایش کردند و اساساً دریافتند که این پروتئین‌ها کارایی چمدانی ندارند.
دوم اینکه، اگرچه حملات تروریستی زیستی معدودی رخ داده است، اما دلایل اندکی وجود دارد که فکر کنیم چنین چیزی به دلیل نقص در سیستم بررسی داوطلبانه است. راه‌های دیگری برای به‌دست‌آوردن مواد خطرناک بدون نیاز به بازطراحی با هوش مصنوعی وجود دارد. برای مثال، ریسین را می‌توان از گیاهان کرچک که در بسیاری از باغ‌ها یافت می‌شود، استخراج کرد. این مطالعه مانند هشداری است که می‌گوید از یک بانک ممکن است با یک نقشه پیچیده به سبک «مأموریت غیرممکن» سرقت شود، درحالی‌که در واقع در گاوصندوق خزانه کاملاً باز است.
اما آیا این بدان معناست که باید نگرانی درباره سلاح‌های بیولوژیکی طراحی‌شده توسط هوش مصنوعی را کنار بگذاریم؟ نه کاملاً. درحالی‌که مطالعات هورویتز فقط به پروتئین‌ها پرداخته، این ویروس‌ها هستند که تهدید اصلی را ایجاد می‌کنند و هوش مصنوعی در حال حاضر برای بازطراحی کل ویروس‌ها استفاده می‌شود.
سپتامبر سال جاری میلادی، تیمی در دانشگاه استنفورد نتایج تلاش‌های خود برای بازطراحی ویروسی که باکتری E. coli را آلوده می‌کند، منتشر کرد. مانند پروتئین‌های بازطراحی‌شده، نتایج چندان چشمگیر نبود و از ۳۰۲ ویروس طراحی‌شده توسط هوش مصنوعی که ساخته شدند، تنها ۱۶ ویروس قادر به آلوده‌کردن E. coli بودند. اما این تازه آغاز راه است.
وقتی از «جیمز دیگانز» (James Diggans) به‌عنوان عضوی از تیم هورویتز و عضو شرکت Twist Bioscience که در زمینه تولید DNA فعالیت می‌کند درباره ویروس‌های طراحی‌شده توسط هوش مصنوعی پرسیده شد، او گفت که تشخیص DNA انکدینگ‌شده ویروس‌های نگران‌کننده آسان‌تر از پروتئین‌های است. به گفته دیگانز: «غربالگری سنتز در مقیاس اطلاعات بیشتر بهتر عمل می‌کند؛ بنابراین در مقیاس ژنوم، اطلاعات بسیار زیادی ارائه می‌دهد.»
اما همه شرکت‌های تولید DNA این غربالگری را انجام نمی‌دهند و دستگاه‌های سنتز DNA رومیزی رفته‌رفته در دسترس همه قرار می‌گیرند. بحث‌هایی درباره طراحی ابزارهای هوش مصنوعی که از ایجاد ویروس‌های خطرناک خودداری کنند یا سعی در تشخیص نیت‌های بدخواهانه داشته باشند، وجود دارد، اما افراد راه‌های زیادی برای دورزدن محافظ‌هایی که مثلاً برای جلوگیری از ارائه دستورالعمل‌های ساخت بمب توسط هوش مصنوعی طراحی شده‌اند، پیدا کرده‌اند.
تاریخ نشان می‌دهد که خطر ویروس‌های «وحشی» (wild) بسیار بیشتر از خطر تروریسم زیستی است. برخلاف ادعاهای دولت کنونی ایالات متحده، شواهد نشان می‌دهد کهSARS-CoV-2 زمانی پدیدار شد که یک ویروس خفاش به حیوانات وحشی دیگر و سپس به انسان‌ها در یک بازار منتقل شد و هیچ آزمایشگاهی در این میان دخیل نبود.
بنا بر همه این دلایل، خطر رهاشدن یک ویروس طراحی‌شده توسط هوش مصنوعی در آینده نزدیک احتمالاً نزدیک به صفر است. اما این خطر با پیشرفت فناوری‌های موردنیاز در حال افزایش است و همه‌گیری کووید-۱۹ نشان داد که یک ویروس جدید، حتی اگر بسیار کشنده هم نباشد، چه میزان آشوب می‌تواند ایجاد کند. لذا در درازمدت؛ دلیلی برای نگرانی وجود خواهد داشت.
گزارش حاضر در نسخه 11October 2025 نشریه New Scientist منتشر شده است.
