تصمیم‌های مصنوعی برای گلوله‌های واقعی

یک اتفاق ناگهانی، یک کشف علمی جدید یا در یک سناریو فانتزی، ارتباط با بیگانگان رخ می‌دهد و اولین اقدام این است که نیروهای نظامی کنترل همه چیز را به دست می‌گیرند. چنین چیزی را در تمامی داستان‌ها و فیلم‌های علمی-تخیلی دیده‌ایم که بلافاصله پس از وقوع یک رخداد مهم، نیروهای نظامی سریعاً وارد عمل شده و همه چیز را انحصاراً به دست می‌گیرند.

مسیر تاریخ

کمی با اعداد و تاریخ، بازی کنیم؛ بسیاری از منابع، تاریخ مدون بشر را به ۳۰۰۰ سال پیش از میلاد مسیح، یعنی تقریباً ۵۰۰۰ سال پیش نسبت می‌دهند. انسان‌های اولیه با دست‌خالی از خود دفاع می‌کردند. چندین نسل از انسان‌های اولیه رفتند و آمدند تا که سنگ و چوب هم به سلاح تبدیل شدند. رفته‌رفته مفهوم انسان ابزارساز نیز شکل گرفت و ابزارهایی مانند چاقو، نیزه، شمشیر، سپر و… مفهوم سلاح برای دفاع شخصی را ساختند. بیش از نیمی از تاریخ مدون بشر را رد کردیم و هنوز تیروکمان پیشرفته‌ترین فناوری بشر است.

اما شاید بتوان منجنیق را اولین اختراع تحول‌آفرین و مهندسی‌شده در تاریخچه سلاح‌های نظامی دانست. از تقریباً ۴۰۰ سال پیش از میلاد مسیح تا اواسط قرن ۱۳ میلادی، منجنیق یکه‌تاز میدان‌های نبرد بود؛ تقریباً ۱۷ قرن از ۵۰ قرن تاریخ مدون بشری یعنی بیش از یک‌سوم عمر تاریخ.

باروت که میدان آمد، منجنیق کم‌کم به فراموشی سپرده شد. برخی منابع اختراع باروت و توپ‌های جنگی را به قرن ۹ میلادی در چین نسبت می‌دهند و برخی دیگر آن را محصول اروپای قرن ۱۳ می‌دانند. اما اگر به پس از این تاریخ‌ها نگاه کنیم می‌بینیم که نخستین تفنگ‌های فیتیله‌ای در قرن ۱۵ میلادی اختراع شدند، تفنگ‌های چخماقی در قرن ۱۷ و تفنگ‌های فشنگی در قرن ۱۹ و مسلسل‌ها محصول قرن ۲۰ میلادی هستند. اسلحه‌های خودکار، هواپیماهای جنگی، انواع بمب‌ها و امروزه پهپادها و سامانه‌های رهگیری خودکار، نیز محصولات ۱۰۰ سال اخیر فناوری هستند.

اگر به زبان آمار بخواهیم بررسی کنیم:

در حدود ۵۰درصد از تاریخ مدون بشر؛ یعنی از ۵۰۰۰ تا حدوداً ۲۵۰۰ سال پیش، انسان فقط از ابزارهای اولیه‌ای مثل شمشیر و تیروکمان استفاده می‌کرد. یک‌سوم بعدی تاریخ مدون بشر، یعنی از قریب به ۴۰۰ سال پیش از میلاد مسیح تا قرن ۱۳ میلادی، منجنیق و هم‌خانواده‌های آن پیشرفته‌ترین سلاح بشر بودند. بین ۶۰۰ تا ۷۰۰ سال بعد نیز رفته‌رفته شاهد تکامل انواع تفنگ‌ها بودیم، یعنی در حدود ۱۵ درصد از تاریخ مدون بشر. اما در حدود این ۱۰۰ سال اخیر که فقط شامل ۲درصد از کل تاریخ مدون بشر می‌شود، پیشرفت‌هایی حاصل شده که به‌نوعی هر یک از آن‌ها، از تمام تاریخ برتر و بهتر هستند.

۲۵۰۰ سال طول کشید تا فناوری وارد میدان نبرد شود، ۱۷۰۰ سال طول کشید تا تغییر شکل دهد، ۷۰۰ سال طول کشید تا بالغ شود و اکنون ۱۰۰ سال است که هر روز در حال تکامل است. این روند عجیب پیشرفت و تأثیر فناوری در مرورهای تاریخی را اگر به آینده تعمیم دهیم، شاید دورازذهن نباشد اگر پس از این، در هر دهه یا حتی هر سال، با یک فناوری نظامی کاملاً جدید روبه‌رو شویم.

نکته خیلی مهم: این اعداد و به‌خصوص سال‌ها و قرن‌ها، همواره در بحث‌های تاریخی مورد مناقشه بوده‌اند و هیچ‌گاه با قطعیت نمی‌توان راجع به آن‌ها سخن گفت.

چراها

فیلم‌ها و داستان‌ها که خب البته برای سرگرمی عامه مردم هستند؛ اما گاهی ممکن است رنگ واقعیت به خود بگیرند و به یک باور برای عامه مردم تبدیل شوند. در فیلم‌ها همیشه دیده‌ایم که نیروهای نظامی به‌یک‌باره وارد عمل می‌شوند، تمامی دانشمندان را از صحنه بیرون می‌کنند و خود را مالک و گرداننده اتفاقات معرفی می‌کنند. فیلم‌ها چنین تأثیراتی بر باورهای عامه مردم حتی در سطح جهانی دارند که همیشه گمان می‌شود نیروهای نظامی حتی فناوری‌های برتری نسبت به جایی مانند ناسا را در اختیار دارند و همیشه هم آن را به‌زور به دست آورده‌اند.

آیا چنین اتفاقاتی در فیلم‌ها واقعاً واقعیت دارند؟ اصلاً چرا باید نیروهای نظامی و ارتش‌ها به جدیدترین فناوری‌ها دسترسی داشته باشند؟ ادغام فناوری‌های جدید و گاهی ناشناخته با توان نظامی چه تأثیراتی در جنگ‌های آینده بشریت خواهد داشت؟ آیا هوش مصنوعی یا هر فناوری جدید دیگری که در کاربردهای نظامی استفاده می‌شود، یک شلیک به سمت جان و مال انسان‌هاست؟

این‌ها فقط چند نمونه از بی‌شمار سؤالاتی هستند که می‌توان در موضوع حساسی مانند ترکیب هوش مصنوعی با صنایع نظامی مطرح کرد

چگونگی‌ها

هر کاربردی که هوش مصنوعی در هر صنعتی می‌تواند داشته باشد را فراموش کنید. هیچ صنعتی مانند صنایع نظامی و دفاعی تا این حد و به طور مستقیم با اساسی‌ترین بحث‌ها و منازعات سیاسی، آن هم در سطح جهانی در ارتباط نیست. حتی کوچک‌ترین اقدامات نظامی می‌توانند منجر به سلسله رخدادهایی شوند که بزرگ‌ترین بحران‌های تاریخ معاصر بشر را رقم می‌زند.

شاید برخلاف فیلم‌های علمی-تخیلی، این ربات‌های خودمختار نباشند که بشریت را به مرز نابودی می‌کشانند؛ بلکه خود انسان‌ها هستند؛ انسان‌هایی که کنترل همه چیز را به دست فناوری‌هایی مثل هوش مصنوعی سپرده‌اند. لذا وقتی صحبت از تلفیق کاربردهای هوش مصنوعی در صنایع نظامی به میان می‌آید، به بزرگ‌ترین قطب‌نمای اخلاقی تمام دوران تاریخ بشریت نیاز داریم تا حداقل بتوانیم آن را کنترل کنیم.

مطالعات پژوهشی اخیر نیز نشان می‌دهند که قدرت‌های برتر نظامی در حال ادغام قابلیت‌های هوش مصنوعی در ساختار و سامانه‌های دفاعی خود هستند. افزایش پیوسته یکپارچگی هوش مصنوعی در سامانه‌های نظامی امری اجتناب‌ناپذیر است و اشکال گوناگون این فناوری پیامدهای جدی و غیرقابل‌انکاری در روند منازعات نظامی آینده خواهند داشت.

توانایی پردازش حجم عظیمی از داده‌ها، تحلیل الگوهای پیچیده و تصمیم‌گیری سریع، از جمله قابلیت‌های جدیدی هستند که هوش مصنوعی می‌تواند به روند تصمیم‌گیری‌های نظامی اضافه کند. از طراحی و هدایت پهپادهای خودکار گرفته تا تحلیل داده‌های جنگی، هوش مصنوعی در حال نفوذ گسترده به امور نظامی است. بااین‌حال، این پیشرفت‌ها با چالش‌های اخلاقی، فنی و سیاسی بسیار جدی نیز همراه هستند که نیازمند بررسی دقیق‌اند.

شناسایی تهدیدهای بالقوه

ابزارهای هوش مصنوعی مبتنی بر یادگیری عمیق و بینایی ماشین، توانمندی تحلیل سریع حجم بسیار بالای داده‌های تولیدی حسگرها را دارد. در بسیاری از پلتفرم‌های هوایی، دریایی و زمینی، پردازش هوشمند تصویر (از طریق رادار، مادون‌قرمز، تصاویر ماهواره‌ای و پهپادی) امکان تشخیص اهداف را در لحظه فراهم می‌کند. استفاده از ابزارهای هوش مصنوعی در پردازش هم‌زمان تصاویر و سیگنال‌ها باعث سرعت‌بخشیدن به روند تحلیل داده‌ها، کاهش تأخیر زمانی و بهبود شناسایی تهدید می‌شود. امروزه تهدیدهای نظامی با سرعت پیشرفت فناوری، پیشرفت می‌کنند، بنابراین نیروهای نظامی نیز می‌بایست برای تجزیه‌وتحلیل داده‌های حجیم در زمان واقعی از این فناوری‌های جدید بهره ببرند تا تأخیر در تصمیم‌گیری کاهش یابد و آگاهی موقعیتی افزایش یابد.

پشتیبانی تصمیم‌گیری استراتژیک

هوش مصنوعی می‌تواند فرآیند طرح‌ریزی و تصمیم‌گیری نظامی را تسهیل کند. ابزارهای پیشرفته استنتاج و تحلیل می‌توانند مجموعه‌ بزرگی از سناریوها و داده‌های اطلاعاتی را بررسی کرده و گزینه‌های راهبردی را پیشنهاد دهند. «کاتلین هیکس» (Kathleen Hicks) معاون سابق وزیر دفاع آمریکا در سال ۲۰۲۳ تأیید کرد که «سیستم‌های مبتنی بر هوش مصنوعی می‌توانند سرعت تصمیم‌گیری فرماندهان را افزایش و کیفیت و دقت آن را بهبود بخشند.» به گزارش مجله Time یافته‌های جنگ روسیه و اوکراین نیز نشان می‌دهد که نرم‌افزارهای ترکیب‌کننده داده شرکت فناوری پالانتیر (Palantir Technologies) نقش قابل توجهی در شناسایی سریع اهداف در طول جنگ ایفا کرده‌اند. به طور کلی، استفاده از هوش‌مصنوعی در مرحله طرح و تحلیل عملیات می‌تواند در صدها نفرساعت کار نیروی انسانی صرفه‌جویی کند و دقت پیش‌بینی سناریوهای دفاعی را افزایش دهد.

سامانه‌های عملیاتی خودکار

از پرکاربردترین حوزه‌های کاربرد هوش مصنوعی در صنایع دفاعی، استقرار پهپادها، ربات‌های زمینی، پرنده‌ها و ناوهای بدون‌سرنشین خودمختار است. سامانه‌های خودران نظامی، از جمله پهپادهای تهاجمی، ربات‌های خنثی‌سازی مین و تانک‌های هدایت‌شونده خودکار می‌توانند به‌عنوان یک «عامل توان‌افزا» (force multiplier) در مأموریت‌های سری و خطرناک به جای نیروی انسانی وارد عمل شوند. پهپاد «HX-2» شرکت «Helsing» که از یک ابزار هوش مصنوعی داخلی در سیستم هدایت خود بهره می‌برد، قادر است در محیط‌های بدون ارتباط خارجی، اهداف ناشناخته را شناسایی و با آن‌ها درگیر شود. پروژه «مِیون» (Maven) ایالات متحده نیز از الگوریتم‌های یادگیری ماشین برای پردازش سریع تصاویر و شناسایی اهداف بالقوه استفاده می‌کند. سامانه‌های «نگهبان مرز» (Border Guarding Systems) یا سامانه‌های دفاع موشکی راداری و پدافندی نیز به کمک الگوریتم‌های هوش مصنوعی به تهدیدات نزدیک به مناطق تحت مراقبت پاسخ سریع می‌دهند.

امنیت سایبری و جنگ الکترونیک

هوش مصنوعی در حفاظت از زیرساخت‌های نظامی در برابر حملات سایبری نقش مهمی دارد زیرا می‌تواند با تحلیل ترافیک شبکه و یادگیری از حوادث سایبری گذشته، تهدیدات را شناسایی و اقدامات متقابل را در کسری از ثانیه پیشنهاد دهد. در حوزه جنگ الکترونیک نیز پردازش سیگنال به کمک شبکه‌های عصبی عمیق می‌تواند روند ره‌گیری امواج رادیویی متخاصم و اختلال در آن‌ها را بهبود دهد.

آماد و پشتیبانی

به‌کارگیری هوش مصنوعی در بهینه‌سازی تدارکات، مدیریت زنجیره تأمین و نگهداری تجهیزات نظامی در حال گسترش است. الگوریتم‌های پیش‌بینی‌کننده می‌توانند نشان دهند که قبل از آنکه خرابی اتفاق بیفتد چه زمانی قطعات یک سامانه نیاز به تعویض یا تعمیر دارند. این امر، عمر تجهیزات را بهبود بخشیده و هزینه عملیات را کاهش می‌دهد.

موارد بالا تنها نگاهی اجمالی و بسیار کلی به برخی کاربردها و تأثیرات هوش مصنوعی درصنایع نظامی است. در مجموع نیز می‌توان گفت ادغام هوش مصنوعی با سامانه‌های نظامی به‌عنوان یک «عامل توان‌افزا» (Force Multiplier)، رفته‌رفته نیاز به حضور نیروی انسانی جنگی و سربازان در خط مقدم نبرد را کاهش داده و میدان‌های نبرد جدیدی را ایجاد کرده است.

نیمه روشن حضور

هر فناوری جدید، به‌نوعی یک میدان نبرد جدید ایجاد کرده است. هوش مصنوعی هم نیز مانند فناوری‌های پیش از خود، فرصت‌های منحصربه‌فردی را برای بهبود توان نظامی، دفاع از تمامیت ارضی و امنیت ملی فراهم کرده است. از ایده تکیه بر هوش مصنوعی در صنایع نظامی به این دلیل حمایت شده است که ممکن است فرایند جنگ را با تحلیل سریع‌تر و دقیق‌تر اطلاعات کوتاه کند و از دام تنش‌های روانی در میدان نبرد بکاهد.

اما اصلی‌ترین و مهم‌ترین توجیه حامیان کاربردی‌سازی هوش مصنوعی در صنایع نظامی، حفظ جان نیروهای انسانی است. کاربرد مؤثر پهپادها و ربات‌ها در مأموریت‌های پرخطر می‌تواند تا حد زیادی از تحمیل تلفات جانی به سربازان بکاهد. هوش مصنوعی می‌تواند سرعت پردازش کلان‌داده‌های ارزشمند و بسیار گران‌بهای نظامی را چندبرابر کند و در نتیجه سرعت واکنش در میدان نبرد را به طرز قابل‌توجهی بالا ببرد. توانایی هم‌زمان تحلیل اطلاعات چندسکویی (زمینی، دریایی، هوایی، فضایی و سایبری) به فرماندهان اجازه می‌دهد در کسری از ثانیه وضعیت را ارزیابی و تصمیم مقتضی را اتخاذ کنند. در جهان امروز، واحدها و شبکه‌های اطلاعاتی پیوسته در حال تولید داده هستند. هوش مصنوعی می‌توانند از طریق الگوریتم‌های تحلیل کلان‌داده‌ها، الگوهای کلیدی را از این اطلاعات استخراج کنند. کشورهای پیشرو در فناوری هوش مصنوعی نیز امید دارند که برتری در این حوزه، نقش بازدارندگی در برابر دشمنان را ایفا کند. استدلال براین‌اساس است که سامانه‌های نظامی مجهز به هوش مصنوعی، سلاح‌های خودکار پیشرفته و مهم‌تر از همه معرفی و نمایش برخی قابلیت‌های آن‌ها، ممکن است دشمنان را از فکر حمله و تعرض منصرف سازد.

نیمه تاریک وجود

علی‌رغم فرصت‌های یادشده، استفاده از هوش مصنوعی در عرصه نظامی با چالش‌ها و محدودیت‌های قابل‌توجهی همراه است. در این کاربردها صبحت از مناسبات سیاسی و اقتصادی، دفاع از مرزهای یک کشور و جان نیروی انسانی نظامی و انسان‌های عادی در میان است. هر تصمیم می‌تواند پیامدهای غیرقابل‌پیش‌بینی و تأثیرگذار بر نظام جهانی را به همراه داشته باشد.

به الگوریتم‌های هوش مصنوعی اغلب لقب «جعبه سیاه» (Black Box) اطلاق می‌شود؛ به این معنا که نمی‌توان به‌سادگی فرایند تصمیم‌گیری آن‌ها را شناخت و تحلیل کرد. همین ماهیت عدم پیش‌بینی‌پذیری ذاتی هوش مصنوعی فهم کامل سازوکار تصمیمات آن را تقریباً غیرممکن می‌کند. به طور خاص در تصمیم‌گیری‌های حیاتی، مانند تشخیص اهداف و شلیک، خطای یک الگوریتم می‌تواند عواقبی فاجعه‌بار به همراه داشته باشد و در میدان جنگ، چنین اشتباهاتی می‌تواند مستقیماً به کشته‌شدن افراد بی‌گناه منجر شود. لذا چنین موضوعاتی، حفظ دخالت و نظارت انسانی را ضروری می‌کند. از طرفی سامانه‌های هوش مصنوعی در برابر حملات سایبری تخاصمی (Adversarial) آسیب‌پذیرند؛ یعنی می‌توان با هک‌کردن سامانه‌ها و تزریق داده‌های دست‌کاری‌شده، خروجی آن‌ها را تغییر داد. حتی یک تغییر اندک در ورودی (مثلاً یک نقطه خاص روی تصویر) می‌تواند باعث تشخیص نادرست هدف شود.

مدل‌های هوش مصنوعی برای اینکه به حداکثر توان عملیاتی خود برسند، تازه اگر مصارف انرژی صرف‌نظر کنیم؛ نیازمند داده‌های گسترده و متنوع هستند. به‌اصطلاح فنی، مدل‌های هوش مصنوعی «داده‌خوار» (Data-Hungry) هستند و در دنیایی که «داده را به‌عنوان نفت جدید» می‌شناسد؛ اطلاعات و‌ داده‌های نظامی شاید حتی از خود سلاح‌ها هم ارزشمندتر و قدرتمندتر باشند. در صنایع دیگر، داده‌های معمولاً از وقایع تاریخی یا شبیه‌سازی‌های کنترل‌شده به دست می‌آیند؛ اما اینجا صحبت از تسلیحات خطرناک و گران‌قیمت نظامی و امنیت ملی در میان است. به نقل از Washington Technology هیچ‌گاه «داده عملیاتی زنده کافی» برای آموزش کامل مدل‌ها در میدان نبرد وجود نداشته، ندارند و خوشبختانه هم نخواهد داشت. بنابراین برای توسعه سامانه‌های نظامی هوشمند، صرفاً می‌بایست به شبیه‌سازی‌های دقیق و تکرارشونده بسنده کرد. ایجاد این شبیه‌سازی‌ها و نیز تأمین سخت‌افزار مخصوص محاسبات سنگین، چالش‌های اقتصادی بزرگی هستند که نمی‌توان به‌سادگی از آن چشم‌پوشی هستند.

هرچند هوش مصنوعی می‌تواند توانایی‌های نظامی را دگرگون کند، اما نه در وضعیت کنونی و نه لزوماً در آینده نزدیک نمی‌تواند جایگزین قاطع تصمیمات انسانی شود. تقریباً همه تحلیلگران پذیرفته‌اند که «تداوم دخالت و کنترل انسانی» در چرخه طراحی و کاربری این سامانه‌ها ضروری است. در عمل، نیروهای مسلح عمده جهان به دنبال مدلی هستند که در آن انسان در حلقه تصمیم (human-in-the-loop) باقی بماند تا از بروز اشتباهات فاجعه‌بار جلوگیری شود.

سروصدای نامشهود

فناوری‌های پس از آن که شکل و کاربردی ملموس به خود گرفتند، ناخودآگاه وارد فرهنگ می‌شود. هوش مصنوعی نیز اکنون در این مرحله است. کاربردهای روزمره هوش مصنوعی در زندگی عادی غیرقابل‌انکار و چشم‌پوشی است. اما در حوزه صنایع نظامی، دیگر تأثیرات انفرادی مطرح نیستند؛ بلکه به تأثیراتی کاملاً جمع‌گرایانه تبدیل می‌شود که در تمامی جامعه جهانی اثر خواهد گذاشت.

اخلاق و حقوق بشر

استفاده از سلاح‌ها و سامانه‌های هوشمند، پرسش‌هایی از قبیل مسئولیت حقوقی اشتباهات و مفهوم انسانی بودن جنگ را مطرح می‌کند. اگر الگوریتمی مرتکب خطا شود که در اینجا می‌توان آن را «قتل» در نظر گرفت، تعیین «مسئول» آن هنوز هیچ سازوکار مدونی ندارد. به گزارش سازمان جهانی صلیب سرخ، (International Committee of the Red Cross – ICRC) اصول بنیادین حقوق بین‌الملل بشردوستانه ایجاب می‌کند که تصمیماتی مانند هدف‌گیری اهداف نظامی توسط انسان انجام شود و مسئولیت مستقیم آن بر عهده نیروی انسانی باشد. اگرچه استفاده از هوش مصنوعی می‌تواند به بهبود دقت حملات کمک کند، اما نباید اصول اخلاقی و حقوقی موجود را زیر پا گذارد. خروجی هوش مصنوعی صرفاً می‌تواند مکمل تصمیمات انسانی باشد و نباید جایگزین قضاوت انسانی شود. از همین رو، برخی کشورها و محافل حقوق بشری خواستار حفظ کنترل مثبت انسانی بر سلاح‌ها و سامانه‌های خودران هستند. اما تاکنون هیچ معاهده بین‌المللی الزام‌آور جدیدی برای ممنوعیت یا حتی کنترل سلاح‌های کاملاً خودمختار تصویب نشده است، اما گفتگوها و تلاش‌هایی در این راستا جریان دارد.

موازنه قدرت و سیاست

رقابت جهانی بر سر هوش مصنوعی نظامی در حال تبدیل‌شدن به یک «جنگ سرد جدید» است. رهبران عالی‌رتبه نیز آشکارا بر اهمیت حیاتی خوش مصنوعی تأکید کرده‌اند. «ولادیمیر پوتین» رئیس‌جمهور روسیه در سال ۲۰۱۷ عنوان کرد: «هوش مصنوعی آینده است، نه فقط برای روسیه بلکه برای همه بشریت؛ هر کسی در این حوزه پیشتاز شود، فرمانروای جهان خواهد بود.». این رقابت موجب شده دولت‌ها توجه ویژه‌ای به توسعه توانایی‌های خود داشته باشند و حتی بازارهای تجاری فناوری هوش مصنوعی نیز وارد عرصه نظامی شوند. این شرایط «یک مسابقه تسلیحاتی غیررسمی» در حوزه هوش مصنوعی را رقم زده است و ازاین‌رو می‌توان انتظار داشت برتری در کاربردهای نظامی هوش مصنوعی بر توازن قدرت جهانی تأثیرگذار باشد؛ کشورها و ائتلاف‌هایی که سریع‌تر به این فناوری‌ها کلیدی دست یابند ممکن است چانه‌زنی‌های بین‌المللی را به نفع خود تغییر دهند.

سازوکارهای جدید

هوش مصنوعی در کاربردهای نظامی، چالش‌هایی جدید برای حقوق بین‌الملل ایجاد کرده است. کنوانسیون‌های موجود مانند «کنوانسیون ۱۹۴۹ ژنو» (geneva convention 1949)، فاقد مقررات صریح در مورد نحوه پردازش و استفاده از داده‌های بیومتریک در زمان‌های غیر صلح هستند. بنابراین ضروری است چارچوب‌های قانونی جدیدی تعریف شود که از حقوق بشر و موازین انسانی در عصر داده محافظت کنند. پیامد اجتماعی دیگر استفاده گسترده از هوش مصنوعی نظامی، افزایش فشار بر نهادهای بین‌المللی برای تدوین پیمان‌ها و ضوابط مشترک است. اکثریت کشورهای عضو سازمان ملل متحد خواستار نشست و گفتگو درباره محدودیت سلاح‌های خودران و خودمختار شده‌اند، اما هنوز توافق کاملی حاصل نشده است.

ذات انسانی

هوش مصنوعی ابزار قدرتمندی است که رخدادهای جنگ را چنان دگرگون خواهد کرد که به‌جرئت می‌توان آن را بزرگ‌ترین تحول در ماهیت جنگ در تاریخ توصیف کرد. اما این تحول به‌خودی‌خود خوب با بد نیست؛ بلکه نحوه استفاده انسان‌ها از این ابزارها سرنوشت‌ساز است. ارتقا توان دفاعی، مهارت‌افزایی و کارایی نیروهای نظامی در کنار کاهش تلفات؛ در صورت طراحی و اعمال مسئولانه هوش مصنوعی امکان‌پذیر است. اما فقدان شفافیت و نظارت مناسب می‌تواند بستری برای خطا و بی‌ثباتی ایجاد کند. بنابراین، پیش از هر چیز باید تضمین کرد که دولت‌ها، دانشمندان، سازندگان و تصمیم‌گیرندگان نظامی به‌صورت جدی به مسائل اخلاقی و فنی هوش مصنوعی توجه کنند و ضمن بهره‌گیری از فرصت‌های بی‌سابقه، همواره تحت چارچوب مسئولانه به سمت آینده حرکت کنند. تنها در این صورت است که هوش مصنوعی می‌تواند به ارتقای امنیت ملی کشورها و صلح جهانی کمک کند، نه اینکه تهدیدی بی‌قاعده برای آن باشد.