مباحثات حاکمیت بینالمللی پیرامون سیستمهای هوش مصنوعی نظامی غالباً بر ضرورت شفافیت تأکید دارند. بااینوجود، شفافیت مفهومی پیچیده و چندوجهی است که در بطن مناظرات بینالمللی و ادبیات مرتبط با استفاده مسئولانه از هوش مصنوعی، به شیوههای گوناگونی درک میشود. این مفهوم ابعادی نظیر توضیحپذیری، تفسیرپذیری، درکپذیری، پیشبینیپذیری و قابلیت اطمینان را در بر میگیرد. میزانی که این جنبهها در رویکرد دولتها برای تضمین سیستمهای شفاف و پاسخگو بازتاب میابند، همچنان نامشخص است و به تحقیقات بیشتری نیاز دارد.
علاوه بر این، دستیابی به شفافیت در کاربردهای نظامی هوش مصنوعی با چالشهای متعددی مواجه است؛ از جمله:
- ابهام ذاتی این فناوری میتواند ردیابی و درک فرایندهای تصمیمگیری را دشوار سازد.
- نهادهای نظامی تمایل بیشتری به اتخاذ تدابیر شفافیتمحور بهصورت داوطلبانه دارند؛ تدابیری که صرفاً بر حصول اطمینان از درک کلی نیروی انسانی نسبت به عملکرد سیستم تمرکز داشته و به ظرایف پاسخگویی به طور کامل نمیپردازند.
- نابرابری در قابلیتهای فناورانه میان کشورها، نشاندهنده استانداردهای ناهمگون در آزمون و آموزش است که این امر، ارزیابی تصمیمگیری و پاسخگویی انسانی را پیچیده میکند.
- باتوجهبه حساسیت دفاع ملی و امنیت بینالمللی، انتظار میرود سیستمهای هوش مصنوعی نظامی کاملاً طبقهبندیشده و محرمانه باقی بمانند که این موضوع ارزیابی خارجی آنها را دشوار میکند.
گزارش شماره ۳۱۵ از CIGI، مسیرهایی را برای غلبه بر این چالشها پیشنهاد داده و چارچوبی را برای شفافیت جامع ترسیم میکند که برای استفاده مسئولانه از هوش مصنوعی در بسترهای نظامی ضروری است.
