شفافیت و سامانه‌های هوش مصنوعی نظامی

مباحث حاکمیت بین‌المللی پیرامون سیستم‌های هوش مصنوعی نظامی غالباً بر ضرورت شفافیت تأکید دارند. بااین‌وجود، شفافیت مفهومی پیچیده و چندوجهی است که در بطن مناظرات بین‌المللی و ادبیات مرتبط با استفاده مسئولانه از هوش مصنوعی، به شیوه‌های گوناگونی درک می‌شود. این مفهوم ابعادی نظیر توضیح‌پذیری، تفسیرپذیری، درک‌پذیری، پیش‌بینی‌پذیری و قابلیت اطمینان را در بر می‌گیرد. میزانی که این جنبه‌ها در رویکرد دولت‌ها برای تضمین سیستم‌های شفاف و پاسخ‌گو بازتاب می یابند، همچنان نامشخص است و به تحقیقات بیشتری نیاز دارد.

دستیابی به شفافیت در کاربردهای نظامی هوش مصنوعی با چالش‌های متعددی مواجه است؛ از جمله:

• ابهام ذاتی این فناوری می‌تواند ردیابی و درک فرایندهای تصمیم‌گیری را دشوار سازد.
• نهادهای نظامی تمایل بیشتری به اتخاذ تدابیر شفافیت‌محور به‌صورت داوطلبانه دارند؛ تدابیری که صرفاً بر حصول اطمینان از درک کلی نیروی انسانی نسبت به عملکرد سیستم تمرکز داشته و به ظرایف پاسخ‌گویی به طور کامل نمی‌پردازند.
• نابرابری در قابلیت‌های فناورانه میان کشورها، نشان‌دهنده استانداردهای ناهمگون در آزمون و آموزش است که این امر، ارزیابی تصمیم‌گیری و پاسخ‌گویی انسانی را پیچیده می‌کند.
• باتوجه‌به حساسیت دفاع ملی و امنیت بین‌المللی، انتظار می‌رود سیستم‌های هوش مصنوعی نظامی کاملاً طبقه‌بندی‌شده و محرمانه باقی بمانند که این موضوع ارزیابی خارجی آن‌ها را دشوار می‌کند.

گزارش شماره ۳۱۵ از CIGI، مسیرهایی را برای غلبه بر این چالش‌ها پیشنهاد داده و چارچوبی را برای شفافیت جامع ترسیم می‌کند که برای استفاده مسئولانه از هوش مصنوعی در بسترهای نظامی ضروری است.

مقدمه

شفافیت همچنین یک دغدغه محوری در اصول اخلاقی هوش مصنوعی در بسترهای غیرنظامی نیز به شمار می‌رود. بااین‌حال، مفهوم‌سازی شفافیت به میزان قابل‌توجهی متغیر است. برای برخی دولت‌ها، شفافیت مستلزم افشای سطحی از اطلاعات مربوط به آزمایش، ارزیابی و عملکرد سیستم‌های مختلف توسط کشورها است. برای برخی دیگر، بدین معناست که سیستم‌های هوش مصنوعی نظامی باید برای نیروهای مسلح خود آن‌ها به‌اندازه کافی شفاف باشند و تضمین کنند که فرماندهان، عملیات سیستم‌ها را درک کرده و می‌توانند در زمان بروز خطا یا خروجی‌های غیرقابل‌پیش‌بینی، مداخله کنند. به‌این‌ترتیب، درک از شفافیت عموماً به معنای «درک‌پذیری و پیش‌بینی‌پذیری سیستم‌ها» است. بااین‌وجود، این چالش همچنان پابرجا است که با آغاز فرایند عملیاتی‌سازی اصول هوش مصنوعی مسئولانه توسط دولت‌ها، این تفاسیر متفاوت از شفافیت اهمیت دوچندانی خواهند یافت. این اصول به‌ویژه برای تضمین استفاده مسئولانه از هوش مصنوعی و سیستم‌های خودمختار توسط نیروهای نظامی، بسیار حائز اهمیت خواهند بود.

در حال حاضر، در عمل و در مناطق درگیر مناقشات معاصر نظیر اوکراین و غزه، تعهدات مبنی بر لزوم درک سیستم‌های هوش مصنوعی توسط فرماندهان نظامی، به دلیل ماهیت این فناوری، استفاده از فناوری‌های تجاری در دسترس و فقدان دستورالعمل‌های شفاف در خصوص میزان درک موردنیاز، با چالش مواجه شده است. همچنین، فقدان گسترده‌تری در افشای اطلاعات پیرامون انواع و میزان پیچیدگی سیستم‌های مبتنی بر هوش مصنوعی مورداستفاده و نحوه عملکرد آن‌ها وجود دارد. انتشار گزارش‌های تحقیقاتی مبنی بر استفاده از سیستم‌های هدف‌گذاری و پشتیبانی تصمیم‌گیری مبتنی بر هوش مصنوعی توسط نیروهای نظامی اسرائیل در غزه، نگرانی‌هایی را برانگیخته و منجر به طرح پرسش‌های بیشتری درباره عملکرد این سامانه‌ها شده است.

بااین‌حال، اطلاعات اندکی از سوی اسرائیل در خصوص نحوه عملکرد این سیستم‌ها ارائه شده است و استدلال می‌کند که از سیستم‌های هوش مصنوعی برای انتخاب خودکار اهداف بدون مداخله انسانی استفاده نمی‌کند. این تضمین‌ها از نگاه کسانی که از گزارش‌های مربوط به سیستم‌های اسرائیلی نگران شده‌اند، کافی به نظر نمی‌رسد. شفافیت در خصوص هوش مصنوعی و سیستم‌های خودمختار در حوزه نظامی، همچنین مستلزم حدی از توانایی برای دسترسی به اطلاعات سیستم‌ها است. در حالت ایده‌آل ارزیابی یا حسابرسی این سامانه‌ها توسط به اشخاص ثالث معتبر انجام می‌شود. انجام چنین ارزیابی و حسابرسی گسترده‌ای، درحالی‌که احتمالاً در سطح داخلی قابل‌انجام است، بعید به نظر می‌رسد در سطح خارجی امکان‌پذیر باشد. بر همین اساس، اشتراک‌گذاری اطلاعات و اقداماتی که نشان‌دهنده اعتماد هستند، می‌بایست با رویکردی خلاقانه در سطح جهانی توسعه یابند.

در تلاش برای ایجاد درکی عمیق‌تر از شفافیت که بتواند هم نهادهای حاکمیتی بین‌المللی راضی نگه دارد و هم الزامات فنی و عملیاتی را پوشش دهد، پرسش‌های متعددی مطرح می‌شود؛ از جمله:

• آیا فرمانده نظامی باید نحوه اتصال هر گره (Node) از سیستم هوش مصنوعی را درک کند؟
• آیا ایجاد درکی به‌اندازه کافی عمیق امکان‌پذیر یا الزامی خواهد بود و برای چه کاربردهایی؟
• چه سطحی از درک نیروی انسانی کافی خواهد بود تا پاسخ‌گویی شفاف آن‌ها در قبال اقدامات تسهیل‌شده یا انجام‌شده توسط یک سیستم هوش مصنوعی تضمین شود؟
• چه اطلاعاتی باید میان دولت‌های مختلف به اشتراک گذاشته شود تا نسبت به استفاده مسئولانه از هوش مصنوعی و سیستم‌های خودمختار اطمینان حاصل شود؟

این پرسش‌ها در شرایطی که ارتش‌ها روزبه‌روز بیشتر از سیستم‌های هوش مصنوعی در طیف متنوعی از عملکردها از جمله استخدام، آموزش، لجستیک، نگهداری تجهیزات، نظارت و هدف‌گیری استفاده می‌کنند، به‌مراتب موضوعیت بیشتری پیدا می‌کنند. کاربردهای متفاوت، الزامات شفافیت متفاوتی خواهند داشت که کارکردهای مختلفی را ارائه داده و الزامات اخلاقی و قانونی را در سطوح مختلف حاکمیت برآورده می‌سازند. برای برخی کاربردها، نظیر آنچه تحت عنوان عملکردهای اداری پس‌زمینه مانند استخدام توصیف می‌شود؛ این الزامات عمدتاً بر تضمین انصاف و حریم خصوصی و همچنین رعایت قوانین مختلف داخلی در خصوص استخدام افراد تمرکز خواهند داشت. در سوی دیگر این طیف کاربردهای پرریسک قرار دارند؛ مانند استفاده از سیستم‌های هوش مصنوعی در تصمیم‌گیری‌های مرتبط با استقرار نیرو یا در سیستم‌های تسلیحاتی با درجات مختلفی از خودمختاری. در اینجا الزامات سخت‌گیرانه‌تر خواهند بود و نیازمند انطباق با استانداردهای داخلی و ملی و همچنین الزامات حقوقی بین‌المللی و سازوکارهای حاکمیتی هستند. موضوع اخیر، اگرچه برای امنیت بین‌المللی از اهمیتی حیاتی برخوردار است، اما به دلیل ملاحظات امنیتی ذاتی، همچنان چالش‌برانگیزترین مسئله به شمار می‌رود.

شفافیت در استفاده نظامی از هوش مصنوعی و خودمختاری در سطح جهانی با چندین مانع کلیدی مواجه است که ۳ مورد آن‌ها از اهمیت بیشتری برخوردارند:

1. پیچیدگی ذاتی این فناوری که با پیشرفته‌تر شدن، یادگیری و تکامل این سیستم‌ها، تضمین درک‌پذیری آن‌ها را در عمل با چالش مواجه می‌کند. بحث‌های فراوانی پیرامون این موضوع وجود دارد که سیستم‌ها تا چه حد باید توسط انسان‌ها قابل‌توضیح و همچنین قابل‌تفسیر باشند و چه سطحی از درک برای افرادی که سیستم‌ها را مستقر می‌کنند، ضرورت دارد. علاوه بر این، ماهیت استفاده دوگانه از هوش مصنوعی و استفاده از فناوری‌ها و ابزارهای تجاری در دسترس همان‌طور که در اوکراین مورداستفاده قرار گرفت؛ ممکن است منجر به ورود سیستم‌هایی شود که برای محیط‌های دفاعی به‌اندازه کافی آزمایش نشده‌اند.
2. هرچند ارتش‌ها به انجام تعهدات نسبت به تضمین آموزش و درک نیروی انسانی از این سامانه‌ها تمایل دارند؛ اما تدابیر شفافیت گسترده‌تر یا اجازه انجام ارزیابی‌های خارجی همچنان چالش‌برانگیز باقی خواهد ماند.
3. سیستم‌های هوش مصنوعی نظامی به دلیل نگرانی‌های مرتبط با امنیت ملی به‌شدت محافظت می‌شوند. این محرمانگی می‌تواند مانع از تمایل دولت‌ها برای اشتراک‌گذاری اطلاعات در خصوص قابلیت‌های سیستم‌های مختلف شود. این رویه به‌ویژه در مورد کشورهای متخاصم‌تر صدق می‌کند، چرا که به دلیل ترس از افشای فناوری‌های محرمانه‌ای که ممکن است برتری فنی برای سایر دولت‌ها را فراهم کند، بعید است شفافیت در زمینه عملکرد سیستم‌های هوش مصنوعی نظامی به اشتراک گذاشته شود. ازاین‌رو، شفافیت غالباً با امنیت ملی در تعارض قرار می‌گیرد.

شفافیت و مفاهیم فنی

شفافیت به‌عنوان یک مفهوم، پیوسته در حال تکامل و چندبُعدی است. آنچه بر این ابهام می‌افزاید، شیوه‌های متفاوتی است که شفافیت در ادبیات فنی هوش مصنوعی به‌ویژه در تحقیقات هوش مصنوعی توضیح‌پذیر و در مباحثات مربوط به حاکمیت هوش مصنوعی درک می‌شود. شفافیت هوش مصنوعی در ادبیات حوزه‌های علوم و مهندسی، دیدگاه‌های فنی‌تری از جمله «شفافیت الگوریتمی» و همچنین تفسیرپذیری و توضیح‌پذیری مدل‌ها را در بر می‌گیرد. همان‌طور که در ادامه توضیح داده خواهد شد، این دو مفهوم مترادف یکدیگر نیستند.

در مباحث فنی‌تر، شفافیت به‌عنوان هدفی برای تضمین عملکرد صحیح سیستم‌ها در نظر گرفته می‌شود؛ به این صورت که امکان نگاه‌کردن به درون عملکرد داخلی سیستم‌ها را فراهم کرده و قابلیت آزمایش و بهبود مدل‌ها و الگوریتم‌ها را ارائه می‌دهد. این مفهوم همچنین راهی برای اثبات قابل‌اطمینان بودن فناوری است که به پذیرش و به‌کارگیری گسترده‌تر آن منجر می‌شود. در ادبیات فنی هوش مصنوعی نیز تفاوت ظریفی میان مباحث تفسیرپذیری و توضیح‌پذیری وجود دارد.

• تفسیرپذیری (Interpretability) بر حصول اطمینان از این امر تمرکز دارد که انسان‌های عامل و اپراتور سیستم‌ها، نحوه عملکرد مدل‌ها و استدلال تصمیمات خاص را درک کنند.
• توضیح‌پذیری (Explainability) شامل توسعه یک درک فنی کافی از نحوه عملکرد یک سیستم و نحوه رسیدن آن به تصمیمات است. هدف از این رویکرد، ثبت و دریافت تک‌تک محاسبات انجام‌شده توسط مدل نیست، بلکه به دنبال ارائه یک توضیح شفاف و قابل‌فهم از عملکرد آن است. هدف از این کار، بهبود و کالیبراسیون مجدد مدل‌ها و همچنین امکان تضمین پاسخ‌گویی است.

بااین‌حال، با استفاده از شبکه‌های عصبی عمیق که خروجی مدل‌های آماری غیرخطی بسیار پیچیده هستند، انسان‌ها قادر به درک این موضوع نیستند که سیستم چگونه به یک خروجی مشخص دست یافته است؛ مسئله‌ای که به‌عنوان مشکل «جعبه سیاه» (Black-Box) شناخته می‌شود. هوش مصنوعی توضیح‌پذیر قصد دارد مشکل جعبه سیاه را حل کند و راه‌حل‌های فنی مناسبی بیابد تا تضمین کند که پیش‌بینی‌ها یا خروجی‌هایی که غالباً به تصمیم‌گیری‌های بسیار حساس کمک می‌کنند (مانند استفاده از هوش مصنوعی در پهپادهای نظامی) به‌اندازه‌ای قابل‌توضیح هستند که الزامات قانونی و نیازهای اپراتور را برآورده کنند و همچنین برای انسان‌هایی که این نوع سیستم‌ها را مستقر و عملیاتی می‌کنند، قابل‌تفسیر باشند. توضیح‌پذیری و تفسیرپذیری در تلاش برای توسعه سیستم‌های هوش مصنوعی شفاف و اصطلاحاً «جعبه شیشه‌ای» (Glass-Box) ترکیب می‌شوند که این امر، میزان اطمینان‌پذیری این فناوری‌ها را افزایش داده و کاربردهای اخلاقی‌تر را ترویج می‌کند. بااین‌وجود و علی‌رغم این تلاش‌ها، هوش مصنوعی توضیح‌پذیر راه‌حلی برای شفافیت بیشتر در خصوص نحوه عملکرد مدل‌های مختلف ارائه نمی‌دهد و اغلب مستلزم نوعی بده‌بستان در اولویت‌بندی جنبه‌های خاص برای دستیابی به‌وضوح بیشتر است.

باتوجه‌به نگرانی‌های موجود پیرامون فقدان درک نسبت به اکثر شبکه‌های عصبی عمیق، در وهله نخست پرسش گسترده‌تری درباره توجیه استفاده از این مدل‌ها در کاربردهای حساس به ایمنی و امنیت مطرح می‌شود. در حوزه نظامی، این موضوعی است که در نهایت دولت‌ها باید درباره آن تصمیم‌گیری کرده و در حالت ایده‌آل، مقررات بین‌المللی متناسبی را برای رسیدگی به آن تدوین کنند. بااین‌حال، تعداد قابل‌توجهی از پروژه‌های تحقیقاتی دقیقاً به راه‌حل‌های فنی برای مدل‌های جعبه سیاه اختصاص یافته‌اند.

به‌عنوان‌مثال، مدل‌های جایگزین (Surrogate Models) می‌توانند «با توسعه یک مدل جدید قابل‌تفسیر نظیر یک رگرسیون لجستیک یا یک درخت تصمیم کوتاه بر روی پیش‌بینی‌های مدل جعبه سیاه»، به تخمین خروجی آن کمک کنند. محدودیت این روش و سایر روش‌های مشابه این است که آن‌ها تنها تخمین هستند و با درگیرشدن لایه‌های پیچیده متعدد تصمیم‌گیری، ممکن است تنها تصویر لحظه‌ای و کوچکی از آنچه واقعاً «درون» مدل رخ می‌دهد، ارائه دهند. در نتیجه، برخی از محققان اظهار می‌کنند که آنچه بخش عمده‌ای از تحقیقات هوش مصنوعی توضیح‌پذیر ارائه می‌دهد، صرفاً یک «درک بدل و جایگزین» (Ersatz Understanding) از مدل‌های جعبه سیاه است.

«مایک انی» و «کیت کرافورد» نیز در خصوص برداشت‌های فنی ساده‌انگارانه از شفافیت هشدار داده‌اند و بر محدودیت‌های ادراک ایده‌آل‌گرایانه از آن تأکید می‌کنند. به عقیده این محققان: «به‌جای آنکه به‌نوعی از پاسخ‌گویی امتیاز دهیم که نیاز به نگاه‌کردن به درون سیستم‌ها دارد، باید در عوض با نگاهی همه‌جانبه به سیستم‌ها، آن‌ها را پاسخ‌گو نگه داریم؛ یعنی آن‌ها را به چشم سیستم‌های اجتماعی-فنی (Sociotechnical) بنگریم که نه‌تنها پیچیدگی ندارند، بلکه از طریق اتصال و درهم‌تنیدگی با مجموعه‌هایی از انسان‌ها و موجودیت‌های غیرانسانی، پیچیدگی را اعمال و اجرا می‌کنند.» از این دیدگاه، برای اجتناب از تعاریف محدودی که به درک کارکرد سیستم‌ها اشاره دارند، نیازمند یک بررسی جامع‌تر از محدودیت‌های چنین برداشت‌هایی از شفافیت هستیم. اذعان به این محدودیت‌ها در ادامه می‌تواند به تصمیماتی در خصوص طراحی و استفاده از سیستم‌ها منجر شود که در عمل، پاسخ‌گویی بیشتری را به ارمغان می‌آورند. برای نمونه، این دیدگاه استدلال می‌کنند که «اگر شفافیت، مشارکت فعال افراد علاقه‌مند و قادر به اعمال نظارت را مفروض می‌داند، آنگاه در مدل پاسخ‌گویی ممکن است این پرسش مطرح شود که آیا این افراد، انگیزه‌ها، مهارت‌ها و ارتباطات لازم برای دستیابی به نظارت جمعی وعده‌داده‌شده توسط شفافیت را دارند یا خیر.» این ملاحظه برای استفاده از سیستم‌های هوش مصنوعی نظامی از اهمیتی ویژه برخوردار است؛ چرا که الزامات نظارت یا کنترل انسانی می‌توانند با جزئیات روشن‌تری مشخص شوند تا اطمینان حاصل شود که شفافیت در عمل پیاده‌سازی شده است. تأمین و تضمین این نظارت مستلزم تبادل بیشتر تجربیات و تثبیت هنجارهایی است که آموزش افراد مستقرکننده سیستم‌های خاص را الزامی می‌سازد.

شفافیت و حاکمیت امنیت بین‌المللی

در بحث حاکمیت بین‌المللی و کنترل تسلیحات، شفافیت تا حد زیادی با دردسترس‌بودن و دسترسی به اطلاعات خاص مرتبط است و شامل سازوکارهایی برای اشتراک‌گذاری آن اطلاعات می‌شود. بر اساس نظر «بیورن هاگلین» و همکاران، شفافیت به معنای انتشار اطلاعات توسط دارندگان آن، به‌ویژه دولت‌ها است. «برنارد آی. فاینل» و «کریستین ام. لورد» خاطرنشان می‌کنند که «شفافیت در عرصه سیاسی شرایطی است که در آن اطلاعات مربوط به ترجیحات، نیات و قابلیت‌های دولتی، چه در اختیار عموم و چه در اختیار سایر افراد خارج از سیستم قرار می‌گیرد.» در امنیت بین‌الملل و به‌ویژه دررابطه‌با تسلیحات، چنین شفافیتی غالباً با تنش همراه بوده؛ اما در اقدامات گوناگون مرتبط با کنترل تسلیحات وجود داشته است. برای مثال، گاهی اطلاعات مربوط به انتقال تسلیحات افشا می‌شود، هرچند این روند همواره یکنواخت و مستمر نیست. حتی در خصوص سلاح‌های هسته‌ای، برخی از کشورها اطلاعاتی را تبادل کرده یا تعداد سیستم‌های پرتاب سلاح هسته‌ای و تعداد تقریبی کلاهک‌های هسته‌ای در دسترس را افشا کرده‌اند. این افشاگری به‌عنوان یک اقدام در جهت جلب‌اعتماد در نظر گرفته می‌شود که با به اشتراک گذاشتن اطلاعات، به ایجاد اعتماد میان کشورها کمک کرده و سطحی از دانش را درباره تسلیحات موجود در کشورهای خاص فراهم می‌آورد. ارائه اطلاعات در مورد تجارت تسلیحات متعارف و قابلیت‌های هسته‌ای طبیعتاً بسیار حساس است، زیرا ارتش‌های پیشرفته‌تر تمایلی به‌اشتراک‌گذاری جزئیاتی ندارند که بتواند عملکرد یا آسیب‌پذیری سیستم‌های آن‌ها را آشکار سازد. این نگرانی در مورد فناوری‌های نظامی نوظهور مانند هوش مصنوعی نیز باتوجه‌به باور موجود مبنی بر محوریت هوش مصنوعی در قدرت آینده دولت‌ها، بسیار برجسته است. قراردادن هوش مصنوعی در مرکز نظم ژئوپلیتیک آینده بدین معناست که بیشتر دولت‌ها تمایلی به حمایت از توسعه ابزارهای حقوقی الزام‌آور و قدرتمند که نیازمند سازوکارهای جامع آزمایش و ارزیابی باشند، یا حتی اشتراک‌گذاری اطلاعات در خصوص توسعه سیستم‌های مبتنی بر هوش مصنوعی ندارند. رقابت روزافزون میان قدرت‌های بزرگ، به‌ویژه ایالات متحده و چین نیز فناوری‌های جدید و هوش مصنوعی را در مرکز این کشمکش قرار داده است.

در نتیجه، شفافیت در کاربردهای نظامی هوش مصنوعی غالباً به شکلی محدود درک می‌شود و صرفاً بر آنچه که اپراتورها یا خود ارتش در مورد نحوه عملکرد سیستم‌ها می‌توانند بدانند، تمرکز دارد که «شفافیت داخلی» نامیده می‌شود. دولت‌ها ممکن است اطلاعات مربوط به سیستم‌های مختلف را میان دپارتمان‌های دولتی ذی‌ربط به اشتراک بگذارند یا سازوکارهای شفافیت را در میان گروه نزدیکی از متحدان در قالب ترتیبات امنیتی گوناگون توسعه دهند. بااین‌وجود، میزان تمایل برای به‌اشتراک‌گذاری اطلاعات حتی در میان متحدان که از آن با عنوان «شفافیت خارجی» یاد می‌شود، همچنان نامشخص است. بااین‌حال این موضوع که اشتراک‌گذاری اطلاعات برای مثال دررابطه‌با آزمایش و ارزیابی سیستم‌های هوش مصنوعی نظامی، می‌تواند یک اقدام مهم جهت جلب‌اعتماد باشد روزبه‌روز بیشتر به رسمیت شناخته می‌شود. حتی در این صورت نیز در زمینه آزمایش و ارزیابی، کشورها در خصوص سطح جزئیاتی که به اشتراک گذاشته می‌شود، ابراز نگرانی می‌کنند. بازبودن و گشودگی (Openness) بیش از حد در مورد نحوه عملکرد سیستم‌ها نیز می‌تواند خطرناک باشد، زیرا ممکن است مسیرهایی را برای بازیگران مخرب آشکار سازد تا داده‌ها را مسموم کرده یا در عملیات سیستم اختلال ایجاد کنند. ملاحظات سیاسی نیز در دستیابی به شفافیت در بسترهای دفاعی نقش ایفا می‌کنند؛ به‌طوری که جوامع دموکراتیک در ارائه اطلاعات، آماده‌تر و صریح‌تر از رژیم‌های اقتدارگرا عمل می‌کنند. حتی در میان جوامع دموکراتیک، تفاوت‌هایی در کیفیت و قابلیت اطمینان اطلاعات ارائه‌شده وجود دارد. علی‌رغم محدودیت‌ها، این اطلاعات کشورها را قادر می‌سازد تا تصمیمات بهتری اتخاذ کنند که امروزه شفافیت به یکی از ابزارهای سیاست خارجی بدل شده است.

براین‌اساس، به‌رغم رقابت فزاینده قدرت‌های بزرگ، ملاحظات استراتژیک ممکنی برای مشارکت در سازوکارهای شفافیت وجود دارد. «جیمز مارکوارت» خاطرنشان می‌کند که در امور نظامی-امنیتی بین‌المللی، کشورهای قدرتمندی نظیر ایالات متحده برای اهداف استراتژیک خود در اقدامات مرتبط با شفافیت مشارکت می‌کنند. مارکوارت استدلال می‌کند که در روابط بین‌الملل، سیاست قدرت تا حد زیادی شکل‌دهنده مباحثات پیرامون مطالبات برای شفافیت بیشتر و استراتژی‌هایی است که کشورها برای دستیابی به آن اجرا می‌کنند. به بیان ساده، گستره و شیوه‌ای که دولت‌ها شفافیت را فراهم می‌کنند، تحت‌تأثیر منافع و جایگاه استراتژیک آن‌ها در صحنه جهانی است. «تسوتلینا یوردانووا» به برخی از دلایلی را که چرا کشورهای قدرتمندتر به حفظ اقدامات شفافیت‌ساز ادامه می‌دهند، اشاره می‌کند؛ دلایلی همچون درگیرکردن کشورهای غیردموکراتیک در ترتیباتی که نیازمند تبادل اطلاعات است، اعمال قدرت نرم، تأثیرگذاری بر سیاست‌های داخلی سایر کشورها و گشودن فرصت‌هایی برای تجارت و سرمایه‌گذاری بین‌المللی. بااین‌حال، یوردانووا همچنین متذکر می‌شود که کشورهای درحال‌توسعه نیز از تلاش‌های مرتبط با شفافیت بهره‌مند می‌شوند. این مزایا شامل اثبات حسن‌نیت برای جلب حمایت در راستای توسعه داخلی بیشتر و طرح‌های سرمایه‌گذاری، نهادسازی قدرتمندتر، بهبود شانس دریافت حمایت مالی خارجی و ارتقای توانمندی آن‌ها برای ایفای نقش در سازوکارهای حاکمیتی گسترده‌تر است. فراتر از این ملاحظات، اقدامات شفافیت‌ساز میان کشورهای مختلف می‌تواند به ثبات منطقه‌ای بیشتر در حوزه‌های پُرتنش‌تر کمک کند. تبادل بیشتر اطلاعات همچنین می‌تواند سازمان‌های جامعه مدنی را قادر سازد تا نظارت مؤثرتری بر میزان پایبندی به توافق‌نامه‌های بین‌المللی داشته باشند.

مباحثات حاکمیت هوش مصنوعی نظامی

با درنظرگرفتن مزایای بالقوه جلب‌اعتماد و کاهش تنش‌ها از طریق تبادل اطلاعات بیشتر، شفافیت به‌عنوان یکی از اصول استفاده مسئولانه از هوش مصنوعی نظامی در مباحثات مختلف بین‌المللی و تعهدات دفاع ملی به رسمیت شناخته شده است. شاید بارزترین نمونه از درخواست‌ها برای شفافیت داخلی، «اعلامیه سیاسی استفاده مسئولانه از هوش مصنوعی و خودمختاری در حوزه نظامی» (Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy) به رهبری ایالات متحده باشد که در سال ۲۰۲۳ منتشر شد و تا زمان نگارش این گزارش در ابتدای ۲۰۲۵، به تأیید ۵۴ کشور رسیده است. تمرکز بر ایجاد سیستم‌های شفاف در این اعلامیه، در معنایی محدودتر تفسیر می‌شود. در سنجه F، این اعلامیه بیان می‌دارد: «دولت‌ها باید تضمین کنند که قابلیت‌های هوش مصنوعی نظامی با متدولوژی‌ها، منابع داده، رویه‌های طراحی و مستنداتی توسعه می‌یابند که برای پرسنل نظامی ذی‌ربط آن‌ها شفاف و قابل حسابرسی باشد.» تأکید بر حصول اطمینان از این امر است که پرسنل دفاعی بتوانند این سیستم‌ها را درک، مستندسازی و حسابرسی کنند. بدین ترتیب، اعلامیه اذعان می‌دارد که کشورهای مختلف رویه‌های داخلی خاص خود را برای شفافیت توسعه خواهند داد که این امر بر اساس قابلیت‌های فنی، به استانداردهای متفاوتی منجر می‌شود. بنابراین، به‌منظور تضمین سازگاری، نیازمند سطحی از هماهنگی و راهبری هستیم. در همین راستا، گروه‌های کاری متعددی به‌عنوان بخشی از اقدامات مرتبط با این اعلامیه سیاسی، برای توسعه بهترین تجربیات و ظرفیت‌سازی تأسیس شده‌اند. کانادا، در کنار پرتغال، وظیفه رهبری گروه کاری پاسخ‌گویی و شفافیت را بر عهده گرفته است. هدف از این تلاش، کمک به توسعه فرایندی برای تبیین عملیاتی رویه‌ها در میان کشورهای هم‌فکر است. درحالی‌که این موضوع بخش مهمی از چارچوب حاکمیتی در زمینه استفاده مسئولانه از هوش مصنوعی نظامی است، سایر اقدامات حاکمیتی نیز باید طیف وسیع‌تری از کشورها را فراتر از کشورهای تأییدکننده‌ای که عمدتاً هم‌فکر هستند، در بر گیرند. این گروه کاری به طور بالقوه می‌تواند توصیه‌های خود را با کشورهایی فراتر از امضاکنندگان این اعلامیه به اشتراک بگذارد.

همچنین شفافیت در نشست‌های «کنوانسیون سازمان ملل متحد در مورد سلاح‌های متعارف معین» (CCW) پیرامون «سیستم‌های تسلیحاتی خودمختار کشنده» (LAWS) موردتأکید قرار گرفته است. در نشست مارس ۲۰۲۴ گروه کارشناسان دولتی CCW در خصوص LAWS، ایالات متحده خاطرنشان کرد که CCW یک «مجمع منحصربه‌فرد و ارزشمند برای ترویج شفافیت و مباحثات بین‌المللی» پیرامون سلاح‌های خودمختار است. در اینجا به نظر می‌رسد ایالات متحده از مفهوم گسترده‌تری از شفافیت در معنایی سیاسی‌تر استفاده می‌کند. در واقع، این نقش برای CCW پیش‌تر توسط دولت‌های مختلف و جامعه مدنی نیز موردتوجه قرار گرفته بود. در سال ۲۰۱۵، مؤسسه بین‌المللی پژوهش‌های صلح استکهلم (SIPRI) اشاره کرد که هنوز زمان مناسب برای CCW فرانرسیده است تا هم در مورد نحوه اشتراک‌گذاری اطلاعات و هم در مورد اینکه چه اطلاعاتی باید به اشتراک گذاشته شود، بررسی‌های لازم را انجام دهد. مؤسسه SIPRI همچنین خاطرنشان کرد که تدابیر شفافیت بیشتر می‌تواند بر توسعه و اکتساب سیستم‌های تسلیحاتی خودمختار و همچنین استفاده از آن‌ها متمرکز باشد. برای پیشبرد مباحثات در CCW، مؤسسه SIPRI پیشنهاد کرد که کشورها به‌عنوان‌مثال در خصوص استانداردها و رویه‌های موجود برای استقرار تسلیحات و همچنین در مورد میزان و نوع کنترل انسانی حاضر در سیستم‌های مختلف، تبادل اطلاعات کنند. براین‌اساس، این امر مستلزم آن است که کشورها بینش‌هایی را در خصوص سازوکارهای شفافیت داخلی خود ارائه دهند؛ اشتراک‌گذاری این موارد در CCW، درجاتی از شفافیت خارجی را نیز فراهم می‌آورد.

هوش مصنوعی شفاف برای بستر دفاعی

فارغ از بحث دیپلماتیک، برای اکثر ارتش‌ها، شفافیت در نحوه عملکرد یک سیستم به‌منظور تضمین قابلیت اطمینان سیستم‌ها و همچنین رسیدگی به هرگونه اقدام پیش‌بینی‌نشده است. برای ارتش‌ها، یک تمرکز کلیدی این است که انسان‌ها درک کنند سیستم‌ها در حال انجام چه کاری هستند و همچنین سیستم‌ها تا حد قابل‌قبولی قابل‌کنترل باشند. اما؛
گستره درک موردنیاز انسان‌ها در خصوص نحوه عملکرد سیستم چقدر است؟
آیا اپراتورهای انسانی باید قادر باشند هر اقدام را توضیح دهند؟
پرداختن به این پرسش‌ها، هم برای تضمین قابلیت اطمینان سیستم‌ها و هم برای تعیین مسئولیت و پاسخ‌گویی ضروری است.

بر اساس گزارش آکادمی ملی علوم، مهندسی و پزشکی ایالات متحده در سال ۲۰۲۲، شفافیت در حوزه نظامی شامل دو مؤلفه کلیدی است:

1. شفافیت نمایشی (Display Transparency): درکی لحظه‌ای از اقدامات سیستم هوش مصنوعی را به‌عنوان بخشی از آگاهی موقعیتی فراهم می‌کند.
2. توضیح‌پذیری: اطلاعاتی مبتنی بر داده‌های گذشته را در مورد منطق، فرایند، عوامل یا استدلالی که اقدامات یا توصیه‌های سیستم بر اساس آن‌ها بنا شده است، ارائه می‌دهد.

می‌بایست هم از نظر اینکه چه وظایفی به سیستم‌های هوش مصنوعی محول می‌شود و هم در خصوص درک‌پذیری و پیش‌بینی‌پذیری کافی از نحوه عملکرد سیستم، وضوح کامل وجود داشته باشد. در خصوص اینکه چه وظایفی به هوش مصنوعی محول می‌شود، انسان‌هایی که سیستم‌های هوش مصنوعی مرتبط با کاربردهای پرخطر (مانند انتخاب و درگیری با اهداف) را استفاده و مستقر می‌کنند، باید بتوانند در لحظه درک کنند که سیستم در حال انجام چه اقداماتی است و همچنین تا حدودی بدانند که سیستم چگونه واکنش نشان خواهد داد. هنگام استفاده از سیستم‌های مختلف، مؤلفه‌های فنی مانند رابط‌های کاربری باید موردتوجه قرار گیرند؛ بنابراین، شفافیت نمایشی یک مؤلفه حیاتی در هر تعریفی از شفافیت است که باید در مقررات بین‌المللی پیرامون کاربردهای نظامی هوش مصنوعی تدوین شود.

به‌عبارت‌دیگر، این نوع شفافیت باید یک مؤلفه الزامی برای هرگونه تصمیم‌گیری مرتبط با استقرار نیروی نظامی، نظیر تصمیم‌گیری در خصوص هدف‌گیری باشد تا اطمینان حاصل شود که این انسان‌ها هستند که به‌اندازه کافی بر این فرایندهای حیاتی کنترل دارند. سپس، این الزام شفافیت باید مکمل یک الزام حقوقی ضروری برای کنترل انسانی بر فرایندهای حیاتی باشد. آکادمی ملی علوم، مهندسی و پزشکی اذعان می‌دارد که شفافیت نمایشی برای کاربردهای محدود به زمان مرتبط‌ترین و ضروری‌ترین مورد خواهد بود؛ درحالی‌که توضیح‌پذیری زمانی بیشترین احتمال استفاده را دارد که زمان کافی برای بررسی سیستم‌ها وجود داشته باشد.

توضیح‌پذیری، درک‌پذیری و پیش‌بینی‌پذیری

در طول مبحث بین‌المللی، کشورها و ارتش‌ها غالباً به نیاز به سیستم‌های توضیح‌پذیر اشاره کرده‌اند. بااین‌حال، کارآمدی توضیح‌پذیری (به همان شکلی که در ادبیات علمی موردبحث درک می‌شود) در بستر نظامی موردمناقشه قرار گرفته است. «ناتان گابریل وود» استدلال می‌کند که توضیح‌پذیری شاید برای کسانی که واقعاً سیستم‌ها را مستقر می‌کنند، نسبت به طراحان و عیب‌یابان سیستم، کارایی کمتری داشته باشد. در عوض، او پیشنهاد می‌کند که تمرکز در استقرار هوش مصنوعی در بسترهای نظامی باید بر روی «تیم‌سازی انسان-ماشین» متمرکز باشد تا صرفاً توضیح‌پذیری. وود خاطرنشان می‌کند که «توضیح‌پذیری ممکن است تلاش‌ها برای بهبود تیم‌سازی انسان-ماشین را تضعیف کند، زیرا در نگاه اول این حس را ایجاد می‌کند که هوش مصنوعی به دلیل توضیح‌پذیر بودنش ممکن است با احتمال خطای بسیار کم مورداستفاده قرار گیرد.» نگرانی اصلی او این است که تمرکز بر سیستم‌های توضیح‌پذیر، نیاز به حصول اطمینان از آموزش کافی افراد مستقرکننده سیستم‌ها و تعامل مناسب آن‌ها با ابزارهای هوش مصنوعی را نادیده می‌گیرد. بااین‌حال، حتی در تیم‌سازی انسان-ماشین نیز برای انسان‌ها ضروری است که عوامل زیربنایی، نظیر مبنای نرخ دقت گزارش‌شده سیستم را درک کنند.

از دیدگاه وود، دغدغه اصلی «پیش‌بینی‌پذیری» است. فرمانده نظامی لزوماً نیازی ندارد که قادر باشد نحوه عملکرد یک سیستم را توضیح دهد و عنوان می‌کند: «دانستن اینکه سیستم چه زمانی به‌درستی عمل خواهد کرد و چه زمانی عمل نخواهد کرد و پاسخ متناسب به آن دانش، برای استفاده اخلاقی و قانونی از این سیستم‌ها کفایت خواهد کرد.» در اینجا، وود صرفاً این بر این موضوع تأکید می‌کند که نیروهای نظامی‌ای که سیستم‌های مبتنی بر هوش مصنوعی را مستقر می‌کنند، نیازی نیست توسعه‌دهنده یا برنامه‌نویس هوش مصنوعی باشند. این دیدگاه توسط برخی از فرماندهان نظامی نیز ابراز شده است. به‌عنوان‌مثال یک سرهنگ اسرائیلی را در نظر بگیرید که خاطرنشان کرد گاهی پی‌بردن به اینکه چگونه تصمیمات خاصی توسط سیستم مبتنی بر هوش مصنوعی مورداستفاده‌اش اتخاذ شده‌اند، می‌تواند دشوار باشد و اظهار داشت: «در آن زمان، گاهی مایلم بگویم که من به ردیابی‌پذیری (Traceability) راضی هستم، نه توضیح‌پذیری. بدین معنا که می‌خواهم آنچه را که درک آن در مورد فرایند برایم حیاتی است، بفهمم و بر آن نظارت کنم، حتی اگر درک نکنم که هر نورون چه کاری انجام می‌دهد.» بااین‌حال، برای پاسخ‌گویی پسینی، درجه‌ای از توضیح‌پذیری لازم است تا مشخص شود آیا واقعاً سیستم دچار نقص عملکرد شده است یا اینکه انسان مسئول تصمیمات خاصی بوده که شاید منجر به یک جنایت جنگی بالقوه شده است. برای تثبیت پاسخ‌گویی، نیروهای نظامی باید نسبت به سیستم‌هایی که استفاده می‌کنند آگاه بوده و به‌اندازه کافی آموزش دیده باشند.

برای «آرتور هالند میشل» نیز درک‌پذیری و پیش‌بینی‌پذیری بسیار حیاتی هستند. او خاطرنشان می‌کند که به‌جای توضیح‌پذیری سیستم‌ها، واژه بهتر برای استفاده «درک‌پذیری» (Understandability) است. از دیدگاه او، «اصطلاح گسترده‌تر و خنثی‌تر درک‌پذیری، هم توضیح‌پذیری فنی و هم تفسیرپذیری سیستم هوش مصنوعی را پوشش می‌دهد، درحالی‌که هم‌زمان ظرفیت سوژه انسانی برای درک را نیز در نظر می‌گیرد و همچنین متضمن عاملیت ماشین نیست.». بنابراین، داشتن توضیحات فنی در خصوص نحوه رسیدن یک سیستم به یک تصمیم کافی نیست؛ بلکه کسانی که سیستم را مستقر می‌کنند باید بتوانند اقدامات سیستم را نیز بدون داشتن سطح بالایی از تخصص فنی درک کنند. درک‌پذیری گاهی می‌تواند بسیار گسترده باشد، زیرا در حال حاضر بعید است فرماندهان نظامی بتوانند درک کنند که هر سیستم تسلیحاتی چگونه اقدامات خاصی را در سطحی خُرد و با جزئیات دقیق انجام می‌دهد؛ اما آن‌ها به‌طورکلی می‌توانند نحوه انجام اقدامات حیاتی را درک کنند.

مهم‌تر از همه، فرماندهان نظامی در حال حاضر عموماً می‌توانند بدانند که سیستم در شرایط مختلف چگونه عمل خواهد کرد. بنابراین، پیش‌بینی‌پذیری یکی از مؤلفه‌های مرتبط با درک‌پذیری است؛ زیرا تضمین می‌کند که خروجی‌ها و اثرات اقدامات، قابل‌انتظار و قابل‌پیش‌بینی باشند. هالند میشل خاطرنشان می‌کند که تعریف فنی شامل این انتظار است که سیستم به شیوه‌هایی عمل کند که بازتاب‌دهنده داده‌های آزمایش یا آموزش آن باشد. در بُعد عملیاتی، برای کسانی که از سیستم‌های خودمختار استفاده می‌کنند، مهم است که بتوانند اقدامات مختلف را پیش‌بینی کنند. هالند میشل به چالش‌های پیش‌بینی واقعی و دقیق هر سناریو به‌ویژه در مورد سیستم‌های پیچیده‌تر اذعان دارد. ازاین‌رو استدلال می‌کند که برای دستیابی واقعی به کاربردهای مسئولانه از هوش مصنوعی نظامی، سیستم‌ها باید بسیار درک‌پذیر و پیش‌بینی‌پذیر باشند. در محیط‌های پُرتنش و پُرفشار مانند مناطق جنگی، ارتش‌ها احتمالاً خواهان توضیحات ساده‌شده هستند و جذابیت یک برتری فناورانه ممکن است به استقرار سیستم‌هایی منجر شود که از درک‌پذیری و پیش‌بینی‌پذیری کمتری برخوردارند. بااین‌حال، باید از چنین سناریویی اجتناب کرد و کشورها باید راه‌هایی برای تضمین درک‌پذیری و پیش‌بینی‌پذیری در سیستم‌هایی که قصد دارند در مراحل مختلف توسعه و استقرار به کار گیرند را در نظر بگیرند.

شفافیت و چالش‌های عملیاتی

بااین‌وجود، تحقق شفافیت در سیستم‌های هوش مصنوعی نظامی در مقام سخن آسان‌تر از عرصه عمل است. مقوله شفافیت در حوزه هوش مصنوعی نظامی می‌تواند در مقاطع زمانی خاصی محقق شود و در مقابل، در زمان‌های دیگر در هاله‌ای از ابهام فرو رود. به بیان ساده‌تر، شفافیت یک وضعیت ثابت و ایستا نیست؛ بلکه روی یک طیف قرار دارد و بسته به عوامل متعددی نظیر مرحله توسعه، شرایط استقرار و بستر عملیاتی، دستخوش نوسان می‌شود. به‌عنوان‌مثال درحالی‌که توسعه‌دهندگان و آزمایش‌کنندگان اولیه سیستم‌های مبتنی بر هوش مصنوعی در بسترهای دفاعی می‌توانند تا حدودی از نحوه عملکرد این سیستم‌ها آگاهی یابند، همین سیستم‌ها ممکن است متعاقباً در محیط‌هایی مستقر شوند که تفاوت فاحشی با شرایط آموزشی مدل دارند. به‌عنوان یک مثال بارز، می‌توان به انتقال سیستم‌های شناسایی مبتنی بر هوش مصنوعی که در حال حاضر در اوکراین استفاده می‌شوند و استقرار آن‌ها در شرایط بیابانی اشاره کرد. اگرچه ممکن است این سیستم در بستر اوکراین عملکرد مطلوبی داشته و تحت آزمایش‌های سخت‌گیرانه‌ای قرار گرفته باشد، اما استقرار آن در محیطی که با شرایط آزمایش و به‌کارگیری اولیه آن کاملاً متفاوت است، نگرانی‌هایی را در خصوص پیش‌بینی‌پذیری عملکرد آن به همراه خواهد داشت. این سناریو، ضرورت فرایندهای آزمایش تطبیقی و صدور مجدد تأییدیه را برجسته می‌سازد. به اعتقاد برخی از کارشناسان می‌بایست الزامات سخت‌گیرانه‌ای برای محدودکردن فناوری به حوزه‌های خاصی که برای آن‌ها آزمایش شده است، وضع شود. چنانچه قرار است سیستمی خارج از بستر اولیه خود مورداستفاده قرار گیرد، می‌بایست فرایندِ تأیید یا صدور گواهینامه را طی کند تا اطمینان حاصل شود که می‌تواند در شرایط جدید نیز عملکردی اتکاپذیر داشته باشد. این فرایند به حفظ سطح بالاتری از درک‌پذیری و پیش‌بینی‌پذیری کمک کرده و خطرات ناشی از استقرار سیستم‌های هوش مصنوعی در محیط‌های ناشناخته را کاهش می‌دهد. با محدودکردن استقرار چنین سیستم‌هایی به حوزه‌های آزمایش‌شده آن‌ها، برنامه‌ریزان نظامی می‌توانند از پیامدهای ناگوار رفتار غیرمنتظره سیستم در محیط‌های پیش‌بینی‌نشده اجتناب ورزند. اتخاذ این رویکرد، مستلزم گفت‌وگوی مستمر میان توسعه‌دهندگان، آزمایش‌کنندگان و کاربران نهایی است تا پارامترهای عملیاتی سیستم‌های هوش مصنوعی به طور پیوسته ارزیابی و به‌روزرسانی شوند. به‌احتمال زیاد، این فرایند صدور تأییدیه به‌صورت درون‌سازمانی توسط کشورهای مختلف توسعه خواهد یافت و انتظار نمی‌رود که اطلاعات مربوط به نحوه اجرای این فرایند توسط این کشورها به اشتراک گذاشته شود.

شفافیت در هوش مصنوعی نظامی همچنین نیازمند نظارت و ارزیابی مستمر است. پس از استقرار یک سیستم هوش مصنوعی، این سیستم باید تحت بررسی‌های مداوم قرار گیرد تا هرگونه انحراف از رفتار موردانتظار آن، شناسایی و رفع شود. این نظارت باید شامل گردآوری داده‌هایی در خصوص عملکرد سیستم، تحلیل تصمیمات آن و اعمال هرگونه اصلاحات ضروری باشد. نظارت مستمر به حفظ سطح بالایی از شفافیت کمک کرده و امکان انجام اقدامات اصلاحی فوری را در زمان بروز مشکلات فراهم می‌آورد. در عمل، این امر می‌تواند به معنای تشکیل تیم‌های تخصصی برای نظارت بر عملکرد سیستم‌های هوش مصنوعی در میدان نبرد باشد. این تیم‌ها مسئولیت ردیابی شاخص‌های عملکرد، بررسی ناهنجاری‌ها و حصول اطمینان از انطباق با استانداردهای تعیین‌شده را بر عهده خواهند داشت. ارتش با حفظ یک حلقه بازخورد میان توسعه‌دهندگان و اپراتورها، می‌تواند اطمینان حاصل کند که سیستم‌های هوش مصنوعی در طول چرخه حیات عملیاتی خود، شفاف و قابل‌اطمینان باقی می‌مانند.

علی‌رغم این اقدامات، سیستم‌های هوش مصنوعی موجود و به‌احتمال بسیار زیاد سیستم‌های آینده، ناگزیر در بستر دفاعی با چالش مواجه خواهند شد؛ بستری که هم ذاتاً غیرقابل‌پیش‌بینی است و هم با واقعیت حضور کشورهای متخاصمی گره خورده است که در پی نفوذ و تضعیف سیستم‌های مستقر مبتنی بر هوش مصنوعی هستند. «جان آر. لیندسی» در این باره خاطرنشان می‌کند: «نیروهای دشمن انگیزه‌هایی برای سوق‌دادن درگیری‌ها به سمت‌وسوی غیرمنتظره دارند؛ یعنی جایی که سیستم‌های هوش مصنوعی برای آن آموزش ندیده‌اند و احتمالاً عملکردی نامطلوب یا پایین‌تر از حد بهینه خواهند داشت. این امر نه‌تنها مشکلات داده‌ای، بلکه چالش‌های محاسباتی و قضاوت را نیز به همراه دارد.» ازاین‌رو، در عمل حفظ شرایط اولیه آزمایش و ارزیابی سیستم‌ها دشوار خواهد بود. این مسئله احتمالاً به اعمال فشار مضاعف بر تیم‌های انسان-ماشین منجر خواهد شد، زیرا ممکن است انسان‌ها برای پیش‌بینی خروجی‌هایی که سیستم‌ها در شرایط متفاوت تولید می‌کنند، آموزش ندیده باشند. بااین‌وجود، در شرایطی که ارتش‌ها به استقرار سیستم‌های مختلفی از پهپادهای مجهز به بینایی ماشین گرفته تا جت‌های جنگنده هدایت‌شونده با هوش مصنوعی ادامه می‌دهند، باید اقداماتی در راستای دستیابی به‌نوعی از شفافیت صورت پذیرد. سپس، این شفافیت باید به‌عنوان مکمل مقررات و سایر سازوکارهای حاکمیتی عمل نماید.

رویکردی جامع در زمینه شفافیت هوش مصنوعی نظامی

الزامات فنی و داخلی

به‌منظور تحقق شفافیت داخلی، ارتش‌ها باید چرخه حیات سیستم‌های نظامی و مراحل مختلف آن از تحقیق‌وتوسعه تا آزمایش و سپس استقرار را مدنظر قرار دهند. هر مرحله، بسته به نوع کاربرد، نیازمند الزامات خاصی از شفافیت خواهد بود که می‌تواند اهداف متعددی را برای انطباق‌پذیری داخلی ارتش برآورده سازد و همچنین، بسته به نوع شفافیت، ممکن است اطمینان‌خاطری برای سایر کشورها نیز فراهم آورد.

تحقیق‌وتوسعه و آزمایش

تحقیق‌وتوسعه فناوری‌های نوظهور در عرصه نظامی در پشت درهای بسته انجام می‌پذیرد. بااین‌حال، وزارتخانه‌های دفاع می‌توانند در سطح درون‌سازمانی اطمینان حاصل کنند که سیستم‌های تحت تحقیق‌وتوسعه در کنار سایر ملاحظات، داده‌های ورودی را به نحو مقتضی مستندسازی می‌کنند، محیط‌های مختلف را در نظر می‌گیرند و استراتژی‌های خصمانه‌ای که ممکن است علیه این سیستم‌ها به کار گرفته شوند را موردبررسی قرار می‌دهند. همچنین سیستم‌ها و انواع مختلفی از وظایف یا کارکردها وجود دارند که این سیستم‌ها باید با استفاده از روش‌شناسی‌های متنوع هوش مصنوعی به انجام رسانند. سیستم‌هایی که احتمال بروز رفتار غیرقابل‌پیش‌بینی در آن‌ها بیشتر است، نیازمند بررسی دقیق‌تری هستند و باید ملاحظاتی در خصوص الزامات قانونی و هنجاری بین‌المللی برای برخی از این سیستم‌ها در نظر گرفته شود.

باتوجه‌به اینکه هوش مصنوعی یک فناوری همه‌منظوره است، انتقال فناوری از بخش مدنی (غیرنظامی) به بخش نظامی محتمل به نظر می‌رسد. به همین جهت، آزمایش سخت‌گیرانه فناوری‌های هوش مصنوعی غیرنظامی پیش از استقرار آن‌ها در محیط‌های نظامی از اهمیتی حیاتی برخوردار خواهد بود. یکی از جنبه‌های پذیرفته‌شده در خصوص سیستم‌های هوش مصنوعی، شکنندگی آن‌هاست؛ به این معنا که اگرچه این سیستم‌ها ممکن است در کاربردهای محدود عملکرد مطلوبی داشته باشند، اما در کاربردهای عمومی‌تر با مشکل مواجه می‌شوند. بنابراین، سیستم‌های غیرنظامی ممکن است به‌عنوان مبنایی برای کاربردهای نظامی مورداستفاده قرار گیرند، اما گذار از کاربری غیرنظامی به نظامی با چالش‌ها و خطرات بالقوه‌ای همراه است. این سیستم‌ها بدون انجام آزمایش‌های جامع، ممکن است آسیب‌پذیری‌ها یا سوگیری‌های پیش‌بینی‌نشده‌ای از خود بروز دهند که در یک محیط جنگی می‌تواند پیامدهای فاجعه‌باری به دنبال داشته باشد. این پیامدها شامل هدف قراردادن غیرنظامیان و زیرساخت‌های غیرنظامی است.

در بستر غیرنظامی، سیستم‌های هوش مصنوعی به‌منظور حصول اطمینان از عملکرد مطابق با اهداف تعیین‌شده، تحت آزمایش‌ها و اعتبارسنجی‌های گسترده‌ای قرار می‌گیرند. این فرایند شامل ارزیابی دقت، اتکاپذیری و تاب‌آوری سیستم در شرایط مختلف است. هنگامی که این سیستم‌ها برای کاربرد نظامی تطبیق داده می‌شوند، باید تحت یک دوره آزمایشی به‌مراتب سخت‌گیرانه‌تر قرار گیرند. در کاربردهای نظامی، سطح مخاطرات به‌مراتب بالاتر است، حاشیه خطا بسیار اندک و پتانسیل آسیب‌رسانی قابل‌توجه است.

یک آزمایش اصولی باید علاوه بر عملکرد فنی، ملاحظات اخلاقی را نیز در بر گیرد. برای نمونه، سوگیری‌های ذاتی در بسیاری از سیستم‌های هوش مصنوعی می‌تواند در یک بستر نظامی تشدید شده و به نتایج ناعادلانه‌ای منجر شود. بنابراین، پروتکل‌های آزمایشی باید شامل ارزیابی‌های مرتبط با انصاف و استراتژی‌های کاهش سوگیری باشند.

آموزش جامع برای کاربران

شفافیت در سیستم‌های هوش مصنوعی نظامی به آموزش جامع افرادی که راهبری این فناوری‌ها را بر عهده دارند نیز بستگی دارد. تنها این کافی نیست که اپراتورها نحوه استفاده از سیستم‌ها را درک کنند؛ بلکه آن‌ها باید اصول بنیادین حاکم بر فرایندهای تصمیم‌گیری هوش مصنوعی را نیز به‌خوبی دریابند. سپس، اپراتورها باید دانش خود را در خصوص نحوه عملکرد این سیستم‌ها با فرماندهان نظامی به اشتراک بگذارند. این دانش برای حصول اطمینان از اینکه فرماندهان همچنان کنترل امور را در دست دارند، قادرند هنگام تعامل با هوش مصنوعی تصمیمات آگاهانه‌ای اتخاذ کنند و از سطح بالایی از درک‌پذیری سیستم‌های هوش مصنوعی برخوردارند، بسیار حائز اهمیت است.

برنامه‌های آموزشی باید به‌گونه‌ای طراحی شوند که درکی عمیق از سیستم‌های هوش مصنوعی مورداستفاده را برای اپراتورها و فرماندهان فراهم آورند. این آموزش نه‌تنها باید جنبه‌های فنی سیستم‌ها، بلکه راه‌هایی که ممکن است این سیستم‌ها برای تأثیرگذاری یا سوق‌دادن تصمیم‌گیری طراحی شده باشند را در بر گیرد. به‌عنوان‌مثال، سیستم‌های هوش مصنوعی غالباً داده‌ها را به روش‌هایی ارائه می‌دهند که می‌تواند به طور نامحسوسی اپراتورها را به سمت نتایج یا اقدامات خاصی هدایت کند. تشخیص این جهت‌دهی‌ها برای حفظ نظارت انسانی و جلوگیری از اتکای بیش از حد به توصیه‌های هوش مصنوعی، امری ضروری است.

علاوه بر این، در فرایند آموزش باید بر اهمیت تفکر انتقادی و ملاحظات اخلاقی تأکید شود. اپراتورها باید قادر باشند خروجی‌های هوش مصنوعی را زیر سؤال برده و آن‌ها را ارزیابی کنند، نه اینکه آن‌ها را چشم‌بسته بپذیرند. به همین دلیل، سازمان‌های نظامی؛ یعنی جایی که ساختار سنتی و سلسله‌مراتبی آن گاهی اوقات می‌تواند پرسشگری درباره سیستم‌های خودکار را تضعیف کند، باید دستخوش یک تغییر فرهنگی شوند. ارتش با ترویج فرهنگ تعامل انتقادی، می‌تواند اطمینان حاصل کند که سیستم‌های هوش مصنوعی به شیوه‌ای مسئولانه و شفاف مورداستفاده قرار می‌گیرند.

تخصیص پاسخ‌گویی مستمر

هم‌زمان با تکامل و به‌روزرسانی سیستم‌های هوش مصنوعی نظامی، تخصیص پاسخ‌گویی (مسئولیت‌پذیری) نیز باید به‌عنوان یک فرایند مستمر و پویا دنبال شود. یکی از چالش‌های عمده در حکمرانی هوش مصنوعی، حصول اطمینان از تداوم پاسخ‌گویی در سراسر چرخه حیات سیستم است که نه‌تنها استقرار اولیه، بلکه به‌روزرسانی‌ها و اصلاحات بعدی را نیز شامل می‌شود.

هنگامی که سیستم‌های هوش مصنوعی به‌روزرسانی می‌شوند، ویژگی‌ها یا تنظیمات جدید می‌توانند خطرات پیش‌بینی‌نشده‌ای ایجاد کنند یا رفتار سیستم را به‌گونه‌ای تغییر دهند که فوراً قابل‌تشخیص نباشد. بنابراین، وجود سازوکارهایی برای ارزیابی مجدد عملکرد سیستم و پیامدهای اخلاقی آن پس از هر به‌روزرسانی، ضروری است. این فرایند باید گروه متنوعی از ذی‌نفعان، از جمله کارشناسان فنی، متخصصان اخلاق و کاربران نهایی را درگیر نماید. افزون بر این، خطوط مشخصی از پاسخ‌گویی باید برای هر یک از مراحل چرخه حیات سیستم هوش مصنوعی تدوین شود. این پاسخ‌گویی شامل تعیین هویت افراد مسئول برای طراحی، آزمایش، استقرار و نگهداری سیستم می‌شود. در مواردی که سیستم هوش مصنوعی مرتکب خطایی بحرانی می‌شود یا رفتار ناخواسته‌ای از خود بروز می‌دهد، باید یک فرایند شفاف برای تعیین مسئولیت و اجرای اقدامات اصلاحی وجود داشته باشد. همان‌طور که پیش‌تر اشاره شد، سیستم‌ها باید از سطحی از توضیح‌پذیری برخوردار باشند تا اطمینان حاصل شود افرادی که پاسخ‌گویی پسینی (پس از وقوع) را بررسی می‌کنند، بتوانند نشان دهند که آیا سیستم دچار نقص عملکرد شده است یا اینکه تصمیم‌گیرنده انسانی به شیوه‌ای عمل کرده که منجر به ارتکاب یک جرم خاص شده است.

دامنه تخصیص پاسخ‌گویی باید به فرایند تدارکات (آماد و پشتیبانی) نیز تعمیم یابد. سازمان‌های نظامی باید اطمینان حاصل کنند که پیمانکاران و تأمین‌کنندگان به استانداردهای سخت‌گیرانه اخلاقی و شفافیت پایبند هستند. این فرایند باید شامل الزام به ارائه مستندات دقیق از روند توسعه سیستم هوش مصنوعی، پروتکل‌های آزمایشی و هرگونه محدودیت یا سوگیری شناخته‌شده باشد. ارتش با پاسخ‌گو نگه‌داشتن تأمین‌کنندگان، می‌تواند شفافیت و اتکاپذیری کلی سیستم‌های هوش مصنوعی خود را ارتقا بخشد. ارتش‌ها همچنین نیازمند توسعه رویه‌هایی برای ارزیابی «خودتأییدی» ارائه‌شده از سوی تأمین‌کنندگان خواهند بود، چرا که توسعه‌دهندگان ممکن است این تأییدیه‌ها را دست‌کاری کرده و یا آن‌ها را به نفع خود تنظیم نمایند.

شفافیت خارجی و چارچوب‌های حکمرانی

شفافیت داخلی اگرچه امری ضروری است، اما برای رسیدگی به چالش‌های قانونی و اخلاقی ناشی از استقرار سیستم‌های مبتنی بر هوش مصنوعی توسط ارتش‌ها کفایت نمی‌کند. به‌منظور تضمین استفاده مسئولانه، استانداردهای جهانی و فرصت‌هایی برای اقدامات جهت جلب‌اعتماد نیز موردنیاز است. شفافیت خارجی می‌تواند گروه متنوعی از ذی‌نفعان را درگیر کند. هنگامی که کشورها اطلاعات مربوط به سیاست‌ها و جنبه‌های فنی سیستم‌های هوش مصنوعی خود را افشا می‌کنند، جامعه علمی جهانی می‌تواند باتکیه‌بر بینش‌های به‌دست‌آمده از سایر حوزه‌های حساس به ایمنی، به بررسی و ارزیابی آن‌ها بپردازد. این رویکرد مشارکتی، ارزیابی جامع از مسائل را امکان‌پذیر ساخته و تضمین می‌کند که در پرداختن به چالش‌های هوش مصنوعی در حوزه نظامی، دیدگاه‌های متعددی لحاظ شود.

رگولاتوری و تنظیم‌گری باید هدایتگر سازوکارهای شفافیت باشد و این کشورها هستند که تصمیم می‌گیرند چه سیستم‌ها و فرایندهایی برای فعال‌سازی یا اجرا توسط فناوری‌های هوش مصنوعی قابل‌قبول است. در سطح بین‌المللی، وجود یک سند الزام‌آور قانونی که خطوط قرمز روشنی را ترسیم کند، ضروری خواهد بود. چنین فرایندی می‌تواند در چارچوب سازمان ملل متحد محقق شود. علاوه بر این، مجامع تثبیت‌شده‌ای وجود دارند که در آن‌ها کشورها می‌توانند به تبادل اطلاعات پرداخته و بینش‌هایی در خصوص رویکردها و سیاست‌های خود در زمینه کاربردهای هوش مصنوعی در حوزه نظامی ارائه دهند. «کنوانسیون سلاح‌های متعارف خاص» (CCW) یکی از این مجامع است که احتمالاً به گفت‌وگو در خصوص سلاح‌های خودران ادامه خواهد داد. فراتر از CCW، اعلامیه سیاسی به رهبری ایالات متحده و کارگروه پاسخ‌گویی و شفافیت می‌توانند در تدوین بهترین شیوه‌ها و الگوها برای کشورها نقش‌آفرینی کنند تا بتوانند نحوه حفظ درک‌پذیری و پیش‌بینی‌پذیری در مراحل مختلف توسعه را ردیابی کنند. اجلاس‌ها و نشست‌های بین‌المللی نیز می‌توانند به ایجاد هنجارهایی در خصوص انواع اطلاعات قابل‌اشتراک‌گذاری کمک کنند. به‌عنوان‌مثال، «اجلاس هوش مصنوعی مسئولانه در حوزه نظامی» (REAIM) که در سال ۲۰۲۳ در لاهه و در سال ۲۰۲۴ در سئول برگزار شد، گروه گسترده‌تری از کشورها از جمله چین و ذی‌نفعان متعدد را گرد هم می‌آورد. ازاین‌رو، REAIM در جایگاه مناسبی برای فراهم‌آوردن فضایی برای گفت‌وگو، بدون اعمال فشار برای وضع مقررات خاص یا تعهدات ملموس‌تر قرار دارد و از یک محیط با ذی‌نفعان متعدد بهره می‌برد. تبادلات بیشتر میان دولت‌ها و در قالب گفت‌وگوهای نظامی‌-‌نظامی می‌تواند به درک این موضوع کمک کند که کدام دولت‌ها از توانمندی فنی برخوردارند. اما مانند هند به مواضع خود پیرامون آنچه استفاده مسئولانه از هوش مصنوعی نظامی می‌پندارند، توجه کمتری کرده‌اند. اگرچه هند درباره استفاده مسئولانه از هوش مصنوعی سخن گفته است، اما در بحث‌های CCW نیز تمایل خود را برای استقرار گسترده‌تر این فناوری‌ها ابراز نموده است. در حقیقت، شفافیت بیشتر در سیاست‌های هوش مصنوعی نظامی می‌تواند به توسعه دانش و اعتمادسازی در میان کشورها کمک کند.

بر همین اساس، اقدامات اعتمادساز برای تحقق شفافیت خارجی از اهمیتی حیاتی برخوردارند. «مایکل سی. هوروویتز»، «لورن کان» و «کیسی ماهونی» به بررسی نحوه مشارکت تاریخی اقدامات اعتمادساز در امنیت بین‌المللی و توافق‌نامه‌های کنترل تسلیحات پرداخته‌اند. آن‌ها خاطرنشان می‌کنند که اگرچه رویکردهای گذشته، الگوهای دقیقی برای هوش مصنوعی نظامی محسوب نمی‌شوند، اما ملاحظاتی ضروری برای همکاری بین‌المللی را ارائه می‌دهند. به گفته آن‌ها، کشورها می‌توانند سطحی از اطلاعات فنی در خصوص سیستم‌های مختلف و سیاست‌های خود را مبادله کنند که این امر تمایل بیشتری برای مشارکت در گفت‌وگو، حتی در میان کشورهای متخاصم‌تر ایجاد خواهد کرد. به‌اشتراک‌گذاری اطلاعات پیرامون ملاحظات اخلاقی در مجامع مختلف نیز می‌تواند بینش‌هایی را درباره موضع‌گیری کشورهای مختلف فراهم آورد. بنابراین، باتوجه‌به اینکه به نظر نمی‌رسد ارزیابی یا صدور تأییدیه خارجی توسط نهادهای شخص ثالث در کوتاه‌مدت امکان‌پذیر باشد، اقدامات اعتمادساز اهمیت بسیار بیشتری خواهند یافت. «یوانا پوشکاش» اشاره می‌کند که رویکردهای مبتنی بر ریسک می‌توانند تمرکزی بر اولویت‌بندی اقدامات اعتمادساز در کاربردهای نظامی هوش مصنوعی فراهم آورند. پوشکاش به‌عنوان نمونه به توافق کشورها برای اعمال محدودیت بر استقرار هوش مصنوعی در حوزه‌هایی که ریسک بسیار بالاست (نظیر سلاح‌های هسته‌ای) اشاره می‌کند. چنین توافقی احتمالاً می‌تواند به یک چارچوب حکمرانی مبتنی بر ریسک برای سلاح‌های خودران و هوش مصنوعی نظامی منجر شود که تضمین می‌کند سیستم‌های دارای خطرات غیرقابل‌قبول یا ممنوع شده و یا مشمول محدودیت‌های سخت‌گیرانه در استفاده خواهند شد.

نتیجه‌گیری

نیاز به شفافیت در سیستم‌های هوش مصنوعی نظامی فراتر از دغدغه‌های عملیاتی فوری است. این امر همچنین عاملی حیاتی در حفظ اعتماد عمومی و ثبات بین‌المللی به شمار می‌رود. هم‌زمان با ادغام روزافزون فناوری‌های هوش مصنوعی در عملیات‌های نظامی، پتانسیل سوءاستفاده یا پیامدهای ناخواسته نیز افزایش می‌یابد. به دلیل هیاهوی پیرامون این فناوری و واقعیت‌های ژئوپلیتیکی، ممکن است فشارهایی برای استقرار فناوری‌هایی اعمال شود که به‌درستی آزمایش یا درک نشده‌اند. رویه‌های شفاف می‌توانند با حصول اطمینان از استفاده اخلاقی و مسئولانه از سیستم‌های هوش مصنوعی به کاهش این خطرات کمک کنند. شفافیت، این اطمینان را ایجاد می‌کند که از این فناوری‌ها مطابق با استانداردهای اخلاقی استفاده می‌شود و سازوکارهای مستحکمی برای رسیدگی به هرگونه مشکل احتمالی وجود دارد. این اعتماد، به‌ویژه در جوامع دموکراتیک که در آن‌ها افکار عمومی می‌تواند بر سیاست‌های نظامی تأثیرگذار باشد از اهمیت بسزایی برخوردار است.

در عرصه بین‌المللی، شفافیت در سیستم‌های هوش مصنوعی نظامی می‌تواند به جلوگیری از تشدید تنش‌ها و کاهش خطر درگیری کمک کند. هنگامی که کشورها در خصوص توانمندی‌های هوش مصنوعی خود و تدابیر اتخاذشده برای تضمین استفاده اخلاقی از آن شفافیت به خرج می‌دهند، این امر می‌تواند به ایجاد اعتماد متقابل و تسهیل همکاری‌ها بینجامد. بالعکس، فقدان شفافیت می‌تواند به سوءظن و رقابت‌های تسلیحاتی دامن بزند؛ چرا که ممکن است کشورها احساس کنند برای حفظ برتری استراتژیک، ناگزیر به توسعه مخفیانه توانمندی‌های هوش مصنوعی خود هستند.

در نهایت، تلاش‌ها در راستای شفافیت تنها می‌توانند مکمل مقررات باشند و نه جایگزین آن‌ها. استفاده از سیستم‌های مبتنی بر هوش مصنوعی در استقرار و به‌کارگیری نیروها، پیامدهای بسیار زیادی برای امنیت جهانی به همراه دارد و نمی‌توان از اسناد الزام‌آور قانونی و سایر اقدامات در سطح بین‌المللی چشم‌پوشی کرد. راه‌حل‌های فنی محدودیت‌های خاص خود را دارند و سیستم‌های مبتنی بر هوش مصنوعی احتمالاً در خارج از محیط‌های آزمایشگاهی با مشکلات عملیاتی چشمگیری مواجه خواهند شد. کشورها باید تأثیرات گسترده‌تر استقرار این سیستم‌ها را موردتوجه قرار دهند. همان‌طور که «مارک میلی» ژنرال بازنشسته و رئیس سابق ستاد مشترک ارتش ایالات متحده خاطرنشان می‌کند: «این ایده که جنگ یک امر استریل و بی‌خطر است و سلاح‌های شگفت‌انگیزی وجود دارند که می‌توانیم از طریق آن‌ها جنگ را بدون درد پیش ببریم… اینکه فکر کنیم فناوری قرار است وحشت جنگ را برطرف کند؛ این‌طور نیست.» ازاین‌رو، تلاش‌های معطوف به شفافیت یکی از بخش‌های حیاتی چارچوب جامع‌تر حکمرانی و قانون‌گذاری است که باید برای کاربردهای نظامی هوش مصنوعی و سیستم‌های خودمختار تدوین شود. بدون وجود یک چارچوب شفافیت جامع، پتانسیل استقرار فناوری‌هایی که برای محیط‌های مختلف نامناسب بوده یا خطر تشدید درگیری‌ها را افزایش می‌دهند، صرفاً روندی صعودی خواهد یافت. درگیری‌های معاصر، خود به‌عنوان زنگ خطری عمل می‌کنند که نشان می‌دهد مفروضات پیشین درباره آنچه تحت هنجارها و قوانین بین‌المللی موجود قابل‌قبول است، در حال فرسایش است.

درباره CIGI

«مرکز نوآوری حاکمیت بین‌المللی» (CIGI) یک اندیشکده مستقل و غیرحزبی است که تحقیقات داوری‌شده همتا و تحلیل‌های معتبر آن، سیاست‌گذاران را به‌سوی نوآوری سوق می‌دهد. شبکه جهانی CIGI متشکل از پژوهشگران چندرشته‌ای و شراکت‌های استراتژیک، راه‌حل‌های سیاستی را برای عصر دیجیتال با یک هدف واحد ارائه می‌دهد:
بهبود زندگی انسان‌ها در همه‌جا.