گزارش حاضر از سوی مجمع جهانی اقتصاد (WEF) و با همکاریCapgemini ، به یکی از چالشهای کلیدی ورود هوش مصنوعی عاملمحور به سازمانها میپردازد: چگونه میتوان به عاملهای هوش مصنوعی اختیار عمل داد، بدون آنکه کنترل، پاسخگویی و نظارت انسانی از بین برود؟
گزارش استدلال میکند که با افزایش تعداد عاملها، مسئله دیگر صرفاً قابلیتهای فنی مدل نیست؛ بلکه سازمان باید دقیقاً مشخص کند هر عامل چه کاری، در چه شرایطی و با چه سطحی از اختیار میتواند انجام دهد و چگونه این اختیارات در طول چرخه عمر سیستم اعمال و پایش شوند. همچنین، استفاده مشترک چند عامل از مدلهای پایه مشابه میتواند آسیبپذیریهای سیستماتیک ایجاد کند و ضرورت کنترل و نظارت در سطح هر عامل را افزایش دهد.
محور اصلی گزارش، معرفی Agent Capability and Authorization Profile (ACAP) است؛ چارچوبی برای پیونددادن سیاست تفویض اختیار، طراحی سیستم و نظارت عملیاتی. ACAP با هدف قابلممیزی، قابلاجرا و پاسخگو کردن تصمیمها و اقدامات عاملها طراحی شده و مسیری ساختاریافته برای حرکت سازمان از پروژههای آزمایشی به استقرار گسترده و حاکمیتشده عاملها ارائه میکند.
