چارچوب «مدیریت ریسک هوش مصنوعی» مؤسسه ملی استانداردها و فناوری آمریکا (NIST)، راهنمایی عملی برای سازمانهایی است که هوش مصنوعی را طراحی، توسعه، خریداری، مستقر یا استفاده میکنند. هدف اصلی این چارچوب، کمک به سازمانها برای شناسایی، ارزیابی و مدیریت ریسکهای هوش مصنوعی و درعینحال تقویت توسعه و استفاده مسئولانه و قابلاعتماد از این فناوری است.
AI RMF برخلاف یک استاندارد الزامآور، چارچوبی داوطلبانه، مستقل از صنعت و موردکاربرد است و برای سازمانهایی با اندازه و سطح بلوغ متفاوت طراحی شده است. این چارچوب مفهوم «هوش مصنوعی قابلاعتماد» را بر ویژگیهایی مانند اعتبار و قابلیت اطمینان، ایمنی، امنیت و تابآوری، شفافیت و پاسخگویی، توضیحپذیری، حفظ حریم خصوصی و عدالت استوار میکند.
هسته اصلی AI RMF چهار کارکرد بههمپیوسته دارد:
- حاکمیت (Govern)
- شناخت و ترسیم ریسک (Map)
- اندازهگیری (Manage)
- مدیریت (Manage)
این چهار کارکرد به سازمان کمک میکنند ریسکها را در سراسر چرخه عمر سیستمهای هوش مصنوعی شناسایی، اندازهگیری، اولویتبندی و کنترل کند.NIST تأکید میکند مدیریت ریسک باید فرایندی مستمر باشد و با تغییر فناوری، زمینه استفاده و پیامدهای آن بهروزرسانی شود. AI RMF 1.0 همچنین مبنایی برای تبدیل اصول «هوش مصنوعی مسئولانه» به فرایندها و اقدامات عملیاتی در سطح سازمان فراهم میکند.
