گزارش حاضر از PwC تصویری از تحول مفهوم اعتماد و ایمنی در عصر هوش مصنوعی ارائه میکند؛ عصری که در آن هوش مصنوعی از ابزارهای تولید محتوا فراتر رفته و بهتدریج در قالب عاملهای هوشمند، سیستمهای خودمختار و فناوریهای فیزیکی وارد فرایندهای سازمانی و زندگی روزمره میشود. PwC در این گزارش استدلال میکند که مدلهای سنتی Trust & Safety که عمدتاً بر مدیریت محتوا، پلتفرمهای آنلاین و واکنش به آسیبها متمرکز بودند، دیگر برای محیط جدید کافی نیستند.
این گزارش بر پایه نظرسنجی PwC از ۲ هزار بزرگسال آمریکایی و تجربه این شرکت در همکاری با سازمانهای بزرگ، هفت روند کلیدی را بررسی میکند: مشارکت جامعه و حکمرانی پلتفرمها، ایمنی کودکان در عصر هوش مصنوعی، نقش عاملهای هوش مصنوعی بهعنوان همکاران نیروی انسانی، حکمرانی هوش مصنوعی فیزیکی، حرکت از تعدیل محتوای گسترده به تعدیل تخصصی، استفاده از هوش مصنوعی عاملمحور در عملیات Trust & Safety و تهدیدهای نوظهور هوش مصنوعی. پیام اصلی گزارش برای مدیران این است که اعتماد و ایمنی باید از یک کارکرد واکنشی به قابلیتی راهبردی و مستمر تبدیل شود؛ قابلیتی که از مرحله طراحی محصول و حکمرانی تا عملیات و همکاری با اکوسیستم سازمان در آن ادغام شده باشد. PwC همچنین نمونهای عملی از استفاده از عاملهای هوش مصنوعی برای ارزیابی محتوا، ارائه دلایل تصمیمگیری و ارجاع موارد پرریسک به کارشناسان را معرفی میکند.
