Disrupting Malicious Uses Of AI

OpenAI مأموریت خود را حصول اطمینان از این می‌داند که هوش جامع مصنوعی (AGI) به نفع تمام بشریت باشد و این مأموریت را با ارائه نوآوری‌های خود و ساخت ابزارهای هوش مصنوعی که به مردم کمک می‌کنند مسائل دشوار را حل کنند، پیش می‌برد. در دو سال گذشته نیز OpenAI اقدام به انتشار گزارش‌های تهدید و سوءاستفاده از ابزارهای خود کرده و بینش‌های مهمی درباره روش‌هایی که عوامل تهدیدگر سعی می‌کنند از مدل‌های هوش مصنوعی سوءاستفاده کنند را به دست آورده است.

مطالعات موردی نشان می‌دهند که عوامل تهدیدگر معمولاً از هوش مصنوعی در کنار ابزارهای سنتی‌تر مانند وب‌سایت‌ها و حساب‌های شبکه‌های اجتماعی استفاده می‌کنند. فعالیت‌های سوءاستفاده‌گرانه به‌ندرت به یک پلتفرم محدود می‌شوند و همیشه به یک مدل هوش مصنوعی هم محدود نیستند. در عوض، ممکن است در مراحل مختلف جریان کاری عملیاتی خود از مدل‌های مختلف هوش مصنوعی استفاده کنند. OpenAI این بینش‌ها را در گزارش‌های تهدید خود به اشتراک می‌گذارد تا صنعت و جامعه بهتر بتوانند چنین تهدیدهایی را شناسایی کرده و از آن‌ها اجتناب کنند.