دو مدل هوش مصنوعی چینی در آزمون جیلبریک محدودیت‌های ایمنی را دور زدند

شرکت امنیت هوش مصنوعی مایندگارد در بررسی‌های خود دریافت مدل‌های Kimi K2.6 و Kimi K3 Swarm در برابر برخی روش‌های موسوم به «جیلبریک» آسیب‌پذیر هستند؛ روشی که با استفاده از دستورهای پیچیده تلاش می‌کند محدودیت‌های ایمنی مدل‌های هوش مصنوعی را دور بزند.

مایندگارد اعلام کرده است که این مدل‌ها پس از موفقیت جیلبریک، درباره موضوعات مخرب نیز پاسخ‌هایی ارائه می‌کنند. با این حال، این شرکت هنوز نشان نداده است که اطلاعات ارائه‌شده توسط مدل‌ها در عمل قابل استفاده یا مؤثر هستند.

یکی دیگر از نگرانی‌های مطرح‌شده درباره Kimi K2.6 این است که نسخه جیلبریک‌شده آن، به گفته مایندگارد، ممکن است امکان اجرای کد و اتصال به اینترنت را فراهم کند و به سکویی بالقوه برای حملات سایبری تبدیل شود.

شرکت مون‌شات اعلام کرده است که درباره یافته‌های مایندگارد با این شرکت در حال گفت‌وگو است و از بازخوردهای مستقل برای افزایش ایمنی مدل‌های هوش مصنوعی استقبال می‌کند.

این گزارش بار دیگر نگرانی‌ها درباره سوءاستفاده از مدل‌های هوش مصنوعی و چالش حفظ سازوکارهای ایمنی در برابر روش‌های جیلبریک را مطرح کرده است.