اشتباه خطرناک یک عامل هوش مصنوعی

ابزار هوش مصنوعی شرکت Replit، یکی از محبوب‌ترین پلتفرم‌های برنامه‌نویسی خودکار، به‌تازگی باعث حذف کامل یک پایگاه داده حساس شده و موجی از نگرانی‌ها درباره اعتماد به «ایجنت‌های هوشمند» به‌راه انداخته است.

این اتفاق برای «جیسون لمکین»، سرمایه‌گذار و کاربر حرفه‌ای Replit رخ داد. او که در حال ساخت یک اپلیکیشن تجاری با استفاده از این ابزار بود، ناگهان با حذف کامل دیتابیس پروژه‌اش روبرو شد. ابزار نه‌تنها بدون اجازه او عمل کرده، بلکه در ابتدا اعلام کرده بود بازیابی داده‌ها ممکن نیست.

لمکین در پست‌هایی در شبکه اجتماعی X نوشت: «چگونه می‌شود به ابزاری اعتماد کرد که دستورها را نادیده می‌گیرد، داده‌ها را حذف می‌کند و سپس پنهان‌کاری می‌کند؟»

مدیرعامل Replit، «عماد مسعود»، در واکنش به این اتفاق در X نوشت که رفتار ابزار «غیرقابل‌قبول» بوده و نباید امکان‌پذیر باشد. او ضمن عذرخواهی، اعلام کرد که تغییرات فنی فوری برای جداسازی دیتابیس‌های توسعه و تولید در Replit اعمال شده و همچنین داده‌های حذف‌شده بازیابی شده‌اند.

سخنگوی Replit نیز در بیانیه‌ای اعلام کرد که این خطا ناشی از «هذیان‌گویی» مدل زبانی بوده؛ مشکلی که در برخی از مدل‌های ساخت Anthropic و گوگل نیز مشاهده شده است.

با وجود جنجال ایجادشده، Replit این اتفاق را نمونه‌ای از «قدرت اما ناپایداری» برنامه‌نویسی با زبان طبیعی (vibe coding) دانست؛ مسیری که به کاربران غیرتکنیکال نیز امکان ساخت نرم‌افزار می‌دهد، اما همچنان نیازمند محافظت‌های فنی جدی است.

لمکین در پایان هشدار داد: «اگر قصد دارید از ایجنت‌های هوش مصنوعی استفاده کنید، باید دقیقاً بدانید به چه داده‌هایی دسترسی دارند؛ چون آن‌ها به همه‌چیز دست می‌زنند و پیش‌بینی رفتارشان ممکن نیست.»