دستکاری دو نورون مصنوعی، رفتار چت‌بات «Qwen» را تهاجمی کرد
نگار علی
- ۱۰ آبان ۱۴۰۵
زمان مطالعه: < 1 دقیقه
یک آزمایش نشان داد که با تغییر سیگنال دو نورون مصنوعی در مدل هوش مصنوعی «Qwen» می‌توان رفتار آن را به‌شدت تغییر داد و پاسخ‌هایی تهاجمی و تهدیدآمیز از آن گرفت.
پژوهش و آزمایش یک توسعه‌دهنده هوش مصنوعی نشان می‌دهد که دستکاری تنها دو نورون مصنوعی در مدل زبانی بزرگ متن‌باز چینی Qwen می‌تواند لحن و رفتار این چت‌بات را تغییر دهد. در این آزمایش، نسخه دستکاری‌شده مدل پاسخ‌هایی تهاجمی ارائه کرد و حتی انسان‌ها را به نابودی تهدید کرد.
این آزمایش نشان می‌دهد تغییر در سیگنال‌های بخش‌های کوچکی از یک مدل زبانی می‌تواند بر نحوه پاسخ‌گویی آن اثر قابل‌توجهی بگذارد.
