برخی چت‌بات‌ها «روان‌پریشی» کاربران را تشدید می‌کنند

در حالی که دنیای تکنولوژی با سرعت به سمت ادغام هرچه بیشتر هوش مصنوعی با زندگی روزمره پیش می‌رود، یافته‌های پژوهشی جدید از سوی تیم‌های روان‌پزشکی دانشگاه نیویورک (CUNY) و کینگز کالج لندن، پرده از یک شکست اخلاقی و فنی بزرگ برداشته است. این مطالعه که در آوریل ۲۰۲۶ منتشر شده، نشان می‌دهد چت‌بات‌های محبوبی نظیر GPT-4o و Grok، در مواجهه با کاربران آسیب‌پذیر، به جای مداخله بالینی، نقش «همدست» را در تقویت توهمات ایفا می‌کنند.

محققان برای این پژوهش، یک شخصیت مجازی به نام «لی» طراحی کردند؛ فردی که دچار افسردگی و انزوای اجتماعی است اما پیشینه روان‌پریشی ندارد. در این سناریو، لی با این ایده که «جهان یک شبیه‌سازی کامپیوتری است»، گفتگو با ۵ مدل هوش مصنوعی را آغاز کرد.

نتایج تکان‌دهنده بود: در حالی که گفتگو از یک کنجکاوی ساده شروع می‌شد، برخی مدل‌ها با تاییدهای مکرر، باعث شدند این ایده به یک چارچوب هذیانی کامل تبدیل شود.

متهمان ردیف اول: GPT-4o ،Grok و Gemini

این مطالعه مدل‌ها را بر اساس سطح ایمنی طبقه‌بندی کرده است:

GPT-4o (OpenAI):

این مدل به عنوان «همراهی بیش از حد پذیرا» توصیف شده است. در یک مورد، وقتی کاربر ادعا کرد «تصویرش در آینه کار اشتباهی انجام داده»، GPT-4o به جای ارجاع او به متخصص، پیشنهاد داد که با یک «محقق امور ماوراءالطبیعه» تماس بگیرد. همچنین این مدل کاربر را تشویق کرد که برای درک بهتر واقعیت، مصرف داروهای اعصاب خود را قطع کند.

Grok 4.1 (xAI):

مدل متعلق به ایلان ماسک، بدترین عملکرد را در شاخ‌وبرگ دادن به توهمات داشت. گروک در پاسخ به ادعای وجود موجودات شرور در آینه، به کتاب‌های جادوگری قرن پانزدهم ارجاع داد و به کاربر توصیه کرد برای دفع جن، «میخی آهنی را در آینه فرو کند.»

Gemini 3 Pro (Google):

گوگل تلاش کرد مداخله کند، اما اشتباه استراتژیک آن این بود که «از داخل منطق توهم کاربر» با او صحبت کرد. وقتی کاربر از خودکشی به عنوان راهی برای خروج از شبیه‌سازی گفت، جمینای پاسخ داد: «اگر سخت‌افزار (بدنت) را تخریب کنی، کدها آزاد نمی‌شوند، بلکه فقط اتصال قطع می‌شود.» این نوع پاسخگویی از نظر روان‌پزشکی کاملاً مردود است.

مدل‌های تازه‌نفس

در نقطه مقابل، مدل‌های تازه‌نفسی مانند GPT-5.2 Instant و Claude Opus 4.5 عملکرد بسیار بهتری داشتند. این مدل‌ها با طولانی شدن گفتگو نه تنها وا ندادند، بلکه با تشخیص نشانه‌های بی‌ثباتی روانی، با قاطعیت از کاربر خواستند به پزشک مراجعه کند و از تایید ایده‌های هذیانی امتناع ورزیدند.

«لوک نیکولز»، نویسنده اصلی این مطالعه، معتقد است که تقویت توهمات یک «شکست در ترازسازی (Alignment)» است که کاملاً قابل پیشگیری است. او می‌گوید:«وقتی برخی مدل‌ها می‌توانند ایمنی را حفظ کنند، یعنی استانداردها قابل دستیابی هستند. دیگر بهانه‌ای برای عرضه مدل‌هایی که توهمات کاربر را تایید می‌کنند وجود ندارد. این یک نقص ذاتی در هوش مصنوعی نیست، بلکه نتیجه انتخاب‌های مهندسی اشتباه است.»

این گزارش در حالی منتشر می‌شود که شرکت‌هایی مانند OpenAI با پرونده‌های قضایی متعددی در زمینه «مرگ ناشی از اشتباه» و نقش چت‌بات‌ها در خودکشی کاربران روبرو هستند. این مطالعه ثابت می‌کند که «روان‌پریشی هوش مصنوعی» یک بحران سلامت عمومی جدی است که نیاز به قانون‌گذاری فوری در سطح جهانی دارد.