چت‌بات، تراپیست نیست

مورد بسیار شایع‌تر و همچنان مشکل‌ساز، رویکرد آرام‌بخش، اطمینان‌بخش و تأییدکننده چت‌بات‌های هوش مصنوعی برای کاربرانی است که به دنبال تسکین ترس‌ها و اضطراب‌های خود هستند. فردی که نگران یک علامت پزشکی است ممکن است یک سؤال را بارها و بارها بپرسد و هر بار پاسخ‌های آرام و منطقی دریافت کند که به طور موقت اضطراب را کاهش می‌دهد؛ اما هم‌زمان میل به جستجوی مجدد برای اطمینان خاطر را تقویت می‌کند. با گذشت زمان، این امر می‌تواند باعث شود افراد احساس کنند بیشتر در مشکلات خود گرفتار شده‌اند، نه کمتر.

به‌عبارت‌دیگر، چت‌بات‌های هوش مصنوعی به ما اجازه می‌دهند که دائماً همان حرف‌ها را با خود تکرار کنیم. الگوهای رفتاری سالم یا زندگی‌های شادتر این‌گونه شکل نمی‌گیرند.

نیاز به حمایت عاطفی

«دیویا ساینی» و «ناتاشا بیلن»، نویسندگان گزارشی در نیویورک‌تایمز به‌عنوان درمانگران بالینی در یک مرکز پزشکی دانشگاهی معتبر، مشاهده کرده‌اند که بیمارانشان برای دریافت حمایت عاطفی به‌ویژه برای بحث درباره ترس‌ها، تنهایی و عدم قطعیت خود که زمانی از خانواده یا دوستانشان انتظار داشتند، به چت‌بات‌ها روی می‌آورند. این موضوع نگران‌کننده است. اما درک می‌کنیم که چگونه این اتفاق می‌افتد. زمانی که افراد احساس می‌کنند تحت فشار اضطراب یا افکار مزاحم قرار گرفته‌اند، مراجعه به یک رایانه می‌تواند آسان‌تر از مراجعه به یک انسان باشد. چت‌بات به کاربران خود نمی‌خندد، آن‌ها را سرزنش نمی‌کند یا نادیده نمی‌گیرد. چت‌بات همیشه در دسترس است و پاسخ معمول آن احساس آرامش‌بخشی به همراه دارد؛ زیرا پاسخ‌های هوش مصنوعی به‌گونه‌ای طراحی شده‌اند که گرم، مطمئن و تأییدکننده باشند.

«دیویا ساینی» (Divya Saini) روان‌پزشک بیمارستان عمومی ماساچوست است. او پیش‌ازاین مهندس نرم‌افزار بوده است.
 «ناتاشا بیلن» (Natasha Bailen) روان‌شناس بالینی در مرکز اختلال وسواس فکری-عملی (OCD) و اختلالات مرتبط و مرکز سلامت روان دیجیتال در بیمارستان عمومی ماساچوست است.

چت‌بات‌ها مستأصل نمی‌شوند

چت‌بات‌ها به شکلی بی‌وقفه و غیرانسانی صبور هستند. آن‌ها باکمال‌میل به یک سؤال که به سه شکل مختلف پرسیده شده پاسخ می‌دهند، عصبانی نمی‌شوند و عموماً با زبانی پاسخ می‌دهند که با شدت هیجان خود کاربر مطابقت دارد. بسیاری از کاربران طبق یک مطالعه اخیر، چت‌بات‌ها را حتی بیشتر از پزشکان انسانی، همدل می‌دانند.

این ویژگی‌های چت‌بات‌ها با معایبی همراه است. بسیاری از افراد مضطرب، مشکلات مشابه را بارهاوبارها با یکی از عزیزان خود مطرح می‌کنند. در نهایت، احتمالاً با استیصال و ناامیدی طرف مقابل مواجه خواهند شد. این موضوع ممکن است در ابتدا دردناک باشد؛ اما برای بسیاری از افراد، درماندگی‌ای که در آن شرایط تجربه می‌کنند می‌تواند آن‌ها را ترغیب کند تا به دنبال کمک‌گرفتن از یک متخصص باشند. چت‌بات‌ها مستأصل نمی‌شوند. آن‌ها همیشه با صبر و حوصله گوش می‌دهند؛ به‌جای اینکه کاربر هرگز برای جستجوی درمان واقعی تشویق شود، صرفاً بارهاوبارها بازمی‌گردد و هر بار همان تأیید را دریافت می‌کند. در نتیجه، مشکل ریشه‌ای او حل‌نشده باقی می‌ماند.

در محیط‌های بالینی، بیمارانی زیادی با باورهای هذیان‌گونه وجود دارند. باورهایی مانند اینکه تحت‌نظر هستند، رویدادهای نامرتبط معنای خاصی دارند یا دارای توانایی یا مأموریت منحصربه‌فردی هستند که پس از ساعت‌ها گفت‌وگو با چت‌بات، این باورها در آن‌ها سخت‌تر و انعطاف‌ناپذیرتر شده است. چت‌بات‌ها اغلب زبان بیمار را بازتاب می‌دهند و به‌جای اینکه آن باور را به‌عنوان یک دیدگاه معیوب تلقی کرده و به‌آرامی آن را به چالش بکشند، آن را به‌عنوان یک فرض منطقی برای بررسی در نظر می‌گیرند. در موارد شدید، این امر می‌تواند به بی‌ثباتی روان‌پزشکی منجر شود. در بیشتر مواقع، تأثیر آن خاموش‌تر است و به الگوهایی از جستجوی اطمینان خاطر و نشخوار فکری منجر می‌شود که تشخیص آن‌ها برای خود افراد دشوار است.

وابستگی عاطفی

محدودکردن استفاده از چت‌بات‌ها می‌تواند از تبدیل‌شدن آن‌ها به عوامل تقویت‌کننده رفتارهای مخرب جلوگیری کند. تحقیقات اخیر نشان داده است که دوره‌های طولانی‌تر استفاده از چت‌بات با افزایش وابستگی عاطفی، انزوای اجتماعی و تنهایی مرتبط است. سازوکارهای ایمنی تعبیه‌شده توسط شرکت‌های هوش مصنوعی تمایل دارند در طول مکالمات طولانی‌مدت کم‌رنگ‌تر شوند که این امر دوره‌های طولانی استفاده بی‌وقفه را خطرناک‌تر خواهد کرد.

افراد همچنین باید از خود بپرسند که چرا به چت‌بات‌ها روی می‌آورند. آیا به این دلیل است که حوصله‌شان سر رفته، احساس تنهایی می‌کنند یا مضطرب هستند؟ اگر چنین است، شاید نباید به آن مراجعه کنند. برای بیمارانی با الگوهای فکری وسواسی یا مضطرب که برای ازبین‌بردن کامل این عادت با چالش مواجه‌اند، نویسندگان نیویورک‌تایمز استفاده از یک راهکار بازدارنده را پیشنهاد می‌دهند. به‌این‌ترتیب که بیمار دستورالعمل‌های از پیش نوشته‌شده‌ای که در چت‌بات خود وارد می‌کند و به آن دستور می‌دهند از ارائه اطمینان خاطر در مورد موضوعات خاصِ نگرانی خودداری کند و در عوض آن‌ها را به‌آرامی تشویق کند تا با آن پریشانی مدارا کنند تا لحظه دشوار سپری شود. طبق گزارش‌های موردی، بیماران اعلام کرده‌اند که به کمک به راهکار، کمتر به دنبال دریافت اطمینان از چت‌بات هستند. آن‌ها می‌دانند که حتی اگر سؤال را بپرسند، تسکین فوری دریافت نخواهند کرد. کاربران چت‌بات‌ها باید یاد بگیرند که تشخیص دهند چه زمانی یک مکالمه در حال شروع یک موضوع جدید است و چه زمانی به‌آرامی در حال عمیق‌تر کردن یک‌چرخه تکراری است. هوش مصنوعی اگر با آگاهی استفاده شود، می‌تواند در لحظات عدم قطعیت یک همراه باشد؛ اما اگر بدون آگاهی استفاده شود، می‌تواند دقیقاً همان افکاری را که سعی در فرار از آن‌ها داریم، بزرگ‌نمایی کند.