حالا ChatGPT می‌تواند در مواقع اضطراری با شخص مورداعتماد تماس بگیرد

افراد از ChatGPT برای یادگیری، کاوش ایده‌ها، حل مسائل و تأمل در پرسش‌های شخصی استفاده می‌کنند. گاهی اوقات این گفتگوها ممکن است شامل لحظاتی باشند که در آن فردی در حال تقلا با مشکلات است یا به دنبال حمایت می‌گردد.

مخاطب معتمد چیست

OpenAI روند انتشار «مخاطب معتمد» (Trusted Contact) را آغاز کرده است؛ یک قابلیت ایمنی اختیاری در ChatGPT که به بزرگسالان اجازه می‌دهد فردی مورداعتماد مانند یک دوست، عضو خانواده یا مراقب را معرفی کنند تا درصورتی‌که سیستم‌های پایش خودکار و بازبین‌های آموزش‌دیده ChatGPT تشخیص دهند که کاربر ممکن است در مورد آسیب‌رساندن به خود به‌گونه‌ای صحبت کرده باشد که نشان‌دهنده یک نگرانی جدی ایمنی است، به وی اطلاع داده شود. مخاطب معتمد طوری طراحی شده است تا در کنار خطوط کمک‌رسانی محلی که از قبل در ChatGPT در دسترس هستند، با کمک به کاربران برای ارتباط با فردی که در مواقع بحران به او اعتماد دارند، لایه پشتیبانی دیگری را ارائه دهد.

قابلیت مخاطب معتمد بر پایه اعلان‌های ایمنی کنترل والدین بنا شده است که به والدین یا سرپرستان اجازه می‌دهد در صورت بروز نشانه‌هایی از پریشانی حاد در حساب کاربری متصل یک نوجوان، هشدار دریافت کنند. اکنون، ما در حال گسترش گزینه‌های هشدار ایمنی خود هستیم تا هر فرد بالای ۱۸ سال بتواند شخصی را که به او اعتماد دارد به‌عنوان مخاطب معتمد خود اضافه کند.

مخاطب معتمد چگونه کار می‌کند

راهنمایی‌های تخصصی، ارتباط اجتماعی را به‌عنوان یکی از مهم‌ترین عوامل محافظتی برای کاهش خطر خودکشی شناسایی می‌کنند. مخاطب معتمد برای تشویق به ارتباط با فردی که کاربر از قبل به او اعتماد دارد، طراحی شده است. این قابلیت جایگزین مراقبت‌های حرفه‌ای یا خدمات بحران نمی‌شود و تنها یکی از چندین لایه حفاظتی برای حمایت از افراد در معرض پریشانی است.

«علم روان‌شناسی پیوسته نشان می‌دهد که ارتباط اجتماعی یک عامل محافظتی قدرتمند است، به‌خصوص در دوره‌های پریشانی عاطفی. کمک به افراد برای شناسایی یک فرد مورداعتماد، در عین حفظ حق انتخاب و استقلال آن‌ها می‌تواند دسترسی به حمایت در دنیای واقعی را در حساس‌ترین لحظات آسان‌تر کند.»
«آرتور ایوانز»، مدیر اجرایی انجمن روان‌شناسی آمریکا

مخاطب معتمد چند مرحله زیر را دنبال می‌کند:

• کاربران می‌توانند یک بزرگسال بالای ۱۸ سال را به‌عنوان مخاطب معتمد خود از طریق تنظیمات ChatGPT اضافه کنند.
• مخاطب معتمد دعوت‌نامه‌ای دریافت خواهد کرد که نقش او را توضیح می‌دهد و باید این دعوت را ظرف 1 هفته بپذیرد تا این قابلیت فعال شود. اگر مخاطب معتمد آن را رد کند، کاربر می‌تواند بزرگسال دیگری را اضافه کند.
• اگر سیستم‌های پایش خودکار تشخیص دهند که کاربر ممکن است درباره خودآزاری به‌گونه‌ای صحبت کند که نشان‌دهنده یک نگرانی جدی ایمنی باشد، ChatGPT به کاربر اطلاع می‌دهد که ممکن است به مخاطب معتمد او خبر دهد و کاربر را تشویق می‌کند تا با استفاده از جملات پیشنهادی برای شروع گفت‌وگو، با مخاطب معتمد خود ارتباط برقرار کند.
• از آنجا به بعد، تیم کوچکی از افراد متخصص و آموزش‌دیده، وضعیت را بررسی می‌کنند. اگر این بازبین‌ها تشخیص دهند که گفت‌وگو ممکن است نشان‌دهنده یک نگرانی جدی ایمنی باشد، ChatGPT یک اعلان کوتاه از طریق ایمیل، پیامک یا اعلان درون‌برنامه‌ای (در صورت داشتن حساب کاربری ChatGPT) به مخاطب معتمد ارسال خواهد کرد.
• این اعلان به طور عمدی محدود شده است. این پیام دلیل کلی مطرح‌شدن موضوع خودآزاری را به اشتراک می‌گذارد و مخاطب معتمد را تشویق می‌کند تا جویای حال کاربر شود. این اعلان به‌منظور حفظ حریم خصوصی کاربر، شامل جزئیات یا رونوشت‌های گفت‌وگو با ChatGPT نمی‌شود. پیام مذکور همچنین حاوی پیوندی به راهنمایی‌های تخصصی برای مدیریت گفتگوهای حساس است.
• کاربران همواره می‌توانند مخاطب معتمد خود را در بخش تنظیمات حذف یا ویرایش کنند و مخاطبان معتمد نیز می‌توانند خود را از این فهرست حذف کنند.

هدایت شده توسط متخصصان بالینی و کارشناسان ایمنی

OpenAI مخاطب معتمد را با راهنمایی متخصصان بالینی، پژوهشگران و سازمان‌هایی که در زمینه سلامت روان و پیشگیری از خودکشی تخصص دارند، توسعه داده است. این کار از سوی «شبکه جهانی پزشکان» OpenAI، شبکه‌ای متشکل از بیش از ۲۶۰ پزشک دارای مجوز در ۶۰ کشور و «شورای متخصصان بهزیستی و هوش مصنوعی» OpenAI هدایت می‌شود. OpenAI همچنین همکاری نزدیکی با سازمان‌های خارجی از جمله انجمن روان‌شناسی آمریکا داشته است.

«یکی از بزرگ‌ترین نویدهای هوش مصنوعی این است که چگونه می‌تواند ارتباط اصیل انسان با انسان و امنیت روانی را پرورش دهد. من نسبت به قابلیت مخاطب معتمد ChatGPT که گامی روبه‌جلو در جهت توانمندسازی انسان به‌خصوص در لحظات آسیب‌پذیری ارائه می‌دهد، خوش‌بین هستم.»
«مونمون د چاودوری»، استاد محاسبات تعاملی در دانشگاه جورجیا تک و عضو شورای متخصصان بهزیستی و هوش مصنوعی