چالش‌های به‌طور غیرقابل‌باوری خطرناک ChatGPT Health در تشخیص فوریت‌های پزشکی

به نقل از گاردین، متخصصان حوزه سلامت نسبت به عملکرد ChatGPT Health در شناسایی برخی فوریت‌های پزشکی هشدار داده‌اند. این ابزار که ابتدای سال جاری میلادی و برای چند کشور محدود در دسترس قرار گرفته شده؛ در موارد متعددی نتوانسته است علائم حیاتی و اورژانسی را به درستی تشخیص دهد؛ موضوعی که می‌تواند در دنیای واقعی منجر به پیامدهای جبران‌ناپذیری شود. از جمله:

ناتوانی در غربالگری دقیق: سیستم در تفکیک علائم گذرا از شرایطی که نیاز به مداخله فوری پزشکی دارند (مانند سکته‌های قلبی یا مغزی غیرتیپیک) دچار خطا شده است.
خطر اطمینان کاذب: ارائه پاسخ‌های متقاعدکننده اما نادرست، ممکن است کاربران را از مراجعه به پزشک در زمان طلایی بازدارد.
چالش داده‌های پزشکی: کارشناسان معتقدند مدل‌های فعلی هنوز فاقد «درک بالینی» عمیق برای مدیریت سناریوهای پیچیده و چندلایه سلامت هستند.

در حالی که ابزارهای هوش مصنوعی می‌توانند در تحلیل داده‌های حجیم پزشکی کمک‌رسان باشند، اما هنوز تا جایگزینی یا حتی مشاوره مستقل در موارد اورژانسی فاصله زیادی دارند.