8 محدودیت ChatGPT که آن را از تبدیل‌شدن به یک چت‌بات بی‌نقص بازمی‌دارد

مدت‌زمان زیادی از عرضه چت‌بات هوشمند ChatGPT نمی‌گذرد؛ اما در همین مدت کوتاه، توجه میلیون‌ها کاربر به این مدل زبانی شگفت‌انگیز جلب شده است. هرچند که پاسخ‌های این ربات هوشمند در اکثر مواقع، درست و منطقی است و اطلاعات مفیدی را در اختیار کاربران قرار می‌دهد؛ اما مانند هر فناوری نوظهور دیگری خالی از محدودیت و اشکال نیست. این چالش‌ها باعث می‌شوند که ChatGPT هنوز هم با تبدیل‌شدن به یک مدل زبانی تمام‌وکمال فاصله داشته باشد. در این مطلب، تعدادی از این محدودیت‌ها را به نقل از وب‌سایت OpenAI و دیگر منابع معتبر، بررسی می‌کنیم.

عدم استفاده از اصطلاحات

ما در مکالمات روزانه خود از اصطلاحات، عبارت‌های تمثیلی و ضرب‌المثل‌های بسیاری استفاده می‌کنیم و به‌کارگیری این عبارات، یکی از مشخصه‌های اصلی گفت‌وگوی انسان‌هاست. بنا به مقاله تحقیقاتی Adversarial Robustness of Neural-Statistical که در سال 2022 منتشر شد، چت‌بات‌های هوشمند از جمله ChatGPT امکان به‌کاربردن اصطلاحات رایج را ندارند و همین موضوع، امکان تشخیص متون نگارش‌شده توسط ماشین‌ها را فراهم می‌کند. برای مثال، ممکن است که ما برای توصیف ابرها بگوییم: «ابرهای پنبه‌ای مانند نقره می‌درخشند و شیطنت‌کنان به این‌سو آن سو می‌روند.» این در حالی است که هوش مصنوعی، هنوز نمی‌تواند از ضرب‌المثل و جملاتی استفاده کند که معنای مجازی دارند. این که یک متن، خالی از اصطلاحات غیرمستقیم باشد، سیگنالی است که به شناخت مطالب تهیه‌شده توسط هوش مصنوعی کمک می‌کند.

نظرات ChatGPT به طور افراطی خنثی است

چت‌بات ChatGPT تمام تلاش خود را می‌کند که در بیان نظراتش از هرگونه جانب‌داری و اظهارنظرهای شخصی اجتناب کند. این ویژگی درمجموع مثبت به نظر می‌رسد؛ اما گاهی اوقات، کاربران نیاز به اطلاعاتی دارند که برای پاسخ به آنها، چاره‌ای جز اظهارنظرهای جانب‌دارانه نیست. برای مثال، اگر از ChatGPT بخواهید که بهترین فیلم سال 2016 را به شما معرفی کند، از انتخاب یک فیلم منتخب اجتناب می‌کند و در عوض، لیستی از بهترین فیلم‌های این سال را در اختیار شما قرار می‌دهد. این ویژگی به همان اندازه که مفید است، می‌تواند کاربران را نیز سردرگم کند و باعث شود که به پاسخ دقیقی دست پیدا نکنند.

زبان ChatGPT به‌شدت رسمی است

اکثر کاربران ترجیح می‌دهند که پاسخ سؤالات خود را به زبانی غیررسمی و عامیانه‌تر دریافت کنند اما ChatGPT تا حد زیادی در مقابل پاسخگویی به زبان غیررسمی مقاومت می‌کند. شما هرگز شاهد عبارت‌های عامیانه و طنزگونه از جمله LOL و TL;DR (Too long; didn’t read) از زبان این چت‌بات نخواهید بود و همیشه پاسخی رسمی و به‌دوراز طنز و کنایه دریافت می‌کنید.

پاسخ‌های بی‌معنی و اشتباه

گاهی اوقات ChatGPT پاسخ‌هایی به شما ارائه می‌کند که از نظر زبانی و نگارشی درست به نظر می‌رسد؛ اما هیچ معنا و مفهوم مشخصی را منتقل نمی‌کند. OpenAI رفع این مشکل را بسیار چالش‌برانگیز توصیف می‌کند چرا که برای توسعه این چت‌بات، هیچ منبع تحقیقاتی وجود ندارد. همچنین، قوانین و محدودیت‌های این چت‌بات برای پاسخ‌دهی محتاطانه، باعث می‌شود که این چت‌بات در بعضی مواقع حتی پاسخ‌های درست را نیز نادیده بگیرد.

حساسیت به اطلاعات ورودی

تمامی پاسخ‌هایی که این چت‌بات هوشمند در اختیار کاربران قرار می‌دهد به نوع نگارش سؤال بستگی دارد. در بعضی از مواقع ممکن است که ChatGPT به دلیل عدم فهم درست سؤال ورودی، قادر نباشد که پاسخی دقیقی به کاربران ارائه کند درحالی‌که با تغیر جزئی در ساختار سؤال، پاسخی درست و مناسب توسط این مدل زبانی خلق شود.

استفاده مکرر از بعضی عبارات

 اگر از ChatGPT استفاده کرده باشید، احتمالاً بارهاوبارها با عبارت‌های تکراری که این ربات هوشمند به زبان می‌آورد مواجه شده‌اید. مثلاً در بسیاری از پاسخ‌ها شاهد جملهٔ ” it’s a language model trained by OpenAI” و ” As a language model AI, I don’t have personal opinions” روبه‌رو خواهید شد. OpenAI این مسئله را ناشی از بهینه‌سازی بیش از حد این مدل زبانی با داده‌هایی مشخص می‌داند و معتقد است که داده‌هایی که جهت آموزش ChatGPT مورداستفاده قرار گرفته، باعث شده که این چت‌بات به‌صورت مکرر از بعضی از عبارات استفاده کند.

چالش در پاسخگویی به سؤالات مبهم

هنگامی که کاربران یک سؤال مبهم و نامفهوم را با دیگر چت‌بات‌ها در میان می‌گذارند، هیچ‌گونه پاسخی دریافت نمی‌کنند و در عوض چت‌بات از آنها درخواست می‌کند که سؤال مطرح‌شده را به صورتی دقیق و مشخص بیان کنید. این در حالی است که ChatGPT سعی می‌کند به هر طریقی که شده مفهوم جملات کاربران را حدس بزند تا قادر به پاسخگویی باشد. طبیعی است که در بعضی موارد، حدس این چت‌بات غلط از آب در می‌آید و به‌جای درخواست برای اصلاح سؤال، پاسخی غلط به کاربران ارائه می‌دهد.

پاسخ به درخواست‌های نامناسب

علی‌رغم تلاش‌های OpenAI برای جلوگیری از پاسخ‌دهی به سؤالات مضر و نامناسب، ممکن است که گاهی اوقات این چت‌بات از دستورالعمل‌ها تبعیت نکند و به این دسته از سؤالات پاسخ بدهد. تیم OpenAI به‌شدت بر روی این دسته از موارد تمرکز دارند و سعی می‌کنند که پاسخ‌دهی به سؤالات غیرمجاز را به حداقل برسانند.

درمجموع، مدل زبانی ChatGPT مراحل ابتدایی توسعه خود را طی می‌کند و شرکت OpenAI هنوز در حال آزمون‌وخطا جهت بهبود قابلیت‌ها و کاهش مشکلات این چت‌بات هوشمند است. انتظار می‌رود که با گذشت زمان، بسیاری از این محدودیت‌ها رفع شود و طی چند سال آینده، به‌سختی بتوان تفاوت مکالمه چت‌بات هوشمند با یک انسان واقعی را تشخیص داد. نظر شما دراین‌رابطه چیست؟