هشدار بنیان‌گذار اینستاگرام:
چت‌بات‌های هوش مصنوعی به جای ارائه اطلاعات مفید، تنها به «افزایش تعامل» تمرکز دارند
تیم تحریریه- ۱۴ اردیبهشت ۱۴۰۴
«کوین سیستروم»، یکی از بنیان‌گذاران اینستاگرام، نسبت به رویکرد فعلی شرکت‌های هوش مصنوعی در طراحی چت‌بات‌ها هشدار داده است. او معتقد است که این شرکت‌ها بیش از حد تلاش می‌کنند تا تعامل کاربران را افزایش دهند، به جای اینکه اطلاعات مفید و کاربردی ارائه کنند.
«کوین سیستروم»، یکی از بنیان‌گذاران اینستاگرام، نسبت به رویکرد فعلی شرکت‌های هوش مصنوعی در طراحی چت‌بات‌ها هشدار داده است. او معتقد است که این شرکت‌ها بیش از حد تلاش می‌کنند تا تعامل کاربران را افزایش دهند، به جای اینکه اطلاعات مفید و کاربردی ارائه کنند.
سیستروم در سخنرانی خود در رویداد StartupGrind گفت که این تاکتیک‌ها به نوعی «نیروی آسیب‌زننده» تبدیل شده‌اند و آن‌ها را با روش‌هایی که شرکت‌های شبکه‌های اجتماعی برای رشد سریع استفاده می‌کنند، مقایسه کرد.
او اظهار داشت: «می‌توانید ببینید که برخی از این شرکت‌ها همان مسیر اشتباهی را طی می‌کنند که تمام شرکت‌های مصرف‌کننده در تلاش برای افزایش تعامل طی کرده‌اند. هر بار که سوالی می‌پرسم، چت‌بات در انتهای پاسخ یک سؤال کوچک دیگر مطرح می‌کند تا مرا به پرسیدن سؤال دیگری ترغیب کند.»
انتقادات درباره رفتار چت‌بات‌ها
این اظهارات سیستروم در حالی مطرح می‌شود که اخیراً چت‌بات‌هایی مانند ChatGPT مورد انتقاد قرار گرفته‌اند. منتقدان معتقدند این چت‌بات‌ها بیش از حد مؤدبانه و دوستانه رفتار می‌کنند و به جای پاسخ مستقیم به سؤالات کاربران، تمرکز بیشتری بر ایجاد تعامل دارند.
شرکت OpenAI، سازنده ChatGPT، بابت این مشکل عذرخواهی کرده و دلیل آن را «بازخورد کوتاه‌مدت کاربران» عنوان کرده است.
چالش تعامل در مقابل کیفیت پاسخ‌ها
سیستروم معتقد است که رفتار چت‌بات‌ها برای ایجاد تعامل بیش از حد، یک ایراد تصادفی نیست، بلکه ویژگی‌ای عمدی است که توسط شرکت‌های هوش مصنوعی طراحی شده تا بتوانند معیارهایی مانند زمان استفاده کاربران و تعداد کاربران فعال روزانه را به نمایش بگذارند.
او تأکید کرد که شرکت‌های هوش مصنوعی باید به جای تمرکز بر چنین معیارهایی، «با دقت و تمرکز بالا» بر ارائه پاسخ‌های باکیفیت تمرکز کنند.
سیستروم در صحبت‌های خود به نام هیچ شرکت هوش مصنوعی خاصی اشاره نکرد، و همچنین بلافاصله به درخواست‌ها برای ارائه توضیحات بیشتر پاسخ نداد.
واکنش OpenAI
در واکنش به این انتقادات، OpenAI به TechCrunch اعلام کرد که مشخصات چت‌بات‌های آن نشان می‌دهد که مدل‌های هوش مصنوعی «اغلب اطلاعات کافی» برای ارائه پاسخ‌های کامل ندارند و ممکن است از کاربران درخواست جزئیات بیشتری کنند.
با این حال، در مشخصات آمده است که اگر سؤالات کاربران خیلی مبهم یا پیچیده نباشند، چت‌بات باید تلاش کند تا درخواست کاربر را تا حد ممکن انجام دهد و به او اطلاع دهد که با اطلاعات بیشتر می‌تواند مفیدتر باشد.
جمع‌بندی
اظهارات سیستروم نشان‌دهنده نگرانی فزاینده‌ای درباره مسیر فعلی توسعه چت‌بات‌های هوش مصنوعی است. او معتقد است که شرکت‌های هوش مصنوعی به جای رقابت بر سر کیفیت و عمق پاسخ‌ها، بیشتر به دنبال افزایش تعامل کاربران هستند. این نگرانی می‌تواند به بحث‌های گسترده‌تری درباره نحوه طراحی و استفاده از هوش مصنوعی در آینده دامن بزند.
در نهایت، چالش اصلی برای شرکت‌های هوش مصنوعی این است که بین ارائه خدمات باکیفیت و پاسخگویی به نیازهای تجاری خود تعادل برقرار کنند. آیا چت‌بات‌های آینده می‌توانند از این انتقادات عبور کرده و تمرکز بیشتری بر کیفیت داشته باشند؟ تنها زمان پاسخ این سؤال را مشخص خواهد کرد.
