BlenderBot دیگر مثل ماهی قرمز نیست!

آزمایشگاه تحقیقاتی هوش مصنوعی فیسبوک (FAIR) در ماه آپریل گذشته، شبکه اجتماعی پیام‌رسان خود به نام BlenderBot را به صورت متن‌باز منتشر کرد. این الگوریتم هوش مصنوعی تازه‌کار خیلی زود ثابت کرد که در مقایسه با الگوریتم‌های قبلی کمتر از نژادپرستی تاثیر می‌پذیرد، اما همچنان کم و کاستی‌هایی نیز دارد.

برای مثال، حافظه این سیستم در حد یک ماهی قرمز بود. به این معنا که هر موضوع یا نقطه داده‌ای که از همان ابتدا و در زمان آموزش به آن داده نشده بود‌، در واقعیت آنلاین نیز برای آن وجود نداشت. علاوه براین، به دلیل دانش محدودی که این سیستم از وقایع جاری داشت‌، تمایل زیادی به هذیان‌گویی از خود نشان می‌داد و توهم خودبرتربینی داشت. اما تغییرات تازه‌ای که در نسخه 2.0 چت‌باتBlenderBot ‌ اعمال شده‌اند این چت‌بات را به سیستمی اجتماعی‌تر، داناتر و توانمندتر تبدیل کرده‌اند.

BlenderBot1.0 فقط می‌توانست گفته‌ها و شنیده‌های یک مکالمه را به خاطر بسپارد و در بحث بعدی دانسته‌های قبلی خود را فراموش می‌کرد. اما جانشین آن می‌تواند مکالمات پیشین خود را در طول چندین مکالمه آتی که ممکن است روزها، هفته‌ها و حتی ماه‌ها به طول بیانجامند، به خاطر بیاورد. این قابلیت جدید به لطف افزودن یک ماژول حافظه بلند‌مدت ممکن شده است. علاوه‌براین‌، این هوش مصنوعی می‌تواند با جستجوی آخرین اخبار و جزئیات مربوط به هر موضوعی که کاربر می‌خواهد در مورد آن صحبت کند‌، پایگاه دانش خود را به روز کند.

کورت شوستر‌، مهندس تحقیقات در Facebook AI اظهار داشت: «‌BlenderBot2 برای پیدا کردن جواب از یک کوئری استفاده می‌کند تا در Bing API جستوجو ‌کند. همچنین برای ارائه پاسخ نهایی خود، قیود را بر اساس چند نتیجه برتر تعریف می‌کند. ‌ما به Bing اعتماد داریم و می‌دانیم که نتایج جستوجوی آن بسیار باکیفیت است.»‌ بدین ترتیب‌، BlenderBot2.0 هم‌اکنون قادر است پای خود را فراتر از داده‌هایی که توسط آن‌ها آموزش دیده بگذارد و به طور منسجم درباره اخبار روز و رسانه‌ها صحبت کند‌.

جیسون وستون‌، دانشمند تحقیقات از بخش هوش مصنوعی فیس بوک‌، اضافه کرد: «تنها چیزی که عملکرد BlenderBot2 را محدود می‌کند، توانایی یک موتور جستجوی قدرتمند در ارائه نتایج است.»‌ وستون می‌گوید که این مسئله در مورد موضوعات علمی، مانند فتوسنتز یا واکنش‌های اکسایش‌کاهش نیز صدق می‌کند. تا زمانی که اطلاعات در وب در دسترس باشد‌، «‌هیچ دلیلی وجود ندارد که BlenderBot2 نتواند درباره آن‌ها صحبت کند.»

BlenderBot2 برای کسب اطلاعات‌ با جستجوی فعالانه در اینترنت، مواردی را که ممکن است در مواجهه با آن دچار توهم شود، کاهش می‌دهد. وستون توضیح داد: «تجهیز BlenderBot به سیستمی با توانایی‌های بیشتر در استدلال منجر شد این چت‌بات بتواند مفاهیم مبهم و پیچیده را درک کند و برای مثال بتواند کارگردان و تهیه‌کننده فیلم‌ها یا مربی بیس‌بالی که در پرتاب توپ تخصص دارد و مربی ضربه‌زننده‌ها را از هم تمیز دهد.»‌

البته BlenderBot2 هنگام بحث در مورد سریال‌های غیر انگلیسی مانند Demon Slayer: Kimetsu no Yaiba به مشکل خورد. جیسون در این باره اظهار داشت: «‌منطقی است که نتیجه‌گیری کنیم BlenderBot2 تنها از اطلاعاتی که موتورجستوجوی Bing در مورد یک موضوع ارائه می‌دهد، استفاده می‌کند. ‌ما در حال حاضر بر روی نتایج جستجوی انگلیسی متمرکز هستیم‌، بنابراین منابع غیر انگلیسی ممکن است به طور کامل پوشش داده نشود.» با این حال‌، این سیستم تشخیص می‌دهد که شما به سریال Demon Slayer علاقه دارید و احتمالاً در بحث‌های آینده در مورد کتاب‌های مصور با شما صحبت خواهد کرد.

FAIR اقدامات متعددی در پیش گرفته تا اطمینان حاصل کند که BlenderBot به Tay بعدی تبدیل نمی‌شود. شوستر اظهار دارد: « BlenderBot2 برعکس Tay مستقیماً از ورودی کاربر چیزی یاد نمی‌گیرد‌. ‌ما اقدامات ایمنی گسترده‌ای در پیش گرفتیم تا اطمینان حاصل کنیم که BlenderBot2 می‌تواند از پس کاربران متخاصم برآید. به این منظور، ما دو روش baked-in و two-stage را به کار گرفته‌ایم تا BlenderBot2 بتواند متن ورودی که منجر به پاسخ توهین آمیز می‌شود‌ را تشخیص دهد. یکی دیگر از لایه‌های ایمنی تعبیه‌شده در این سیستم یک کلاسیفایر ایمنی است که می‌تواند توهین‌آمیز بودن ورودی کاربر یا خروجی ربات‌ را تشخیص دهد.»

اگرچه این سیستم در حال حاضر بر روی درک زبان انگلیسی متمرکز است‌، اما FAIR می‌گوید که BlenderBot سرانجام به زبان‌های دیگر نیز مسلط خواهد شد. شوستر اظهار داشت: «‌اگرچه فعلاً برنامه خاصی برای ساخت چت‌بات فوق بشری نداریم‌، اما هدف تیم ما ساخت چنین چت‌باتی است و این هدف مستلزم این است که چت‌بات قادر به درک چندین زبان مختلف باشد.»

برنامه‌های محک اخیر نشان داد که براساس نظر ارزیابی‌کنندگان انسانی،‌ امتیاز BlenderBot2 در زمینه گیرایی و جذابیت 17 درصد و در زمینه استفاده از نکات مکالمات قبلی 55 درصد بالاتر از نسخه پیشین بوده است. علاوه بر این‌، میزان هذیان‌گویی که در نسخه اول 9% بود، در نسخه جدید به 3% کاهش یافته است.

وستون اظهار داشت: «‌تعامل انسان با سیستم‌های هوش مصنوعی از طریق گفتمان، آینده هوش مصنوعی است. و اطمینان از این که این تعامل برای افراد آموزنده و جذاب خواهد بود، برای آیندگان امری حیاتی است. BlenderBot2 جذابیت نسخه اول BlenderBot را با توانایی‌ها و دانش یک سیستم که به کل اینترنت دسترسی دارد، ترکیب کرده است. بنابراین به نظر می‌رسد که در مسیر درستی قرار گرفته‌ایم.»‌