توهم در چت‌بات‌های هوش مصنوعی
پریسا سلامتی- ۱۹ فروردین ۱۴۰۴
پس از معرفی هوش مصنوعی، ربات‌های مختلفی برای کاربران عرضه شد که توانایی پاسخ‌دهی به درخواست‌های آن‌ها را دارند. این ربات‌ها، بعد از معرفی بارها و بارها توسط کارشناسان مختلف مورد نقد قرار گرفته‌اند؛ آن‌ها معتقدند که در بسیاری از موارد پاسخ‌های ارائه شده توسط این ربات‌ها درست نبوده و درواقع اطلاعات نادرستی را برای کاربران خود گردآوری می‌کنند.
این اطلاعات نادرست باعث بروز مشکلاتی شده است و چالش‌های مختلفی را برای سازمان‌ها و افراد مختلف ایجاد کرده است. سوالی که پیش می‌آید این است که چگونه می‌توان از دام اطلاعاتی غلط این ربات‌ها عبور کرد؟
در این مطلب همراه ما باشید تا با هم روش تشخیص اطلاعات درست و نادرست ربات‌های هوش مصنوعی را یاد بگیریم.
طرح یک مثال
اتفاقی که برای «جک موفات» (Jake Moffatt) در ماه فوریه سال جاری رخ داده است، یک نمونه‌ی واقعی از چالش‌هایی است که به واسطه اطلات نادرست توسط ربات‌های هوش مصنوعی ایجاد شده است.
موفات که یک شهروند کانادایی است، از شرکت هواپیمایی کانادا ایر (Air Canada) به دلیل ارائه اطلاعات اشتباه درباه‌ی سیاست‌های تخفیفی این شرکت، شکایت و درخواست غرامت کرده است.
به گفته موفات، ربات هوش مصنوعی این شرکت، گفته است که می‌تواند طی 90 روز پس از انجام پرواز، مطابق با خط مشی شرکت، تخفیف درخواست کند. این درحالی است که براساس خط مشی شرکت، برای دریافت تخفیف می‌بایست پیش از پرواز اقدام کرد. دادگاه کانادا این شرکت را به دلیل ارائه اطلاعات غلط، به پرداخت 812.02 دلار به موفات محکوم کرده است.
موارد دیگری نیز بوده که در آن‌ها به دلیل ارائه اطلاعات اشتباه، برای فرد یا سازمان چالش ایجاد شده است. با توجه به جدید بودن این فناوری، اگر در همین ابتدای راه این نواقص رفع نشود، مشکلات بزرگتر دیگری به وجود خواهد آمد که ممکن است جنبه‌های مختلف زندگی افراد و سازمان‌ها را تحت تاثیر قرار دهد.
جلوگیری از توهم
اصطلاح «توهم ربات هوش مصنوعی»، به پدیده‌ای اشاره دارد که در آن یک ربات چت هوش مصنوعی، در پاسخ به یک سوال، اطلاعات نادرستی ارائه می‌دهد. این اطلاعات نادرست برای شرکت‌هایی که از چت‌بات‌های هوش مصنوعی مولد استفاده می‌کنند، یک چالش بسیار بزرگ به شمار می‌آید.
نتایج یک مطالعه نشان داده است که میزان توهم اطلاعاتی موجود در داده‌هایی که توسط مدل‌های زبان بزرگ به کار رفته در ربات‌های هوش مصنوعی ارائه می‌شود، 20 تا 30 درصد است. «آشوک آناند» (Ashok Anand) که بنیانگذار Twixor است، می‌گوید:« هوش مصنوعی مولد، یک ماشین است و نه یک انسان، بنابراین امکان دریافت و ارائه‌ی اطلاعات اشتباه در آن بسیار زیاد است.»
او معتقد است برای جلوگیری از چنین اشتباهاتی، می‌بایست قابلیت‌های دیگری مانند شناسه هدف، تحلیلگر سنتیمنت (sentiment) و … را به مدل‌های زبان بزرگ افزود و تنها به توانایی این مدل‌ها تکیه نکرد. آناند معتقد است:« این‌ها ماژول‌های اضافی هستند که در ترکیب با LLMها کار می‌کنند تا خدمات بهتری برای کاربر ایجاد کنند.»
در همین راستا، شرکت‌های بزرگ فناوری یا به عبارت بهتر، غول‌های دنیای فناوری در حال کار برای کاهش پدیده‌ی توهم در چت‌بات‌های هوش مصنوعی هستند. از جمله‌ی آن می‌توان به همکاری google cloud با Moody’s و Thomson Reuters اشاره کرد که در حال کار بر روی چت‌بات‌هایی هستند که ضمن پاسخگویی سریع، پاسخ‌هایی با دقت خطای کمتر ارائه دهند.
«سارا برد» (Sarah Bird)، یکی از مدیران ارشد شرکت مایکروسافت نیز در مصاحبه‌ای گفت:« این شرکت در حال طراحی یک سیستم برای تشخیص اشتباه یا به عبارت بهتر توهم در پاسخ‌های ارائه شده از سوی ربات‌های هوش مصنوعی است.»
چه راه‌حلی وجود دارد؟
برای رفع مشکل موجود در چت‌بات‌های هوش مصنوعی، طی ماه‌ه گذشته مطالعات و کارهای مختلفی صورت گرفته است. یکی از راهکارهای پیشنهادی، استفاده از روش Retrieval Augmentation Generation (RAG) است که هدف آن بهبود عملکرد، افزایش قابلیت اطمینان و افزایش دقت مدل‌های هوش مصنوعی است.
در این سیستم، برای گردآوری و ارائه اطلاعات از منابع مختلف استفاده می‌شود و برای جلوگیری از ارائه پاسخ اشتباه، منابع مورد استفاده نمایش داده می‌شوند. شرکت زیمنس به تازگی از این فناوری برای افزایش دقت اطلاعات ارائه شده استفاده کرده است.
علیرغم تلاش‌های گسترده‌ای که برای رفع این محدودیت ابزارهای هوش مصنوعی صورت گرفته است، اما باز هم در نتایج ارائه شده، نقص‌هایی وجود دارد. کارشناسان می‌گویند سیستم RAG، علیرغم کاهش اشتباه و توهم در اطلاعات و نتایج ارائه شده، این اشتباه و توهمات را به طور کامل رفع نمی‌کند.
براساس گزاش منتشر شده توسط TechCrunch، سیستم RAG در پاسخ به درخواست‌هایی که نیاز به استدلال دارند، با نقص‌هایی همراه است و از کارایی کافی برخوردار نیست.
علاوه بر این، نتایج یک مطالعه علمی در دانشگاه استنفورد بر روی سه ابزار هوش مصنوعی مبتنی بر سیستم RAG، نشان می‌دهد 17 تا 30 درصد از پاسخ‌های ارائه شده توسط این ابزارها دارای اشتباه هستند. همچنین باید به این نکته توجه کرد که استفاده از این سیستم در ابزارهای هوش مصنوعی، میزان مصرف انرژی و هزینه‌های آن‌ها را بیش از پیش افزایش خواهد داد.
«پراوین آگاروالا» (Pravin Agarwala) که یکی از موسسان BetterPlace به شمار می‌رود، بیان می‌کند که هزینه بالای هوش مصنوعی، یکی از دلایل اصلی و موانع بزرگ برای پذیرش این فناوری است. او اظهار می‌کند:« هزینه‌ی استقرار و استفاده از هوش مصنوعی در حال حاضر بسیار بالاست، چراکه همه پاسخ‌های ارائه شده از دقت و درستی بالایی برخوردار نیستند.»
پذیرش هوش مصنوعی و توسعه
علیرغم هزینه‌های بسیار بالای هوش مصنوعی و ابزارهای مبتنی بر آن، شرکت‌های دنیا سرمایه‌گذاری بر روی آن را متوقف نکرده‌اند. کارشناسان در این زمینه معتقدند که این فناوری تحولات گسترده‌ای را در زمینه‌های مختلف یک سازمان رقم خواهد زد.
«نتی شرما» (Neeti Sharma)، مدیرعامل شرکت Teamlease Digital، بیان می‌کند:« طی 15 تا 24 ماه آینده 37 درصد از خدمات مشتریان یک صنعت توسط ابزارهای مبتنی بر هوش مصنوعی انجام خواهد شد که تحول عظیمی را به دنبال خواهد داشت.»
شرکت‌های دیگری نیز در زمینه استفاده از هوش مصنوعی، سرمایه‌گذاری کلانی را انجام داده و به دنبال استفاده کاربردی و موثر از هوش مصنوعی مولد در صنعت خود هستند.
سخن پایانی
هوش مصنوعی مولد و ابزارهای مبتنی بر آن، هر روز بیشتر از روز قبل توسعه می‌یابند و نمی‌توان با رشد آن‌ها مقابله کرد. بنابراین باید به فکر استفاده‌ی بهینه از آن‌ها بود. اما با این‌حال این ابزارها با چالش‌هایی مانند اشتباه در اطلاعات گردآوری شده و هزینه‌ی زیاد همراه هستند.
مطالعات زیادی برای رفع این مشکل صورت گرفته است و راه‌حل‌هایی نیز ارائه شده است. علاوه بر این شرکت‌های بزرگ فناوری در حال همکاری با یکدیگر برای رفع این چالش هستند. بنابراین انتظار می‌رود طی چند ماه یا چند سال آینده، با رفع این مشکلات، تحول عظیمی در سازمان‌ها و خدمات آن‌ها ایجاد شود.
