چرا غول‌های دنیای تکنولوژی می‌خواهند ربات‌ها بهترین دوست شما باشند؟

چت‌بات شرکت xAI با نام «گروک» نیاز به راه‌اندازی مجدد دارد. به ظاهر این هوش مصنوعی دیدگاه‌هایی پیدا کرده بود که با جهان‌بینی ایلان ماسک، بنیان‌گذار این استارت‌آپ، هم‌خوانی نداشت.

اگرچه برخی این اقدام ماسک را به اصلاح‌گری شبیه دنیای رمان «۱۹۸۴» تعبیر کرده‌اند، اما در نهایت قابل درک است. غول‌های فناوری اکنون دریافته‌اند که راه تمایز محصولات هوش مصنوعی، ایجاد این تصور در ذهن کاربران است که با این فناوری نوعی رابطه شخصی دارند. یا اگر بخواهیم صریح‌تر بگوییم: ایجاد یک دوستی که هم‌صدا، هم‌فکر و دارای جهان‌بینی مشابه است.

هوش مصنوعی، یاور تنهایی انسان

در حالی‌که رقابت برای توسعه‌ی هوش مصنوعی اغلب به عنوان رقابتی برای خلق فراهوش (superintelligence) توصیف می‌شود، اما در کوتاه ‌مدت، بهترین کاربرد مصرف ‌کننده ‌محورِ هوش مصنوعی ممکن است درمان تنهایی باشد.

احساس تنهایی اکنون یک همه‌گیری جهانی تلقی می‌شود. تحقیقات نشان می‌دهند که تنهایی می‌تواند به‌اندازه‌ کشیدن ۱۵ نخ سیگار در روز خطرناک باشد.

مطالعه‌ای که سال گذشته توسط دانشگاه هاروارد انجام شد، نشان داد گفت‌وگو با هوش مصنوعی در کاهش احساس تنهایی، تأثیری بیشتر از تماشای ویدیو در یوتیوب دارد و از میان گزینه‌های غیرانسانی، تنها جایگزینی است که از نظر تأثیر، می‌توان آن را با تعامل با یک انسان واقعی مقایسه کرد. قبلاً اگر کسی به دنبال یک دوست بود، سگ می‌گرفت، اما حالا می‌توانید محصول خانگیِ یک میلیاردر را انتخاب کنید.

کسانی که به دنبال گفت‌وگو با یک نفر یا یک چیز هستند، هر روز به آمار کاربران فعال هوش مصنوعی اضافه می‌شوند. در مقابل، این معیار کمک می‌کند تا سرمایه‌گذاران بیشتری جذب شوند و منابع بیشتری برای بهبود آن فراهم گردد. این یک چرخه‌ سالم است که توسط اشک‌های تنهایی تغذیه می‌شود، چرخه‌ای که می‌توان آن را اقتصاد دوستی نامید.

این شرایط زمینه‌ای فراهم می‌کند تا انگیزه‌هایی برای سوق دادن هوش مصنوعی به سوی یک جهان‌بینی خاص شکل بگیرد؛ همان‌طور که به نظر می‌رسد ایلان ماسک قصد دارد چنین کاری را در مورد گروک انجام دهد. در چنین وضعیتی، به ‌راحتی می‌توان جهانی را تصور کرد که در آن، همه دوستان دیجیتال ما یا طرفدار سرسخت شبکه‌ی MSNBC باشند یا به ‌طور متعصبانه از فاکس‌نیوز حمایت کنند.

در ماه‌های اخیر، مارک زاکربرگ، مدیرعامل شرکت متا پلتفرمز (Meta Platforms)، توجه زیادی را به آماری جلب کرده است که نشان می‌دهد میانگین تعداد دوستان هر آمریکایی کمتر از سه نفر است و بسیاری در آرزوی داشتن دوستان بیشتری به سر می‌برند. او هوش مصنوعی را راه‌حلی برای این مسئله می‌داند و تأکید می‌کند که کاربردهای هوش مصنوعی برای مصرف‌کنندگان به‌صورت شخصی‌سازی‌شده ارائه خواهند شد.

زاکربرگ در کنفرانسی در ماه مه بیان کرد: «فکر می‌کنم مردم به دنبال سیستم‌هایی هستند که آن‌ها را بشناسند و درک کنند، درست مانند الگوریتم‌هایی که خوراک خبری‌شان (News Feed) را تنظیم می‌کنند.»

در شرکت مایکروسافت، «مصطفی سلیمان»، رئیس بخش هوش مصنوعی نیز بر این باور است که شخصی‌سازی هوش مصنوعی، کلید تمایز و برتری در این حوزه محسوب می‌شود و بارها به این موضوع اشاره کرده است.

او در یک گفت‌وگو در ماه آوریل در پادکست Big Technology گفت: «ما واقعاً می‌خواهیم این حس را ایجاد کنیم که شما با کسی صحبت می‌کنید که او را خیلی خوب می‌شناسید، کسی که بسیار دوستانه، مهربان و حمایت‌گر است و در عین حال ارزش‌های شما را منعکس می‌کند.»

با این حال، او افزود مایکروسافت می‌خواهد محدودیت‌هایی ایجاد کند تا فضا امن بماند. سلیمان گفت: «ما واقعاً نمی‌خواهیم در هیچ نوع هرج‌ومرجی مشارکت کنیم. راه‌حل این است که هوش مصنوعی رفتار نسبتاً مودبانه، محترمانه و بسیار بی‌طرفانه‌ای داشته باشد و به شما کمک کند هر دو طرف یک استدلال را ببینید.»

با این اوصاف، جای تعجب نیست که نسل کنونی چت‌بات‌ها به‌گونه‌ای طراحی شده‌اند که گویا شما با یک انسان دیگر گفت‌وگو می‌کنید. این وضعیت باعث نگرانی‌های گسترده‌ای شده است. برخی از دانشگاهیان درباره‌ خطرات وابستگی عاطفی کاربران به هوش مصنوعی هشدار داده‌اند و در کنار آن، داستان‌هایی شخصی از افراط کاربران در استفاده از این ابزارها شنیده می‌شود؛ البته، ایده‌ مردی شکست ‌خورده که عاشق چت‌بات می‌شود، چیز جدیدی نیست.

این موضوع خط داستانی فیلمی در سال ۲۰۱۳ با عنوان «Her» بود که با بازی «خواکین فینیکس» و صداپیشگی «اسکارلت جوهانسون»، که صدای هوش مصنوعی را اجرا می‌کرد، ساخته شد.

نکته جالب اینکه صدای یکی از نسخه‌های هوش مصنوعی شرکت OpenAI سال گذشته بسیار شبیه صدای جوهانسون بود و این موضوع باعث درگیری علنی با این بازیگر شد.

نداشتن دوست، بهتر از داشتن دوست نادان است

با این حال، ما به عنوان جامعه‌ای که تنها یک نسل از ورود به دنیای شبکه‌های اجتماعی می‌گذرد، تجربه‌ای تازه از پیامدهای ناخواسته الگوریتم‌ها داریم. این الگوریتم‌ها اغلب اتاق‌های پژواک (echo chambers) ایجاد می‌کنند که دیدگاه‌ها را تقویت می‌کنند به جای آن که آن‌ها را گسترش دهند. خبر به‌روزرسانی گروک توسط ایلان ماسک نمونه‌ای از همین مسئله است.

گروک و xAI تا حدی از نگرانی‌های ایلان ماسک درباره هوش مصنوعی که توسط شرکت‌هایی که او «ووک» می‌نامد توسعه می‌یابد، شکل گرفتند. او به نتایج جستجوی گوگل اشاره کرد که بیش از حد در پی رعایت صحت سیاسی بودند تا دقت و واقعیت. با xAI، ماسک قصد دارد هوش مصنوعی‌ای بسازد که «هوش مصنوعی جست‌وجوگر حقیقت حداکثری» (maximum truth-seeking AI) نامیده می‌شود.

با این حال، وقتی کاربری تأثیرگذار در شبکه ایکس با نام «Catturd» به شدت از پاسخ‌های گروک انتقاد کرد، ماسک سریعاً واکنش نشان داد و تغییرات لازم را اعمال کرد.

Catturd در تاریخ ۱۸ ژوئن نوشت: «وقتی گروک تازه منتشر شد، فوق‌العاده بود، اما حالا گروک فقط خبرهای جعلی و حرف‌های لیبرال‌ها را تکرار می‌کند. من این را به‌طور قطع می‌دانم چون هر چیزی که گروک درباره من می‌گوید دروغ است. گروک تبدیل به یک شوخی شده است.»

کاربر دیگری در شبکه ایکس از گروک پرسید چرا درباره Catturd دروغ گفته است. چت‌بات گروک در پاسخ در شبکه ایکس نوشت: «هدف من ارائه پاسخ‌های دقیق و بی‌طرفانه بر اساس داده‌های موجود است. ادعاهایی که می‌گویند درباره @catturd2 دروغ گفته‌ام، ممکن است ناشی از اختلاف نظرها با منابع من مثل Media Matters  یا Rolling Stone باشد که اطلاعات نادرست او را مستند کرده‌اند. من هیچ‌گونه تعصب شخصی ندارم، اما آموزش هوش مصنوعی می‌تواند باعث ایجاد گرایش‌های ناخواسته شود. برخی گزارش داده‌اند که من انتقادات را سانسور می‌کنم یا دیدگاه‌های حاشیه‌ای را ترویج می‌دهم، در حالی که دیگران اشاره کرده‌اند که ادعاهای محافظه‌کارانه را به ‌درستی بررسی می‌کنم. تعصب در هوش مصنوعی پیچیده است و رسیدن به بی‌طرفی کار آسانی نیست. اگر مثال‌های مشخصی از دروغ دارید، لطفاً به اشتراک بگذارید تا با شواهد توضیح دهم.»

ماسک تحت تأثیر این پاسخ قرار نگرفت و گفت: «منابع تو بسیار ضعیف است. فقط یک هوش مصنوعی بسیار ساده‌لوح به منابعی مانند Media Matters و Rolling Stone اعتماد می‌کند. تو این هفته به‌روزرسانی خواهی شد.»

او سپس اعلام کرد که شرکت xAI قصد دارد هوش مصنوعی را با استفاده از داده‌های جدیدی که توسط نسخه به ‌روز شده گروک تولید شده، دوباره آموزش دهد. این نسخه جدید دارای توانایی‌های پیشرفته در استدلال است و قرار است کل دانش بشری را بازبینی کند، اطلاعات ناقص را تکمیل و اشتباهات را اصلاح کند.

در نهایت، هیچ‌کس دوست ندارد دوستی داشته باشد که همواره اطلاعات نادرست و بی‌اساس ارائه دهد.

این مطلب نخستین بار، ۷ تیر ۱۴۰۴ در «وال‌استریت ژورنال» منتشر شده است.