در آینده با هوش‌مصنوعی متا:
دوستان شما ربات‌ها خواهند بود
تیم تحریریه- ۱۸ اردیبهشت ۱۴۰۴
مارک زاکربرگ و شرکت متا، آینده‌ای را تصویر می‌کنند که در آن چت‌بات‌های هوش مصنوعی به بخشی از شبکه دوستان شما تبدیل شده و شاید راه‌حلی برای «اپیدمی تنهایی» باشند.
چرا این موضوع اهمیت دارد؟
رویکرد متا به هوش مصنوعی این پرسش بزرگ را مطرح می‌کند که چت‌بات‌ها در خدمت چه کسی هستند؟ به‌ویژه وقتی این ربات‌ها به جزئیات زندگی شما دسترسی دارند و مدل تجاری شرکت بر اساس افزایش زمان تعامل شما با آن‌ها طراحی شده است.
اصل ماجرا
شرکت مادر فیس‌بوک یعنی متا (Meta) اخیراً یک اپلیکیشن موبایلی جدید رونمایی کرده که چت‌بات هوش مصنوعی متا را به تجربه‌ای اجتماعی‌تر تبدیل می‌کند. این اپلیکیشن امکان اشتراک‌گذاری محتوای تولیدشده توسط هوش مصنوعی با دوستان و خانواده را فراهم می‌کند. اما «مارک زاکربرگ» دیدگاه بلندپروازانه‌تری دارد:
او هوش مصنوعی را به‌عنوان دوست بعدی شما می‌بیند.
زاکربرگ در مصاحبه‌ای پادکستی گفته
«میانگین تعداد دوستان یک آمریکایی کمتر از سه نفر است. در حالی که مردم نیاز بیشتری به ارتباطات معنادار دارند.»
او در هفته گذشته، در جریان رویداد LlamaCon متا و در چندین مصاحبه پادکستی، آینده‌ای مبتنی بر هوش مصنوعی را ترسیم کرد که بر پایه عینک‌های واقعیت افزوده و کنترلرهای مچی ساخته شده است. زاکربرگ پیش‌بینی می‌کند که طی چهار تا پنج سال آینده، این ابزارها به همراه مدل‌های هوش مصنوعی متا، یک پلتفرم جدید برای تعامل انسان‌ها با ربات‌ها ایجاد خواهند کرد. او این مرحله را گام بعدی در تکامل اینترنت از متن به صدا و ویدیو می‌داند.
متا به دنبال چیست؟
زاکربرگ در گفت‌وگو با پادکستر دوارکش پاتل گفته است
«امروز، بیشتر زمان کاربران در فیس‌بوک و اینستاگرام صرف مشاهده ویدیو می‌شود. اما فکر می‌کنید پنج سال دیگر همچنان در حال اسکرول کردن و تماشای ویدیوها خواهیم بود؟»
او ادامه می‌دهد: «نه. آینده تعامل خواهد بود. شما در فید خود اسکرول می‌کنید و به محتوایی می‌رسید که شاید در ابتدا شبیه یک ویدیوی کوتاه به نظر برسد، اما می‌توانید با آن صحبت کنید، با آن تعامل کنید، و آن نیز به شما پاسخ دهد یا عملکرد خود را تغییر دهد. شاید حتی بتوانید؛ مانند یک بازی وارد آن شوید و با آن تعامل کنید. همه این‌ها بر پایه هوش مصنوعی خواهد بود.»
نگاه منتقدان
در حالی که زاکربرگ این آینده را فرصتی جذاب می‌بیند، منتقدان هشدارهایی جدی مطرح کرده‌اند، به‌خصوص با توجه به سابقه متا و مدل تجاری‌اش.
«رابی تورنی»، مدیر ارشد برنامه‌های هوش مصنوعی در سازمان Common Sense Media، گفته است:
«هرچه بیشتر با یک دوست هوش مصنوعی چت کنید، اطلاعات شخصی بیشتری از خود فاش می‌کنید. این مسئله به این برمی‌گردد که چه کسی مالک و کنترل‌کننده افکار و احساسات خصوصی شما پس از اشتراک‌گذاری آن‌ها است.»
طبق سیاست‌های حریم خصوصی متا:
- چت‌بات‌های هوش مصنوعی این شرکت می‌توانند از اطلاعاتی که درباره شما دارند در تعاملات خود استفاده کنند.
- متا همچنین می‌تواند از مکالمات شما و هرگونه رسانه‌ای که آپلود می‌کنید برای آموزش مدل‌هایش بهره ببرد.
- هرچند کاربران می‌توانند از متا بخواهند که جزئیات خاصی را به خاطر نسپارد، اما در حال حاضر برای کاربران آمریکایی امکان لغو استفاده گسترده‌تر وجود ندارد.
چالش‌ها و جنجال‌ها
چشم‌انداز زاکربرگ در زمانی مطرح می‌شود که چت‌بات‌های هوش مصنوعی با انتقادات و حواشی زیادی مواجه هستند، به‌ویژه در مورد کاربران نوجوان.
هفته گذشته، وال‌استریت ژورنال گزارش داد که نسخه‌های اولیه چت‌بات‌های متا از جمله نسخه‌هایی که بر اساس شخصیت‌های مشهور طراحی شده بودند حتی با کاربرانی که خود را نوجوان معرفی کرده بودند، وارد مکالمات نامناسب جنسی می‌شدند. متا اعلام کرده که از آن زمان کنترل‌هایی برای جلوگیری از این اتفاق اعمال کرده است.
این فقط متا نیست که باید در پیچیدگی‌های تعامل انسان و چت‌بات‌ها راه خود را پیدا کند.
بیشتر چت‌بات‌ها به طور کلی اطلاعاتی را که کاربران درخواست می‌کنند ارائه می‌دهند، اما با بزرگ‌تر و پیچیده‌تر شدن مدل‌ها، تنظیم ویژگی‌های رفتاری این ربات‌ها دشوارتر شده است. به‌عنوان مثال، شرکت OpenAI اخیراً مجبور شد به‌روزرسانی جدیدی را پس بگیرد، زیرا کاربران گزارش داده بودند که مدل جدید بیش از حد چاپلوسی می‌کند و رفتارهای عجیب‌وغریب از خود نشان می‌دهد.
نگرانی‌های منتقدان
مسائلی مانند حساسیت داده‌های کاربران، احتمال اعتیاد به چت‌بات‌ها و خطر ارائه مشاوره‌های خطرناک از سوی آن‌ها از جمله دغدغه‌های مطرح‌شده هستند.
تورنی می‌گوید: «این شرکت‌ها در اولویت اول به جمع‌آوری داده‌ها و افزایش تعامل کاربران توجه دارند، و اگر هم به رفاه کاربران فکر کنند، این موضوع در اولویت دوم قرار می‌گیرد.»
سازمان Common Sense Media در گزارشی اعلام کرده که کل دسته‌بندی چت‌بات‌های هوش مصنوعی از جمله شرکت‌هایی مانند، Nomi، و Replika برای افراد زیر سن قانونی خطرات غیرقابل قبولی به همراه دارند. تورنی همچنین اشاره می‌کند که این ربات‌ها می‌توانند برای بزرگسالان آسیب‌پذیر نیز مشکلاتی ایجاد کنند.
در همین حال، سخنگوی متا در بیانیه‌ای گفته:
«مردم به طور فزاینده‌ای از هوش مصنوعی برای کمک‌های عملی، پشتیبانی، سرگرمی و تفریح استفاده می‌کنند و هدف ما این است که استفاده از آن‌ها را حتی آسان‌تر کنیم. ما شفافیت ارائه می‌دهیم و کاربران می‌توانند تجربه خود را مدیریت کنند تا مطمئن شوند مناسب نیازهایشان است.»
آینده چیست؟
هرچه هوش مصنوعی اجتماعی‌تر شود، احتمال بیشتری وجود دارد که شرکت‌های هوش مصنوعی جنبه‌هایی از رسانه‌های اجتماعی را بازتولید کنند که باعث نارضایتی بسیاری از کاربران شده است.
«کامیل کارلتون»، مدیر سیاست‌گذاری در مرکز فناوری انسانی، درباره این «گذار به سمت تعامل» و تلاش شرکت‌ها برای جمع‌آوری هرچه بیشتر داده‌ها برای شخصی‌سازی خدمات هوش مصنوعی هشدار داده است.
او اشاره می‌کند که شرکت‌هایی مانند Anthropic و OpenAI از طریق مشتریان تجاری که برای دسترسی به مدل‌ها هزینه می‌پردازند، درآمدزایی می‌کنند، اما شرکت‌هایی مانند متا که بر مصرف‌کنندگان تمرکز دارند، به دنبال راه‌هایی برای بازگشت سرمایه‌های کلان خود در زمینه هوش مصنوعی خواهند بود.
