شرکت‌های هوش مصنوعی باید هوش صادر کنند، نه محصولات
تیم تحریریه- ۱۰ شهریور ۱۴۰۴
با پیشرفت سریع هوش مصنوعی، رقابت دیگر فقط بر سر ساخت مدل‌های هوشمندتر نیست، بلکه بر سر توسعه سیستم‌هایی است که بتوانند فکر کنند، تطبیق‌پذیر باشند و شبیه انسان رفتار کنند. به عصر طراحی هوشمند خوش آمدید.
تغییر پارادایم در ارائه محصولات هوش مصنوعی
«شما فقط محصول عرضه نمی‌کنید، بلکه هوش را عرضه می‌کنید.» این جمله‌ای است که مایک کریگر، مدیر ارشد محصول در شرکت Anthropic، در مورد تغییر رفتار مصرف‌کنندگان و نیاز شرکت‌ها به درک ارتباط روزافزون کاربران با مدل‌های محصول بیان کرد.
به‌تازگی OpenAI آزمایشی جنجالی در شبکه اجتماعی X انجام داد؛ در این آزمایش کاربران از ChatGPT خواستند تا بر اساس تمام اطلاعاتی که درباره آن‌ها در حافظه دارد، پاسخ‌هایی تولید کند. این قابلیت بر مبنای ویژگی حافظه ChatGPT اجرا شد. پاسخ‌ها به سرعت در اینترنت فراگیر شدند؛ حتی آندری کارپاتی نیز از این تجربه لذت برد.
شخصیت‌بخشی به مدل‌های هوش مصنوعی
در پستی جالب، ایتن مالیک، استاد و یکی از مدیران آزمایشگاه هوش مصنوعی تولیدی در دانشگاه وارتون، به مقایسه مدل‌های مختلف پرداخت. او نوشت: «مدل‌ها قطعاً شخصیت‌های متفاوتی دارند و گاهی درخواست‌های مبهم و بی‌معنی این تفاوت‌ها را بیشتر نمایان می‌کند.»
کوین وِیل، مدیر ارشد محصول در OpenAI، اشاره کرد: «شما تقریباً مانند یک شخص یا موجود شروع به تعامل با آن می‌کنید و دیدن واکنش مردم به این موضوع شگفت‌انگیز بود.»
در همین راستا، وِیل به تغییر طراحی محصولات به سوی رابطهای کاربری غیرقطعی و تصادفی اشاره کرد؛ به این معنا که دیگر نمی‌توان انتظار داشت ورودی‌های یکسان همیشه خروجی‌های یکسان ایجاد کنند. او توضیح داد: «برای ساخت محصولات، ما باید خودمان را جای کاربران قرار دهیم و فکر کنیم این تغییرات چه معنایی برای آن‌ها دارد.»
ماشین‌ها باید در هوش هیجانی (EQ) بهتر شوند
با ورود به عصری که عامل‌های هوش مصنوعی (AI Agents) نقش محوری دارند، «همدلی» در قلب ساخت محصولات قرار می‌گیرد و این نیازمند تغییر در طرز فکر مهندسی پشت آن است.
چشم‌انداز همراهان هوش مصنوعی
مصطفی سلیمان، مدیرعامل هوش مصنوعی مایکروسافت، اخیراً درباره این چشم‌انداز صحبت کرد و از ایده یک همراه هوش مصنوعی که افراد را توانمند کرده و احساس «درک شدن» و توانمندی را در آن‌ها تقویت می‌کند، حمایت کرد.
این تغییر فراتر از جنبه کاربردی هوش مصنوعی (که صرفاً انجام وظایف است) خواهد بود و به سمت ایجاد هماهنگی عاطفی با کاربران پیش می‌رود. او تأکید کرد که «همدلی» باید در مرکز توسعه فناوری قرار گیرد.
این موضوع تجربه کاربری عمیق‌تر و معنادارتری ایجاد خواهد کرد. تیم او در حال ساخت «همراهان هوش مصنوعی» است که همه کارهایی که کاربران انجام می‌دهند را می‌بینند و به خاطر می‌سپارند. این امر منجر به ایجاد رابطهای صمیمی بین هوش مصنوعی و انسان خواهد شد.
اهمیت هوش هیجانی در تعامل
سلیمان توضیح داد: «هوش هیجانی این مدل‌ها و نحوه تعامل آن‌ها با کاربران به گونه‌ای است که با زبان و لحن شما هماهنگ می‌شوند. به عبارت دیگر، روشی که این مدل‌ها محتوا را ارائه می‌دهند، ممکن است برای بیشتر کاربران حتی از خود محتوا مهم‌تر باشد.»
این رویکرد نشان می‌دهد که شرکت‌های فناوری در حال حرکت از مرحله تولید ابزارهای ساده به سمت ایجاد همراهان هوشمند و همدل هستند که قادر به درک عمیق‌تر نیازهای انسانی باشند.
اهمیت ارزیابی‌های دقیق مدل‌های زبانی بزرگ (LLM)
ارزیابی مدل‌های زبانی بزرگ برای اندازه‌گیری موفقیت و هوش آن‌ها حیاتی است، اما با بهبود سریع قابلیت‌های این مدل‌ها، روش‌های ارزیابی کنونی ممکن است نتوانند به همان سرعت پیشرفت کنند. بنابراین، نوشتن ارزیابی‌ها، به اندازه ارائه قابلیت‌های «جذاب هوش مصنوعی» مهم است.
چالش محدودیت ارزیابی
کوین وِیل اشاره کرد: «مدل‌های امروزی به محدودیت هوش نرسیده‌اند، بلکه به محدودیت ارزیابی رسیده‌اند.» این موضوع بیانگر این است که مدل‌ها می‌توانند عملکرد بهتری داشته باشند و با دقت بیشتری طیف وسیعی از وظایف را انجام دهند. کلید این کار، آموزش موضوعات خاصی به آن‌ها است که احتمالاً بخشی از آموزش اولیه آن‌ها نبوده باشد.
به این ترتیب، در آینده نقش مدیران محصول (PM) بر اساس کیفیت ارزیابی‌هایی که می‌نویسند، تعریف خواهد شد. کریگر توضیح داد که نقش مدیران محصول در حال تغییر است و از تمرکز بر رابطهای محصول به سمت اولویت‌دهی به توسعه مدل‌ها برای ساخت قابلیت‌های هوش مصنوعی در سال‌های ۲۰۲۴-۲۰۲۵ حرکت می‌کند.
نمونه‌ای از ارزیابی‌های پیشرفته
ارزیابی‌ها یک منبع مهم و «کم‌بودجه» در حوزه هوش مصنوعی هستند. به عنوان مثال، یک ارزیابی جدید به نام FrontierMath که اخیراً در شبکه اجتماعی X مورد توجه قرار گرفته است، توانایی استدلال مدل‌های زبانی بزرگ را به چالش کشیده است. این ارزیابی نشان می‌دهد که مدل‌های هوش مصنوعی در وظایف پیچیده و تعریف‌شده عالی عمل می‌کنند، اما در حل مسائل دنیای واقعی موفق نیستند و تنها ۲ درصد از مسائل ریاضی را حل می‌کنند.
در حالی که آندری کارپاتی این ارزیابی را تأیید کرد، نوآم براون از OpenAI دیدگاه متفاوتی داشت و اظهار کرد: «من از دیدن یک ارزیابی جدید با نرخ موفقیت پایین برای مدل‌های پیشرفته لذت می‌برم. این حس شبیه بیدار شدن و دیدن یک لایه تازه از برف دست‌نخورده روی زمین است.»
همگرایی تحقیق محصول و تحقیقات آکادمیک
تحقیقات مبتنی بر محصول با تحقیقات آکادمیک در بسیاری از جنبه‌ها ادغام شده‌اند و اعضای فنی باید هنگام ساخت محصولات هوش مصنوعی، شهود و درک فنی خود را توسعه دهند.
پل ارتباطی بین تحقیق و توسعه
کوین وِیل درباره این تعامل گفت: «گاهی در جلسه‌ای هستید و می‌گویید: “ای کاش می‌توانستیم این کار را انجام دهیم” و یکی از پژوهشگران تیم پاسخ می‌دهد: “ما این کار را سه ماه پیش انجام داده‌ایم…”» این نشان‌دهنده شکاف بین نیاز به قابلیت‌های خاص و دانشی است که پژوهشگران قبلاً به آن دست یافته‌اند.
او همچنین افزود: «فکر می‌کنم این امر مدیران محصول (PM) را ترغیب می‌کند تا بیشتر به عمق فناوری نفوذ کنند… لازم نیست هر مدیر محصول به یک پژوهشگر تبدیل شود، اما داشتن درک و صرف زمان برای یادگیری زبان فناوری و ایجاد شهود درباره نحوه عملکرد آن، بسیار ارزشمند خواهد بود.»
تحولات در صنعت هوش مصنوعی
این همگرایی نشان‌دهنده تحول عمیقی در صنعت هوش مصنوعی است. شرکت‌هایی مانند OpenAI، Anthropic، Google DeepMind و Microsoft در حال ایجاد تیم‌هایی هستند که در آن‌ها مرز بین تحقیق و توسعه محصول محو شده است. این رویکرد منجر به نوآوری‌های سریع‌تر و محصولاتی می‌شود که نه تنها از نظر فنی پیشرفته هستند، بلکه از نظر تجاری نیز موفق‌اند.
آینده طراحی محصولات هوش مصنوعی
با توجه به این تحولات، آینده طراحی محصولات هوش مصنوعی به سمت ایجاد سیستم‌هایی حرکت می‌کند که:
- هوش هیجانی بالا دارند و قادر به درک احساسات و نیازهای کاربران هستند
- تطبیق‌پذیری شخصی دارند و با هر کاربر به شیوه منحصر به فردی تعامل می‌کنند
- یادگیری مداوم از تعاملات کاربران و بهبود مستمر عملکرد خود
- شفافیت و قابلیت توضیح در تصمیم‌گیری‌ها و پاسخ‌هایشان
این تغییر پارادایم نشان می‌دهد که آینده متعلق به شرکت‌هایی است که بتوانند فراتر از ارائه ابزارهای ساده، همراهان هوشمند و همدلی برای کاربران خود بسازند. در این عصر جدید، موفقیت به معنای صادرات هوش است، نه صرفاً فروش محصولات.# شرکت‌های هوش مصنوعی باید هوش صادر کنند، نه محصولات
با پیشرفت سریع هوش مصنوعی، رقابت دیگر فقط بر سر ساخت مدل‌های هوشمندتر نیست، بلکه بر سر توسعه سیستم‌هایی است که بتوانند فکر کنند، تطبیق‌پذیر باشند و شبیه انسان رفتار کنند. به عصر طراحی هوشمند خوش آمدید.
تحول در تعریف محصولات هوش مصنوعی
«شما فقط محصول عرضه نمی‌کنید، بلکه هوش را عرضه می‌کنید.» این جمله‌ای است که مایک کریگر، مدیر ارشد محصول در شرکت Anthropic، در مورد تغییر رفتار مصرف‌کنندگان و نیاز شرکت‌ها به درک ارتباط روزافزون کاربران با مدل‌های محصول بیان کرد.
به‌تازگی OpenAI آزمایشی جنجالی در شبکه اجتماعی X انجام داد؛ در این آزمایش کاربران از ChatGPT خواستند تا بر اساس تمام اطلاعاتی که درباره آن‌ها در حافظه دارد، پاسخ‌هایی تولید کند. این قابلیت بر مبنای ویژگی حافظه ChatGPT اجرا شد. پاسخ‌ها به سرعت در اینترنت فراگیر شدند؛ حتی آندری کارپاتی نیز از این تجربه لذت برد.
در پستی جالب، ایتن مالیک، استاد و یکی از مدیران آزمایشگاه هوش مصنوعی تولیدی در دانشگاه وارتون، به مقایسه مدل‌های مختلف پرداخت. او نوشت: «مدل‌ها قطعاً شخصیت‌های متفاوتی دارند و گاهی درخواست‌های مبهم و بی‌معنی این تفاوت‌ها را بیشتر نمایان می‌کند.»
کوین وِیل، مدیر ارشد محصول در OpenAI، اشاره کرد: «شما تقریباً مانند یک شخص یا موجود شروع به تعامل با آن می‌کنید و دیدن واکنش مردم به این موضوع شگفت‌انگیز بود.»
در همین راستا، وِیل به تغییر طراحی محصولات به سوی رابطهای کاربری غیرقطعی و تصادفی اشاره کرد؛ به این معنا که دیگر نمی‌توان انتظار داشت ورودی‌های یکسان همیشه خروجی‌های یکسان ایجاد کنند. او توضیح داد: «برای ساخت محصولات، ما باید خودمان را جای کاربران قرار دهیم و فکر کنیم این تغییرات چه معنایی برای آن‌ها دارد.»
ماشین‌ها باید در هوش هیجانی (EQ) بهتر شوند
با ورود به عصری که عامل‌های هوش مصنوعی (AI Agents) نقش محوری دارند، «همدلی» در قلب ساخت محصولات قرار می‌گیرد و این نیازمند تغییر در طرز فکر مهندسی پشت آن است.
مصطفی سلیمان، مدیرعامل هوش مصنوعی مایکروسافت، اخیراً درباره این چشم‌انداز صحبت کرد و از ایده یک همراه هوش مصنوعی که افراد را توانمند کرده و احساس «درک شدن» و توانمندی را در آن‌ها تقویت می‌کند، حمایت کرد.
این تغییر فراتر از جنبه کاربردی هوش مصنوعی (که صرفاً انجام وظایف است) خواهد بود و به سمت ایجاد هماهنگی عاطفی با کاربران پیش می‌رود. او تأکید کرد که «همدلی» باید در مرکز توسعه فناوری قرار گیرد.
تجربه کاربری عمیق‌تر و معنادارتر
این موضوع تجربه کاربری عمیق‌تر و معنادارتری ایجاد خواهد کرد. تیم او در حال ساخت «همراهان هوش مصنوعی» است که همه کارهایی که کاربران انجام می‌دهند را می‌بینند و به خاطر می‌سپارند. این امر منجر به ایجاد رابطهای صمیمی بین هوش مصنوعی و انسان خواهد شد.
سلیمان توضیح داد: «هوش هیجانی این مدل‌ها و نحوه تعامل آن‌ها با کاربران به گونه‌ای است که با زبان و لحن شما هماهنگ می‌شوند. به عبارت دیگر، روشی که این مدل‌ها محتوا را ارائه می‌دهند، ممکن است برای بیشتر کاربران حتی از خود محتوا مهم‌تر باشد.»
پیشرفت‌های اخیر در هوش هیجانی AI
بر اساس تحقیقات اخیر منتشر شده در Nature Machine Intelligence، محققان دانشگاه MIT موفق شده‌اند سیستمی طراحی کنند که می‌تواند احساسات انسان را با دقت ۸۵ درصدی تشخیص دهد. این پیشرفت نشان‌دهنده حرکت به سمت هوش مصنوعی‌ای است که نه تنها اطلاعات را پردازش می‌کند، بلکه احساسات را نیز درک می‌کند.
همچنین، شرکت Hume AI اخیراً مدل زبانی جدیدی به نام EVI (Empathic Voice Interface) معرفی کرده که قادر به تشخیص و پاسخ مناسب به حالات عاطفی کاربران است. این مدل از تکنیک‌های پیشرفته پردازش صوت و تحلیل لحن استفاده می‌کند تا تعامل طبیعی‌تری با انسان‌ها برقرار کند.
اهمیت ارزیابی‌های دقیق مدل‌های زبانی بزرگ (LLM)
ارزیابی مدل‌های زبانی بزرگ برای اندازه‌گیری موفقیت و هوش آن‌ها حیاتی است، اما با بهبود سریع قابلیت‌های این مدل‌ها، روش‌های ارزیابی کنونی ممکن است نتوانند به همان سرعت پیشرفت کنند. بنابراین، نوشتن ارزیابی‌ها، به اندازه ارائه قابلیت‌های «جذاب هوش مصنوعی» مهم است.
کوین وِیل اشاره کرد: «مدل‌های امروزی به محدودیت هوش نرسیده‌اند، بلکه به محدودیت ارزیابی رسیده‌اند.» این موضوع بیانگر این است که مدل‌ها می‌توانند عملکرد بهتری داشته باشند و با دقت بیشتری طیف وسیعی از وظایف را انجام دهند. کلید این کار، آموزش موضوعات خاصی به آن‌ها است که احتمالاً بخشی از آموزش اولیه آن‌ها نبوده باشد.
نمونه‌ای از چالش‌های ارزیابی: FrontierMath
یک ارزیابی جدید به نام FrontierMath که اخیراً در شبکه اجتماعی X مورد توجه قرار گرفته است، توانایی استدلال مدل‌های زبانی بزرگ را به چالش کشیده است. این ارزیابی نشان می‌دهد که مدل‌های هوش مصنوعی در وظایف پیچیده و تعریف‌شده عالی عمل می‌کنند، اما در حل مسائل دنیای واقعی موفق نیستند و تنها ۲ درصد از مسائل ریاضی را حل می‌کنند.
در حالی که آندری کارپاتی این ارزیابی را تأیید کرد، نوآم براون از OpenAI دیدگاه متفاوتی داشت و اظهار کرد: «من از دیدن یک ارزیابی جدید با نرخ موفقیت پایین برای مدل‌های پیشرفته لذت می‌برم. این حس شبیه بیدار شدن و دیدن یک لایه تازه از برف دست‌نخورده روی زمین است.»
استانداردهای جدید ارزیابی
بر اساس گزارش اخیر Stanford HAI، محققان در حال توسعه استانداردهای جدیدی برای ارزیابی مدل‌های زبانی هستند که شامل موارد زیر است:
- ارزیابی چندوجهی: بررسی همزمان دقت، سرعت، و کارایی انرژی
- تست‌های دنیای واقعی: استفاده از سناریوهای پیچیده و غیرقابل پیش‌بینی
- ارزیابی اخلاقی: بررسی تعصبات و مسائل امنیتی در پاسخ‌های مدل‌ها
به این ترتیب، در آینده نقش مدیران محصول (PM) بر اساس کیفیت ارزیابی‌هایی که می‌نویسند، تعریف خواهد شد. کریگر توضیح داد که نقش مدیران محصول در حال تغییر است و از تمرکز بر رابطهای محصول به سمت اولویت‌دهی به توسعه مدل‌ها برای ساخت قابلیت‌های هوش مصنوعی در سال‌های ۲۰۲۴-۲۰۲۵ حرکت می‌کند.
همگرایی تحقیق محصول و تحقیقات آکادمیک
تحقیقات مبتنی بر محصول با تحقیقات آکادمیک در بسیاری از جنبه‌ها ادغام شده‌اند و اعضای فنی باید هنگام ساخت محصولات هوش مصنوعی، شهود و درک فنی خود را توسعه دهند.
کوین وِیل درباره این تعامل گفت: «گاهی در جلسه‌ای هستید و می‌گویید: “ای کاش می‌توانستیم این کار را انجام دهیم” و یکی از پژوهشگران تیم پاسخ می‌دهد: “ما این کار را سه ماه پیش انجام داده‌ایم…”» این نشان‌دهنده شکاف بین نیاز به قابلیت‌های خاص و دانشی است که پژوهشگران قبلاً به آن دست یافته‌اند.
او همچنین افزود: «فکر می‌کنم این امر مدیران محصول (PM) را ترغیب می‌کند تا بیشتر به عمق فناوری نفوذ کنند… لازم نیست هر مدیر محصول به یک پژوهشگر تبدیل شود، اما داشتن درک و صرف زمان برای یادگیری زبان فناوری و ایجاد شهود درباره نحوه عملکرد آن، بسیار ارزشمند خواهد بود.»
نمونه‌هایی از همکاری صنعت و دانشگاه
شرکت Google DeepMind اخیراً با دانشگاه Oxford همکاری جدیدی آغاز کرده است تا روش‌های نوینی برای آموزش مدل‌های زبانی توسعه دهد. این همکاری شامل تبادل محققان و استفاده مشترک از منابع محاسباتی است.
همچنین، Microsoft Research برنامه‌ای راه‌اندازی کرده که به محققان دانشگاهی امکان دسترسی به مدل‌های پیشرفته و ابزارهای توسعه را می‌دهد. این برنامه هدف دارد تا شکاف بین تحقیقات نظری و کاربردهای عملی را کاهش دهد.
آینده طراحی محصولات هوش مصنوعی
با توجه به این تحولات، شرکت‌های هوش مصنوعی باید رویکرد خود را از ارائه محصولات ساده به سمت ارائه «هوش» تغییر دهند. این تغییر نیازمند:
۱. سرمایه‌گذاری در هوش هیجانی
شرکت‌ها باید بر توسعه قابلیت‌هایی تمرکز کنند که به مدل‌های آن‌ها امکان درک و پاسخ مناسب به احساسات انسانی را بدهد.
۲. توسعه ارزیابی‌های جامع
ایجاد معیارهای جدید که نه تنها دقت فنی، بلکه کیفیت تعامل انسانی را نیز اندازه‌گیری کنند.
۳. همکاری بین‌رشته‌ای
ترکیب دانش فنی با علوم انسانی، روان‌شناسی، و طراحی تجربه کاربری برای ایجاد محصولات هوشمندتر.
۴. شخصی‌سازی پیشرفته
توسعه سیستم‌هایی که بتوانند با گذشت زمان، رفتار و ترجیحات کاربران را یاد بگیرند و تجربه‌ای منحصر به فرد ارائه دهند.
جمع‌بندی
عصر جدید هوش مصنوعی نیازمند تغییر بنیادین در نحوه طراحی و توسعه محصولات است. شرکت‌ها باید از تمرکز صرف بر قابلیت‌های فنی به سمت ایجاد تجربه‌هایی حرکت کنند که واقعاً «هوشمند» و «همدل» باشند. این تحول نه تنها فرصت‌های جدیدی برای نوآوری ایجاد می‌کند، بلکه الزامات جدیدی نیز برای مهارت‌ها و رویکردهای توسعه محصول به همراه دارد.
آینده متعلق به شرکت‌هایی است که بتوانند این تعادل ظریف بین پیشرفت فنی و درک انسانی را برقرار کنند و محصولاتی ارائه دهند که نه تنها کارآمد، بلکه واقعاً «هوشمند» باشند.
