مدلهای زبانی بزرگ در زبانهای مختلف، پاسخهای متفاوتی ارائه میدهند
سید محمدجواد فیاض
- ۱۶ خرداد ۱۴۰۵
به نقل از HBR، پژوهشی تحت عنوان Cultural Tendencies in Generative AI از «جکسون دی.لو»، «لزلی لویانگ سانگ» و «لو دوریس» در Nature Human Behaviour نشان میدهد زبانی که برای کار با هوش مصنوعی مولد استفاده میکنید میتواند بر پاسخهای آن اثر بگذارد. در این پژوهش، محققان بیش از ۱۰ هزار پاسخ از دو مدل ChatGPT و Ernie، محصول شرکت چینی بایدو را تحلیل کردند. محققان از مدلها درباره دو سازه بنیادی در روانشناسی فرهنگی پرسیدند؛ جهتگیری اجتماعی (اینکه افراد خود را نسبت به دیگران چگونه تعریف میکنند) و سبکشناختی (اینکه افراد معمولاً چگونه اطلاعات را پردازش میکنند).
محققان برای پیشبینیهای خود از الگوهای فرهنگی شناختهشده بهعنوان مبنای مقایسه استفاده کردند. در ایالات متحده، افراد معمولاً جهتگیری اجتماعی مستقل دارند که با خودمختاری و منحصربهفرد بودن شناخته میشود و نیز سبکشناختی تحلیلی دارند که بر منطق و قواعد تکیه میکند. در چین، افراد معمولاً جهتگیری اجتماعی وابستهبههم و درهمتنیده دارند که بر هماهنگی و پیوند و ارتباط تأکید میکند و همچنین سبکشناختی کلنگر دارند که بر زمینه و بافت تمرکز میکند و پذیرای تناقض است.
محققان دریافتند مدلهای هوش مصنوعی مولد که بر دادههای متنیِ ذاتاً فرهنگی آموزشدیدهاند؛ به هر زبان از آنها سؤال میشود، به طور پیوسته همان گرایشهای فرهنگی را نشان میدهند. وقتی پرسشها به زبان چینی مطرح میشد، هم GPT و هم Ernie جهتگیری اجتماعی وابستهبههم و سبکشناختی کلنگر بیشتری بروز میدادند. برای نمونه، هر دو مدل علت رفتار یک فرد در یک اردوی بسکتبال را بیشتر به شرایط و زمینه نسبت میدادند تا به ویژگیهای شخصیتی فرد.
این گرایشها میتوانند پیامدهای واقعی در کسبوکار داشته باشند. وقتی محققان از مدلها خواستند برای استارتاپهای خیالی، مؤثرترین شعارهای بازاریابی را پیشنهاد کنند، توصیهها صرفاً به این دلیل تغییر میکرد که زبانِ پرامپت عوض شده بود.
همچنین محققان دریافتند این گرایشها لزوماً ثابت و غیرقابلتغییر نیستند. وقتی از مدلها به زبان انگلیسی خواسته شد که از دیدگاه یک فرد چینی پاسخ دهد، پاسخهایش بیشتر شبیه پاسخهایی شد که هنگام پرسش به زبان چینی تولید میکرد.
محققان مینویسند: «مدیران باید آگاه باشند که زبانِ پرامپت میتواند بیسروصدا بر توصیههای هوش مصنوعی اثر بگذارد و بهتبع آن، تصمیمهای کسبوکار را تحتتأثیر قرار دهد؛ بنابراین مدیران عامل و مدیران ارشد، بهویژه کسانی که با تیمهای چندزبانه یا مشتریان جهانی کار میکنند، باید انتخاب زبان را یک تصمیم راهبردی تلقی کنند.»
