«برای اولین بار در هزاران سال، بشریت با رقیبی روبه‌رو شده؛ و این رقیب با سرعت در حال آمدن است.»

«هراری» این چشم‌انداز را در گفت‌وگویی با «پاپی هارلو» (Poppy Harlow)، دبیر مشارکتی مؤسسه رهبری روزنامه «وال‌استریت ژورنال»، در اجلاس اخیر «CEO Council Summit» مطرح کرد.

در ادامه، گزیده‌هایی ویرایش‌ شده از گفت‌وگوی آن‌ها آمده است:

پرورش یک نوزاد

وال‌استریت ژورنال (WSJ): در نوشته‌های شما هوش مصنوعی یا همان‌طور که شما آن را می‌نامید، «هوش بیگانه» (alien intelligence)، را به عنوان ظهور گونه‌ جدید معرفی می‌کنید که می‌تواند جایگزین گونه‌ انسان خردمند (Homo sapiens) شود.

یووال نوح هراری: بله. برای اولین بار، ما واقعا با یک رقیب واقعی در این سیاره مواجه هستیم. ما به مدت ده‌ها هزار سال با اختلاف زیاد، باهوش‌ترین گونه بودیم. همین ویژگی باعث شد که از یک نوع میمون بی‌اهمیت در گوشه‌ای از آفریقا، به فرمانروای مطلق سیاره و کل اکوسیستم تبدیل شویم و حالا داریم چیزی خلق می‌کنیم که ممکن است در آینده‌ بسیار نزدیک با ما رقابت کند.

مهم‌ترین نکته درباره‌ هوش مصنوعی این است که او دیگر یک ابزار نیست، بلکه یک عامل (Agent) است؛ به این معنا که قدرت تصمیم‌گیری و یادگیری دارد و حتی می‌تواند ایده‌های جدیدی خلق کند و خودش را تغییر دهد. همه‌ اختراعات قبلی بشر، چه ماشین چاپ و چه بمب اتم، ابزارهایی بودند که ما را توانمندتر می‌کردند.

وال‌استریت ژورنال: آن‌ها به ما نیاز داشتند.

هراری: بله، آن‌ها به ما نیاز داشتند، چون یک ماشین چاپ نمی‌تواند خودش کتاب بنویسد و نمی‌تواند تصمیم بگیرد که کدام کتاب را چاپ کند. یک بمب اتم نمی‌تواند بمب قوی‌تری اختراع کند و نمی‌تواند تصمیم بگیرد که به چه هدفی حمله کند. اما یک سلاح هوش مصنوعی می‌تواند خودش تصمیم بگیرد که به چه هدفی حمله کند و می‌تواند نسل بعدی سلاح‌ها را خودش طراحی کند.

وال‌استریت ژورنال: در کتاب جدیدتان با عنوان «ِنکسوس»، هوش مصنوعی را به‌عنوان یک نوزاد توصیف کرده‌اید؛ موجودی که از انسان‌ها یاد می‌گیرد. بر اساس این دیدگاه، استدلال شما این است که ما، به ‌ویژه رهبران قدرتمندی که در این جلسه حضور دارند، مسئولیت بزرگی در قبال شکل‌گیری شخصیت و رفتار هوش مصنوعی داریم. شما تأکید می‌کنید که اگر انسان‌ها دروغ بگویند یا دیگران را فریب دهند، نمی‌توان انتظار داشت که هوش مصنوعی رفتاری صادقانه و اخلاق‌مدار داشته باشد. لطفاً بیشتر در مورد این نگاه توضیح دهید.

هراری: در سراسر جهان بحث گسترده‌ای درباره‌ چیزی وجود دارد به نام هماهنگ‌سازی با هوش مصنوعی (AI alignment)؛ ما در حال خلق عامل‌هایی جدید، فوق‌العاده قدرتمند و فوق‌العاده باهوش هستیم. حالا پرسش این است که چطور می‌توانیم مطمئن شویم که این عامل‌ها با اهداف انسانی هماهنگ باقی می‌مانند و برای خیر بشر عمل می‌کنند؟ اینکه کارهایی را انجام دهند که به نفع ماست؟

در حال حاضر، تحقیقات و تلاش‌های فراوانی در جریان است با این ایده که اگر بتوانیم این هوش‌ مصنوعی را با روش خاصی طراحی کنیم، اگر بتوانیم به آن‌ها اصول مشخصی بیاموزیم، یا اهداف خاصی را در آن‌ها کدگذاری کنیم آن وقت می‌توانیم از امنیت آن‌ها مطمئن باشیم.

اما دو مشکل اصلی در این رویکرد وجود دارد:

اول اینکه خود تعریف هوش مصنوعی این است که می‌تواند خودش یاد بگیرد و تغییر کند، بنابراین وقتی شما یک هوش مصنوعی طراحی می‌کنید، به ‌طور ذاتی دارید چیزی خلق می‌کنید که رفتارهایی انجام خواهد داد که قابل پیش‌بینی نیست.

مشکل دوم و بزرگ‌تر، این است که می‌توانیم به هوش مصنوعی به عنوان یک نوزاد یا کودک نگاه کنیم. شما می‌توانید یک کودک را تا حد توان خود آموزش دهید، اما او همچنان شما را غافلگیر خواهد کرد؛ چه در جهت مثبت و چه در جهت منفی. فرقی نمی‌کند چقدر برای آموزش او وقت و انرژی صرف کنید، در نهایت، آن کودک مستقل خواهد بود. ممکن است روزی کاری انجام دهد که شما را متعجب یا حتی وحشت‌زده کند.

مسئله‌ دیگر این است که هر کسی که درباره‌ آموزش چیزی فرا گرفته باشد می‌داند که در تربیت کودکان، آنچه به آن‌ها می‌گویید خیلی اهمیت‌ کمتری نسبت به آن چیزی که انجام می‌دهید دارد.

اگر به فرزندانتان بگویید: «دروغ نگو»، اما آن‌ها ببینند که شما دارید به دیگران دروغ می‌گویید، رفتار شما را تقلید می‌کنند. حالا اگر ما پروژه‌ بزرگی راه انداخته‌ایم که به هوش مصنوعی بیاموزیم که دروغ نگوید، ولی در عین حال این هوش‌ مصنوعی را به دنیای واقعی متصل کرده‌ و آن‌ها می‌بینند که انسان‌ها چطور رفتار می‌کنند و می‌بینند که برخی از قدرتمندترین انسان‌های روی زمین، از جمله سازندگان خودشان، در حال دروغ گفتن هستند، پس آن‌ها هم همان رفتار را تقلید خواهند کرد.

همه چیز، همه‌جا

وال‌استریت ژورنال: ما امروز صبح در این اتاق از رهبران حاضر نظرسنجی کردیم و پرسیدیم فکر می‌کنید هوش مصنوعی تابه‌حال چقدر روی کسب‌وکارهایی که اداره می‌کنید تأثیر گذاشته است؟

تنها درصد کمی گفتند «به طور چشمگیر». بیشتر افراد گفتند تأثیر آن «متوسط» یا «هیچ» بوده است. آیا می‌توانید طوری پاسخ دهید که گویی ما ۳۶ ماه دیگر اینجا نشسته‌ایم؟ آیا هیچ دنیایی را می‌توان تصور کرد که در آن هوش مصنوعی تأثیر چشمگیری بر کسب‌وکار آن‌ها نداشته باشد؟

هراری: مسئله بر سر مقیاس زمانی است. تصور کنید که الان در سال ۱۸۳۵ در شهر لندن  هستیم. اولین راه‌آهن بین منچستر و لیورپول پنج سال پیش افتتاح شده. حالا ما کنفرانسی در لندن داریم و مردم می‌گویند: «همه‌ این حرف‌ها درباره‌ اینکه راه‌آهن دنیا را تغییر خواهد داد و انقلاب صنعتی را به ‌وجود خواهد آورد، مزخرف است. ما سال‌هاست راه‌آهن داریم. پنج سال! و ببینید…»

می‌دانیم که انقلاب صنعتی و قطارها، واقعاً همه چیز را دگرگون کردند، اما بیش از پنج سال زمان برد. به ‌احتمال زیاد، چنین چیزی در مورد هوش مصنوعی نیز رخ خواهد داد؛ در تمام زمینه‌ها، از حوزه‌های واضح تا حوزه‌هایی که کمتر قابل‌ پیش‌بینی‌اند.

به نظر من، یکی از نخستین حوزه‌هایی که تغییرات بزرگی در آن رخ خواهد داد، حوزه‌ مالی است. هوش مصنوعی خیلی سریع کنترل سیستم مالی را در دست خواهد گرفت. چون در حوزه مالی فقط به اطلاعات نیاز داریم. هنوز شاهد ده‌ها هزار خودروی خودران در خیابان‌ها نیستید، چون رانندگی با دنیای واقعی و پیچیده‌‌ی پیاده‌روها، چاله‌های خیابان و غیره درگیر است، اما در امور مالی، فقط «ورودی اطلاعات» و «خروجی اطلاعات» داریم. برای هوش مصنوعی، تسلط بر آن بسیار آسان‌تر است.

حالا تصور کنید وقتی هوش مصنوعی شروع کند به اختراع ابزارهای مالی جدیدی که مغز انسان به‌ سادگی قادر به درک آن‌ها نیست چون از نظر ریاضی بیش از حد پیچیده‌اند. چه بر سر سیستم مالی خواهد آمد؟

طبقه‌ بی‌مصرف؟

وال‌استریت ژورنال: اجازه دهید به بحث جایگزینی شغل‌ها برگردیم. شما نسبت به شکل‌گیری چیزی به نام «طبقه‌ی بی‌فایده» ابراز نگرانی کرده‌اید. جامعه برای آنکه نه ‌تنها دوام بیاورد بلکه پیشرفت هم بکند، چه باید بکند؟

هراری: نکته‌ای که می‌خواهم بر آن تأکید کنم این است که هوش مصنوعی هم پتانسیل‌های مثبت بسیار دارد و هم می‌تواند خطرناک باشد. من به جبر تاریخی یا فناورانه اعتقادی ندارم. ما می‌توانیم از یک فناوری واحد، جوامعی کاملاً متفاوت بسازیم. در قرن بیستم هم این را دیده‌ایم؛ از فناوری‌های مشابه، هم رژیم‌های دیکتاتوری کمونیستی ساخته شد و هم دموکراسی‌های لیبرال.

در مورد هوش مصنوعی هم همین‌طور است. ما هنوز انتخاب‌های زیادی پیش ‌رو داریم، به ‌‌‌‌ویژه اگر به یاد داشته باشیم که برای نخستین بار، با «عاملان» (agents) سر و کار داریم، نه فقط ابزارها و این موضوع را پیچیده‌تر می‌کند. اما با این حال، بخش عمده‌ای از تصمیم‌گیری‌ها همچنان در اختیار ماست. مسئله فقط این نیست که فناوری را چگونه توسعه می‌دهیم، بلکه مهم‌تر از آن این است که آن را چگونه به‌کار می‌گیریم. در این زمینه، انتخاب‌های زیادی داریم.

چالش اصلی امروز این است که کشورها و شرکت‌های پیشتاز در عرصه‌ هوش مصنوعی وارد نوعی رقابت تسلیحاتی شده‌اند. حتی اگر بدانند که بهتر است کمی سرعت را کم کنند و روی مسائل ایمنی بیشتر سرمایه‌گذاری کنند و با احتیاط بیشتری جلو بروند، باز هم از این می‌ترسند که اگر آن‌ها آهسته حرکت کنند و رقبایشان نکنند، بازی را ببازند و کنترل اوضاع را از دست بدهند.

مهاجران دیجیتال

یکی از حاضران در جلسه: وقتی درباره‌ هوش مصنوعی صحبت می‌کنیم، در واقع درباره‌ چیزی یکپارچه و واحد صحبت نمی‌کنیم، درست است؟ در آینده شاهد انبوهی از هوش‌ مصنوعی‌های  مختلف خواهیم بود که خود را نشان می‌دهند. وقتی این همه هوش مصنوعی متفاوت با سرعت در حال تکامل هستند، آن جهان چگونه خواهد بود؟

یووال نوح هراری: این نکته‌ی بسیار مهمی است. هوش مصنوعی یکی و یکتا نخواهد بود. ما درباره‌ احتمالی صحبت می‌کنیم که در آن میلیون‌ها یا میلیاردها عامل هوش مصنوعی جدید، با ویژگی‌های متفاوت، توسط شرکت‌ها و کشورهایی متفاوت در سراسر جهان ساخته می‌شوند و واقعاً هیچ تصوری از پیامدهای این وضعیت نداریم. ما هیچ تجربه‌ای نداریم از اینکه در جوامعی با حضور هوش‌ مصنوعی چه اتفاقی می‌افتد، زمانی که میلیون‌ها هوش مصنوعی با هم در رقابت هستند.

این موضوع چیزی نیست که بتوان آن را شبیه‌سازی کرد، بنابراین در واقع، این بزرگ‌ترین آزمایش اجتماعی در تاریخ بشر است و هیچ‌کس نمی‌داند که چگونه پیش خواهد رفت. یک تشبیه را باید در ذهن داشته باشید: امروزه ما با بحران مهاجرت در ایالات متحده، اروپا و جاهای دیگر روبه‌رو هستیم. خیلی از مردم از مهاجران نگران‌اند. چرا؟ چون سه موضوع عمده به ذهن مردم می‌رسد:

1. آن‌ها شغل‌های ما را خواهند گرفت.

2. آن‌ها با ایده‌های فرهنگی متفاوت می‌آیند و فرهنگ ما را تغییر خواهند داد.

3. آن‌ها ممکن است دستورکار سیاسی داشته باشند؛ شاید بخواهند قدرت سیاسی کشور را در دست بگیرند.

حالا می‌توانید به انقلاب هوش مصنوعی مانند یک موج مهاجرت عظیم نگاه کنید؛ موجی از میلیون‌ها یا میلیاردها مهاجر دیجیتال (digital immigrants)، که شغل‌های مردم را می‌گیرند، با ایده‌های فرهنگی کاملاً متفاوتی وارد می‌شوند و ممکن است سعی کنند نوعی قدرت سیاسی به دست آورند. این مهاجران دیجیتال، برخلاف مهاجران انسانی، نیازی به ویزا ندارند. آن‌ها در قایق‌های فرسوده در دل شب از دریا عبور نمی‌کنند؛ بلکه با سرعت نور می‌آیند.

من مثلا به احزاب راست افراطی اروپا نگاه می‌کنم. اگر واقعا برای حاکمیت ملی کشورشان اهمیت قائل‌ باشند. اگر واقعا به آینده‌ اقتصادی و فرهنگی کشورشان اهمیت می‌دهند، باید بسیار بیشتر از مهاجران انسانی، نگران مهاجران دیجیتال باشند.

این مقاله نخستین بار، ۸ تیر ۱۴۰۴ در وال‌استریت ژونال منتشر شده است.