پوپولیسم هوش مصنوعی فرارسیده و هیچ‌کس آماده نیست

به نقل از نیویورک‌تایمز، بیش از یک دهه است که آلتمن و بنیان‌گذاران همتای او در وضعیتی از اضطرابِ کنترل‌شده درباره هوش مصنوعی زندگی می‌کنند. در واقع، این داستانِ پیدایش ۳ مورد از ۵ بازیگر اصلی مسابقه تسلیحاتی هوش مصنوعی است که هر یک از روی وحشتِ این موضوع شکل گرفتند که سایر بازیگران، ترس‌های وجودی درباره این فناوری را به‌اندازه کافی جدی نمی‌گیرند. به نظر می‌رسد آن‌ها کمتر نگران خطر واکنش‌های سیاسی از سوی انسان‌های واقعی بوده‌اند؛ با این فرض که چنین واکنشی به‌موقع محقق نخواهد شد یا هوش ماشینی به‌سرعت آن را خنثی خواهد کرد یا شاید بتوان با صحبت از پرداخت‌های درآمد پایه یا وعده‌های درمان سرطان آن را خرید.

اما چند وقت پیش، زمانی که یک کوکتل‌مولوتف به ملک آلتمن در سانفرانسیسکو پرتاب شد، واکنش انسانی به معنای واقعی کلمه به درِ خانه او رسید. چند روز بعد، خانه آلتمن مورد حمله دیگری قرار گرفت، این بار با شلیک گلوله. «جاسمین سان» (Jasmine Sun)، این اتفاقات را «تیرهای هشدار پوپولیسم هوش مصنوعی» نامید.

آمریکایی‌ها همچنان نگران اثرات محلی دیتاسنترها هستند و برای اعتراض به آن‌ها به طور دسته‌جمعی به تالارهای شهر هجوم می‌آورند. آن‌ها همچنین نگران ازدست‌دادن مشاغل و آشفتگی اقتصادی هستند، درست مانند شمار زیادی از سیاست‌مداران که منتظرند ببینند باد از کدام طرف می‌وزد. اما برای بسیاری، بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی اکنون شبیه به چهره‌های جدید الیگارشی آمریکایی نیز به نظر می‌رسند؛ تمرکز ترسناکی از قدرت اقتصادی و اجتماعی که الگویی خودافزاینده از نابرابری شدید را تولید می‌کند، از همان نوعی که دهه‌هاست زندگی آمریکایی‌ها را جریحه‌دار کرده است. اگر همان‌طور که مدام به ما گفته می‌شود آینده در گرو هوش مصنوعی است، برای بسیاری نگران‌کننده و برای برخی خشم‌آور است که افرادِ به این اندکی، چنین کنترل مطلقی بر آن داشته باشند.

از یک منظر، چشم‌اندازی که توسط شرکت‌های هوش مصنوعی تبلیغ می‌شود، به طرز قابل‌توجهی غیرشخصی است. ما مسئولیت و قضاوت را به «جعبه‌های سیاه» فوق‌هوشمند می‌سپاریم که به‌سرعت شروع به شکل‌دادن به مسیر آینده بشر با تصمیماتی می‌کنند که برای بقیه ما، از جمله طراحان آن‌ها، ناخوانا و مبهم باقی می‌مانند. داریو آمودی سال گذشته نوشت: «افراد خارج از این حوزه اغلب تعجب می‌کنند و نگران می‌شوند وقتی می‌فهمند ما نمی‌دانیم ساخته‌های هوش مصنوعی خودمان چگونه کار می‌کنند. آن‌ها حق دارند نگران باشند؛ این فقدانِ درک اساساً در تاریخ فناوری بی‌سابقه است.»

از منظری دیگر و در این میان، هوش مصنوعی شاید شخصی‌ترین پیشنهاد فروشی باشد که تاکنون به مصرف‌کننده منفعل آمریکایی تحمیل شده است؛ چشم‌اندازی از تسلطِ تقریباً کامل بر زندگی اقتصادی، اجتماعی و شناختی کشور توسط ابزارهایی که تنها توسط ۵ شرکت مهندسی شده‌اند و توسط ۵ شخص خاص اداره می‌شوند که بسیاری از آن‌ها در افکار عمومی به‌عنوان جامعه‌ستیز (sociopath) توصیف می‌شوند. این فهرست آن‌قدر کوتاه است که ممکن است اکثر آن‌ها را با نام کوچک بشناسید: سم، داریو، ایلان، مارک و دمیس هاسابیس که DeepMind گوگل را اداره می‌کند و شاید کمتر مشهور باشد.

این مردان همگی از قبل میلیاردر هستند یا به آن نزدیک‌اند و در مسیرهای فعلی‌شان، ثروت و نفوذ آن‌ها قرار است به طور تصاعدی افزایش پیدا کند؛ درحالی‌که در اطراف آن‌ها، نخبه‌ستیزی نیز در حال تکثیر است. شاید این یکی از دلایلی باشد که ۵۰ درصد از آمریکایی‌ها سال گذشته به مرکز تحقیقات Pew گفتند که بیشتر از آنچه که از سوی هوش مصنوعی در راه است نگران‌اند تا هیجان‌زده. تنها ۱۰ درصد گفتند که بیشتر هیجان‌زده‌اند. این شکافِ عمیقی است که از یک جامعه کامل خواسته می‌شود به درون آن سقوط کند.

در هوشیو بخوانید:
آیا مردان پیشگام هوش مصنوعی می‌توانند به‌اندازه خاندان فورد یا راکفلر قدرتمند شوند؟

گفتمان هوش مصنوعی در سال ۲۰۲۶ مانند قابلیت‌های آن، تقریباً هفته‌به‌هفته جهش پیدا می‌کند. اما به‌زعم نویسنده نیویورک‌تایمز شاید به‌یادماندنی‌ترین چیزی که درباره شکلِ آنچه در راه است خوانده، همچنان مقاله‌ای باشد که در سال ۲۰۱۷ توسط «تد چیانگ» (Ted Chiang)، نویسنده داستان‌های علمی‌تخیلی در BuzzFeed News منتشر شد. OpenAI تنها ۲ سال قبل از آن تأسیس شده بود؛ نه ایلان ماسک و نه آمودی هنوز راه خود را جدا نکرده بودند، و مارک زاکربرگ تقریباً یک دهه با ولخرجی‌های ناامیدانه‌اش در حوزه هوش مصنوعی فاصله داشت. اما در همان زمان نیز مبلغانِ آخرالزمانی مانند ماسک به انجمن ملی فرمانداران هشدار می‌دادند که «هوش مصنوعی یک خطر بنیادین برای موجودیت تمدن بشری است.» منظور او این احتمال بود که یک هوش مصنوعی با قدرت فوق‌العاده ممکن است تصمیم بگیرد هدف موجودیت جهان، تولید گیره کاغذ یا برداشت توت‌فرنگی است و هر چیز دیگری از جمله انسان‌ها را بی‌ربط بداند.

در هوشیو بخوانید:
آیا یک هوش مصنوعی می‌تواند تصادفاً همه ما را به گیره کاغذ تبدیل کند؟

چیانگ نوشت: «این سناریو برای اکثر مردم پوچ به نظر می‌رسد، بااین‌حال تعداد شگفت‌انگیزی از فناوران هستند که فکر می‌کنند این موضوع یک خطر واقعی را به تصویر می‌کشد. وقتی سیلیکون‌ولی سعی می‌کند یک ابرهوش را تصور کند، آنچه به ذهنش می‌رسد کاپیتالیسمِ لجام‌گسیخته است.»

امروزه، ایالات متحده در میانه یک بحران بدنامِ هزینه‌های زندگی قرار دارد که بخش عمده آن به دلیل کمبود مسکن در حدود ۱۰ میلیون واحد است سال گذشته، این کشور بیشتر از خانه‌های تک‌خانواری، برای ساخت زیرساخت‌های هوش مصنوعی هزینه کرد، ۱۰ برابر بیشتر از دومین سازنده بزرگ (آلمان) دیتاسنتر ساخت، بیش از ۲۰ برابر بیشتر از دومین سرمایه‌گذار بزرگ جهان (چین) در هوش مصنوعی سرمایه‌گذاری کرد و علاوه بر موارد دیگر، هوش مصنوعی یک شرط‌بندی بسیار بزرگ برای اقتصاد آمریکا بوده است.

در هوشیو بخوانید:
پنج جاده به‌سوی فردا: نقشه‌برداری از سرنوشت بشر در عصر هوش مصنوعی

اگرچه تصور داستانی که در آن این سرمایه‌گذاری به نتیجه می‌رسد کار چندان سختی نیست؛ اما دیدن نوعی تشابه با آن حکایت‌های آشنای هوش مصنوعی نیز دشوار نیست که در آن‌ها یک ابرهوش خداگونه تصمیم می‌گیرد تولید گیره کاغذ یا چیدن توت‌فرنگی را بر تمام تلاش‌های دیگر بشری ترجیح دهد.

در هوشیو بخوانید:
داده‌های ژنتیکی ارزشمند و بالقوه خطرناک هستند

بااین‌حال، این روزها بسیار کمتر درباره خطر وجودی کوتاه‌مدت می‌شنوید، حتی اگر این موضوع همچنان یکی از نگرانی‌های برجسته در میان برخی پژوهشگران باشد. تا همین اواخر، نیمی از افراد مورد بررسی می‌گفتند که حداقل ۱۰ درصد این خطر وجود دارد که هوش مصنوعی باعث انقراض بشر شود. دیگر به‌ندرت درباره خطر کمک هوش مصنوعی به تولید سلاح‌های بیولوژیکی چیزی می‌شنوید، اگرچه مدل‌های زبانی بزرگ اکنون در حال ارائه توصیه‌هایی برای طراحی ابرمیکروب‌ها (superbugs) هستند که مایه نگرانی شدید اپیدمیولوژیست‌ها است.

در هوشیو بخوانید:
آیا هوش مصنوعی می‌تواند یک همه‌گیری را مهندسی کند؟

ما از وحشتِ پیرامون محتوای هرز هوش مصنوعی (AI slop) و اطلاعات نادرست تولیدی (disinformation) عبور کرده‌ایم، اگرچه شبکه‌های اجتماعی هنوز به طور غیرقابل‌انکاری غرق در آن‌ها هستند، و بحث‌های ترازنامه‌ای درباره حباب هوش مصنوعی نیز فعلاً فروکش کرده است.

در هوشیو بخوانید:
تفاله‌های تولیدشده توسط هوش مصنوعی

درحالی‌که هنوز نگرانی گسترده‌ای در مورد بیکاری دسته‌جمعی وجود دارد، در حال حاضر داده‌های مربوط به ازدست‌دادن شغل کاملاً مبهم است و این روزها، اقتصاددانان تمایل دارند لحن‌های اطمینان‌بخش‌تری درباره احتمال اختلال گسترده در مشاغل به کار ببرند. این رویکرد توسط خود رهبران هوش مصنوعی تکرار می‌شود که اخیراً با چرخشی لفاظانه، خطر بیکاری انبوه را کم‌اهمیت جلوه داده‌اند.

این امر ممکن است شبیه به روابط‌عمومی سازمانی به نظر برسد؛ تلاشی برای فرونشاندن واکنش‌های پوپولیستی پس از سال‌ها هیجان‌زده کردنِ سرمایه‌گذاران. اما ازآنجایی‌که این اطلاع‌رسانی‌ها چهره‌های آشنای معدودی را نشان می‌دهد که اکنون در حال اطمینان‌دادن به ما درباره آینده کار و آینده جنگ هستند (چه رسد به آینده پزشکی، همراهی و کدنویسی)، گریز از این تصور دشوار است که همین افراد در حال حاضر اساساً مسئول همه چیز هستند. اخیراً در کنفرانسی که توسط بنیاد Palantir در ییل برگزار شد، «دین بال» (Dean Ball)، کارشناس سیاست‌گذاری که یکی از معماران سیاست اولیه هوش مصنوعیِ دولت ترامپ بود؛ پیش‌گویی هولناکی ارائه داد و هوش مصنوعی را به‌عنوان «این خمره اسید غول‌پیکر» توصیف کرد که نهادهای واسطه‌ای که اکثر آمریکایی‌ها به‌عنوان «جامعه» می‌شناسند را در خود حل خواهد کرد. بال پیش‌بینی کرد: «این هوش مصنوعی در دولت نخواهد بود. قرار است هوش مصنوعی به‌عنوان دولت‌ها عمل کند.» بررسی افراد در ۳۰ کشور در سال گذشته نشان داد که آمریکایی‌ها جزو مضطرب‌ترین افراد در مورد هوش مصنوعی بودند و اینکه هیچ‌کس کمتر از خود آمریکایی‌ها به دولت خود برای تنظیم‌گری هوش مصنوعی اعتماد نداشت.

اخیراً کاخ سفید سیگنال داد که ممکن است چرخش ناگهانی و چشمگیری در سیاست هوش مصنوعی ایجاد کند؛ دولتی که پیش‌ازاین متمایل به رویکردِ عدم مداخله در رشد صنعت بود، اکنون در حال طرح پیشنهادی برای اجباری کردنِ بررسی فدرال روی تمامی مدل‌های انحصاری جدید پیش از انتشار است و آمریکایی‌ها نیز هرجا که بتوانند خطوط قرمزی را ترسیم می‌کنند. بر اساس نظرسنجی Heatmap، در سپتامبر ۲۰۲۵ به نظر می‌رسید آمریکایی‌ها در مورد ساخت دیتاسنترهای جدید در جوامع خود دچار دوگانگی بودند، به‌طوری که احتمال حمایت رأی‌دهندگان از ساخت‌وسازهای جدید تنها ۲ امتیاز بیشتر از احتمال مخالفت آن‌ها بود. چهار ماه بعد، در فوریه ۲۰۲۶، احتمال مخالفت آن‌ها  ۲۴ امتیاز بیشتر شد که نشان‌دهنده یک نوسان به‌شدت بزرگ در افکار عمومی است.

شاید جای تعجب نباشد که بر اساس نظرسنجی جدید Quinnipiac، تنها گروه درآمدی که دیدگاه امیدوارکننده‌ای به این فناوری در زندگی روزمره خود داشتند، کسانی بودند که سالانه بیش از ۲۰۰ هزار دلار درآمد داشتند.

در چند سال گذشته، هوش مصنوعی شبیه به یک مسابقه سرسام‌آور بوده است. یا شاید، یک مسابقه پس از دیگر؛ مسابقه بین شرکت‌های پیشرو، بین آن شرکت‌ها و قانون‌گذاران و لابی‌گرها، بین نیروی انسانی و عامل‌های ماشینی که ممکن است جایگزین آن‌ها شوند، بین صنعت آمریکا و صنعت چین. همه آن‌ها به‌نوعی فرض می‌کنند که یک خط پایان خاص وجود دارد، نقطه‌ای که پس از آن پیشرفت با چنان سرعتی ادامه می‌یابد که هر مزیتی از سوی یک مدل، یک شرکت، یک کشور در طول زمان بسط خواهد یافت.

این نقطه پایانی «هوش جامع مصنوعی» (AGI) یا «ابر هوش مصنوعی» (ASI) نامیده شده است. بسیاری در این صنعت اکنون از یک مرحله میانی به نام «خودبهبودی بازگشتی» (recursive self-improvement) صحبت می‌کنند که در آن هوش مصنوعی شروع به بهبود مستقل کدهای منبع خود می‌کند. بسیاری از پژوهشگران هوش مصنوعی معتقدند که این مرحله در همین نزدیکی‌هاست؛ جک کلارک (Jack Clark) از آنتروپیک اخیراً پیش‌بینی کرد که فرایند خودبهبودی بازگشتیِ کاملاً مستقل ممکن است کمتر از ۲ سال دیگر فرابرسد. اما کمتر از ۲ سال پیش، سرمایه‌گذاران خطرپذیرِ منطقه Bay  سانفرانسیسکو با هیجان از یکدیگر می‌پرسیدند که آیا می‌توانند «رسیدن AGI را احساس کنند».

شاید ما هنوز در مسیر آن باشیم. در این میان، احتمالاً گفت‌وگوهای عمل‌گرایانه‌تری درباره مشکل دشواری که «اشاعه» (diffusion) نامیده می‌شود خواهید شنید: سرعت و شکلِ پذیرش عمومی درحالی‌که مدل‌های جدید در دنیای فراتر از آزمایشگاه پخش می‌شوند، کاربران و کاربردهایی پیدا می‌کنند، با گلوگاه‌های انسانی و موانع دنیای واقعی برخورد می‌کنند و برای عبور از آن‌ها یا دورزدن آن‌ها به استراتژی‌های جدید یا مدل‌های محدودتر آموزش‌دیده نیاز دارند.

این یک چشم‌انداز کاملاً متفاوت است که در آن هوش مصنوعی ممکن است همچنان به‌سرعت پیشرفت کند و حتی بخش بزرگی از زندگی ما را دگرگون کند؛ اما بدون اینکه تمام قدرت لزوماً در آزمایشگاه‌های پیشرو یا پنج فردی که مسئول آن‌ها هستند، انباشته شود. در این دیدگاه، دستاوردهای پیشرفتهِ مدل‌های کلاسِ جهانی در مقایسه با اینکه چه کسی از هوش مصنوعی و برای چه کاری استفاده می‌کند، اهمیت کمتری دارد.

در ماه آوریل، شرکت Anthropic با هیاهوی فراوان از انتشار یک مدل جدید به نام Mythos خودداری کرد که شرکت مدعی بود می‌تواند آسیب‌پذیری‌های امنیتی را در هر قطعه نرم‌افزارِ آزمایش‌شده پیدا کرده و از آن‌ها بهره‌برداری کند، از جمله آن‌هایی که در قطعات حیاتی زیرساخت جهانی IT استفاده می‌شوند.

در هوشیو بخوانید:
Mythos، مدل هوش مصنوعی جدید Anthropic چقدر می‌تواند خطرناک باشد؟

دقیقاً مشخص نیست که Mythos در این بنچمارک‌ها تا چه حد جلوتر بوده است، اما به نظر می‌رسد این همان چیزی است که دلیل چرخش ظاهری کاخ سفید بود است. بااین‌حال شش ماه دیگر، به‌ناچار یک نسخه منبع‌باز از Mythos وجود خواهد داشت که شاید به همان اندازه خوب نباشد؛ اما تولید آن بسیار ارزان‌تر خواهد بود و کاربران بسیار بیشتری در سراسر جهان به آن دسترسی خواهند داشت و قادر خواهند بود آن را برای اهداف خود شخصی‌سازی کنند.

در هوشیو بخوانید:
لحظه Mythos

شاید مدل‌های پیشرفته در رقابت‌هایی ازاین‌دست پیروز شوند و آزمایشگاه‌های پیشرو به‌اندازه کافی از استارتاپ‌های تازه‌کار جلو بمانند تا از خود محافظت کنند. اما اگر این یک مسابقه باشد، خط پایان مشخصی ندارد و واقعاً به نظر نمی‌رسد از نوع «برنده همه چیز را می‌برد» باشد. جفری دینگ (Jeffrey Ding)، دانشمند علوم سیاسی، آن را یک «ماراتن اشاعه» (diffusion marathon) می‌نامد.

در هوشیو بخوانید:
چرا Anthropic و OpenAI دسترسی به جدیدترین مدل‌های خود را محدود می‌کنند؟

این همان چیزی است که فعالان هوش مصنوعی وقتی گاهی هوش مصنوعی را یک «فناوری همه‌منظوره» (general-purpose technology) مانند موتورهای بخار، الکتریسیته یا در دوره اخیر، کامپیوتر و اینترنت توصیف می‌کنند، در ذهن دارند. برخی از مخترعان و کارآفرینانی که آن فناوری‌ها را توسعه داده و بهبود بخشیدند، ثروت‌های هنگفتی در زمان خود به دست آوردند، بخش بزرگی از دنیایی را که به ارث برده بودند دگرگون کردند و در نهایت، بخش عمده‌ای از دنیایی که ما در آن زندگی می‌کنیم را به ما دادند. اما هیچ‌یک از آن‌ها برای مدت طولانی کنترل مطلقی بر آن فناوری‌ها را حفظ نکردند، چه رسد به کنترل بر آینده درازمدتی که رقم زدند. ما هنوز نام «سرمایه‌داران راهزن» (Robber baron) را می‌دانیم و همچنان تا حدودی در سایه آن‌ها زندگی می‌کنیم؛ اما ما رعایای آن‌ها نیستیم.
آیا مطمئنیم که هوش مصنوعی متفاوت خواهد بود؟