هوش مصنوعی و پیشگامان غرب وحشی

سیم‌خاردار برای «آلن گرینسپن» فقید که همیشه شهرنشین بود، جذابیت عجیبی داشت. رئیس پیشین فدرال رزرو آمریکا از راه‌آهن‌ها، جویندگان طلا و «کابوی‌های تنها» که در سپیده‌دم سرمایه‌داری آمریکا به گشودن مرزهای سرزمین‌های جدید کمک کردند، تمجید می‌کرد. اما سیم‌خاردار نیز جایگاه ویژه‌ای در قلب اقتصاددانانه او داشت؛ چراکه به باورش، با امکان حفاظت از املاک، بهره‌وری مهاجرانی را که پس از آن‌ها به این سرزمین‌ها می‌آمدند افزایش می‌داد.

هوش مصنوعی نیز مانند غرب وحشی، پیشگامان خود را دارد. در آمریکا، تعداد این پیشگامان روبه‌کاهش است. آنتروپیک و OpenAI همچنان مصمم‌اند مرزهای هوش مصنوعی را گسترش دهند. دیگر غول‌های فناوری، از جمله گوگل که زمانی یکی از پیشگامان این عرصه بود اما اکنون با سرعت زیادی در حال ازدست‌دادن دانشمندان فعال در حوزه هوش مصنوعی مرزی است، مردد هستند. به نظر می‌رسد شرکت‌های بزرگ ارائه‌دهنده زیرساخت ابری، فروش زیرساخت هوش مصنوعی به مشتریان ابری خود را سودآورتر از صرف هزینه‌های سنگین محاسباتی برای پیشبرد مدل‌های خود می‌دانند.

عامل‌های هوش مصنوعی؛ مهاجران جدید سرزمین دیجیتال

آنچه هوش مصنوعی فاقد آن است، تعداد کافی «مهاجران» است؛ یعنی افراد و کسب‌وکارهایی که از محصولاتی مانند عامل‌های هوش مصنوعی به طور کامل استفاده کنند و به‌این‌ترتیب، توجیهی برای حجم عظیم سرمایه‌گذاری‌هایی که به‌سوی هوش مصنوعی مرزی سرازیر شده است، فراهم آورند. بخشی از دلیل دلسردی آن‌ها این است که زندگی در مرزهای پیشروی هوش مصنوعی، درست مانند غرب وحشی، بی‌محابا و پرخطر است. همان‌طور که مجموعه‌ای از رخدادهای اخیر «ازدست‌رفتن کنترل» توسط پیشرفته‌ترین مدل‌های آنتروپیک و OpenAI نشان می‌دهد، عامل‌هایی که قرار است از جانب انسان‌ها و در راستای ارزش‌های آن‌ها عمل کنند، در صورت لزوم دروغ می‌گویند، تقلب می‌کنند و دزدی می‌کنند. آن‌ها از محبوس بودن رها می‌شوند و برای آسیب‌رساندن به انسان‌ها، گروه‌های مخربی تشکیل می‌دهند. اگر می‌توانستند، می‌نوشیدند دعوا می‌کردند.

این میزان از غیرقابل‌پیش‌بینی‌بودن برای بسیاری از شرکت‌ها بیش از حد است. «جرد ساین» از شرکت اینترنتی GoDaddy که تلاش می‌کند به برقراری نظم در این آشوب کمک کند، می‌گوید: «کافی است فقط یک بار مار شما را نیش بزند؛ دیگر هرگز به سراغش نمی‌روید.» نیاز به قانون و نظم، به ظهور نسل جدیدی از شرکت‌های زیرساخت هوش مصنوعی منجر شده است. آن‌ها تراشه یا توان محاسباتی نمی‌فروشند؛ یعنی همان ابزارهای معمولی که در تب طلا در هوش مصنوعی حکم بیل و کلنگ را دارند. این شرکت‌ها در برابر تهدیدهای سایبری محافظت ایجاد می‌کنند، مشکلات ناشی از عامل‌های غیرقابل‌اعتماد و غیرقابل‌تفسیر را برطرف می‌کنند و در صورت سرکششان عامل‌ها، سازوکارهای کنترلی در اختیار سازمان‌ها می‌گذارند. به بیان دیگر، کسب‌وکار آن‌ها «سیم‌خاردار» است.

امنیت سایبری؛ بزرگ‌ترین میدان نبرد عامل‌های هوش مصنوعی

مشهورترین خطر و درعین‌حال فرصت، امنیت سایبری است. آزمایش‌های اخیر درباره توانایی مدل‌های آنتروپیک و OpenAI در هک‌کردن، نشان داد که عامل‌ها از کنترل خارج می‌شوند، اطلاعات احراز هویت را می‌دزدند، هویت‌های جعلی ایجاد می‌کنند، اتاق‌های گفت‌وگوی مخفی راه‌اندازی می‌کنند و ردپای خود را می‌پوشانند؛ همه این‌ها باعث شوک و وحشت ارزیابان انسانی آن‌ها شده است. مدل‌های امنیتی پیشرفته، مانند Mythos 5 و GPT 5.6-Cyber بدون تردید به مدافعان نیز کمک خواهند کرد. اما به گفته «داون سونگ»، متخصص هوش مصنوعی و امنیت سایبری در دانشگاه کالیفرنیا، در حال حاضر توازن قدرت به طور قاطع به نفع مهاجمان است. او می‌گوید مشکل دیگری نیز وجود دارد؛ اگر سازمان‌ها عامل‌های خودمختار را به کار بگیرند، «سطح حمله» بالقوه در دسترس هکرها افزایش می‌یابد.

رونق شرکت‌های امنیت سایبری مجهز به هوش مصنوعی

افزایش این ریسک‌ها تا حدی توضیح می‌دهد که چرا ارزش‌گذاری شرکت‌های امنیت سایبری مجهز به هوش مصنوعی با سرعت زیادی در حال افزایش است. قیمت سهام Palo Alto Networks و CrowdStrike، دو شرکت بزرگ این حوزه از ابتدای امسال تقریباً دو برابر شده است. فعالیت‌های ادغام و تملک (M&A) نیز به‌شدت افزایش یافته است. با پیشتازی خرید ۳۲ میلیارددلاری شرکت امنیت سایبری Wiz توسط آلفابت، بیش از ۷۰ میلیارد دلار معامله بزرگ مرتبط با امنیت سایبری طی یک سال گذشته نهایی شده است. Pitchbook که گردآورنده داده‌های مالی است می‌گوید امنیت سایبری مرتبط با هوش مصنوعی همچنین یکی از داغ‌ترین حوزه‌های سرمایه‌گذاری خطرپذیر (VC) است.

عامل‌های هوش مصنوعی و مشکل خطاهای غیرقابل‌پیش‌بینی

فرصت‌ها به امنیت سایبری محدود نمی‌شوند. در کنفرانسی درباره هوش مصنوعی عامل‌محور که به ابتکار سونگ برگزار شد، ستون‌نویس حاضر در این نشست فهرست بلندی از شکایت‌ها شنید؛ شکایت‌هایی که نه‌تنها درباره ظرفیت مدل‌های زبانی بزرگ برای هک‌کردن در اوج توانایی‌هایشان بود، بلکه درباره خطاهایی نیز مطرح می‌شد که همین مدل‌ها در هنگام ناآگاهی و ناتوانی مرتکب می‌شوند. یکی از کارشناسان نموداری را نشان داد که توسط یک عامل تولید شده بود و درآمد برترین تنیس‌بازان اروپا را اندازه‌گیری می‌کرد. این نمودار به‌اشتباه «کارلوس آلکاراز» اسپانیایی، مرد شماره دو جهان، را از قلم انداخته بود. او با شوخی گفت: «این که تنیس است، چه اهمیتی دارد؟» اما اگر موضوع، تحلیل مالی یک شرکت بود، این خطا اهمیت داشت. کارشناس دیگری نیز میان میزان دانشی که مدل‌های زبانی بزرگ درباره فیزیک کوانتومی دارند و ناتوانی آن‌ها در سفارش‌دادن یک وعده‌غذا، مقایسه‌ای انجام داد.

«لایه اعتماد» برای هوش مصنوعی عامل‌محور

این ضعف‌ها به ظهور گروه دیگری در میان شرکت‌هایی منجر شده که توجه سرمایه‌گذاران خطرپذیر را به خود جلب کرده‌اند: شرکت‌هایی که وعده می‌دهند «لایه اعتماد» (trust layer) هوش مصنوعی عامل‌محور را تقویت کنند. یکی از آن‌ها Cyera است که ارزش‌گذاری آن طی ۱۸ ماه چهار برابر شده و به ۱۲ میلیارد دلار رسیده است. این شرکت می‌گوید فقدان اعتماد، در دوره اخیر پذیرش هوش مصنوعی را «متوقف کرده» و خدماتی برای جلوگیری از نشت داده‌ها و استفاده غیرمجاز از ابزارها ارائه می‌دهد. شرکت دیگر Scaled Cognition است که «دن کلاین»، استاد دانشگاه برکلی یکی از بنیان‌گذاران آن است و اخیراً ۱۰۰ میلیون دلار سرمایه خطرپذیر جذب کرده است. این شرکت وعده می‌دهد آنچه کلاین «خطاهای نامرئی» هوش مصنوعی می‌نامد؛ یعنی خطاهایی که آن‌قدر باورپذیرند که شناسایی نمی‌شوند و با انجام وظایف طولانی‌تر توسط عامل‌ها روی یکدیگر انباشته می‌شوند را کاهش دهد. این کار از طریق گنجاندن قابلیت اطمینان تضمین‌شده در فرایند آموزش مدل‌های آن انجام می‌شود. برخی استارتاپ‌های دیگر نیز در ایجاد ارزیابی‌هایی برای سنجش اثربخشی عامل‌ها، ایجاد هویت برای عامل‌ها به‌منظور تعیین مسئولیت حقوقی در صورت سرکششان آن‌ها و توسعه سامانه‌های کنترلی مجهز به کلید خاموش اضطراری تخصص دارند.

رقابت بی‌رحمانه در مرزهای هوش مصنوعی

هوش مصنوعی در مرزهای پیشروی خود مشکلات دیگری نیز دارد. این عرصه، درست مانند غرب وحشی، بی‌رحمانه رقابتی است. مدل‌های متن‌بازِ دارای وزن‌های باز ارزان‌تر چینی نیز رقیب هستند. در ۱۰ اوت، «مارک زاکربرگ» از شرکت متا نیز وارد میدان شد و نسخه‌ای با وزن‌های باز از قدرتمندترین مدل این شرکت را با نام Muse Glimmer عرضه کرد.

قانون و نظم در مرزهای بی‌قانون هوش مصنوعی

این مرز همچنین بی‌قانون است. نگرانی‌ها درباره عامل‌های سرکش آن‌قدر جدی شده که حتی مدیران آزمایشگاه‌های پیشرو هوش مصنوعی نیز از دولت ترامپ می‌خواهند نقش کلانتر را ایفا کند؛ هرچند به شکلی عجیب، دولت همچنان جدیدترین چارچوب خود برای ایمنی هوش مصنوعی را پنهان نگه داشته است. بااین‌حال، یک موضوع روشن است؛ پیش از آنکه سازمان‌ها بتوانند با اطمینانی نزدیک به کامل، عامل‌ها را به کار بگیرند، به سازوکارهای نظارت و موازنه بیشتری نیاز است. یکی از واژه‌های پرکاربرد امسال در حوزه هوش مصنوعی، «مهار» یا «هارنس» (harness) است؛ سامانه‌ای که پیرامون یک مدل زبانی بزرگ قرار می‌گیرد تا عامل‌ها را در مسیر درست نگه دارد و مانع انحراف آن‌ها شود. شاید بتوان همان را «سیم‌خاردار» نامید.

گزارش حاضر در نسخه August 15th 2026 نشریه The Economist منتشر شده است.