جنگ نه؛ شاید Mythos مهم‌ترین هشدار ژئوپلیتیک عصر ماست

به نقل از Atlantic Council ما اکنون در حال تجربه تحولی با ابعادی مشابه انقلاب صنعتی دوم در اواخر قرن نوزدهم و اوایل قرن بیستم هستیم. اما انقلاب هوش مصنوعی با سرعت بسیار بیشتر در حال پیشروی است و زمان بسیار کمتری برای سازگاری در اختیار رهبران جهانی قرار می‌دهد؛ ازاین‌رو، علی‌رغم چشم‌اندازهای بسیار امیدوارکننده هوش مصنوعی، خطرات آن نیز به‌مراتب بزرگ‌تر است.

انقلاب صنعتی مسیر تاریخ را از نو پیکربندی کرد. این انقلاب قدرت را از کشاورزی به صنعت، از اشرافِ زمین‌دار به غول‌های تولیدی و از امپراتوری‌ها به دولت-ملت‌هایی که قادر به تولید، بسیج منابع و نوآوری در مقیاس کلان بودند، منتقل کرد. از دل این تحولات عظیم، سرمایه‌داری و کمونیسم، سیاست توده‌ای، جنگ‌های تمام‌عیار و در نهایت فجایع دو جنگ جهانی ظهور یافتند.

اما ژئوپلیتیک انقلاب هوش مصنوعی چگونه به نظر می‌رسد؟ رقابت قرن بیستم بر سر انرژی، مواد اولیه و توانمندی‌های هسته‌ای، باتوجه‌به اشتهای سیری‌ناپذیر مراکز داده برای مصرف برق، تشدید خواهد شد. اما این امر با رقابت بر سر توان محاسباتی، تسلط بر داده‌ها و برتری الگوریتمی همراه خواهد بود. ملت‌های پیشرو در عرصه هوش مصنوعی، نه‌تنها از منظر اقتصادی رشد سریع‌تری خواهند داشت، بلکه شیوه حکمرانی، شیوه نبرد و اعمال نفوذ آن‌ها نیز به‌گونه‌ای خواهد بود که پیش‌بینی آن دشوار است.

در همین بستر است که باید در ظهور اخیر Mythos، سیستم پیشگام هوش مصنوعی Anthropic تأمل کرد؛ سیستمی که قابلیت‌های آن به‌قدری قدرتمند و به طور بالقوه دگرگون‌کننده است که سازندگانش در حال حاضر دسترسی به آن را محدود کرده‌اند. بر اساس گزارش‌ها، این سیستم می‌تواند به‌صورت خودکار آسیب‌پذیری‌های نرم‌افزاری ناشناخته پیشین را در سیستم‌هایی که زیربنای عملکردها و عملیات اساسی در حوزه مالی، ارتباطات و زیرساخت‌های حیاتی هستند، شناسایی کرده و از آن‌ها بهره‌برداری کند. این بدان معناست که بانک‌ها، خدمات اینترنتی و حتی سیستم‌های تصفیه آب همگی آسیب‌پذیرتر می‌شوند.

در هوشیو بخوانید:
Mythos، مدل هوش مصنوعی جدید Anthropic چقدر می‌تواند خطرناک باشد؟

طی نشست‌های بهاره صندوق بین‌المللی پول و بانک جهانی در شورای آتلانتیک، رهبران مالی جهانی و رؤسای بانک‌های مرکزی در گفتگوهای خصوصی خود، به همان میزانی که از رشد کند اقتصادی، قیمت انرژی و سطوح بدهی بین‌المللی ابراز نگرانی می‌کردند، دغدغه‌های خود پیرامون Mythos را نیز مطرح کردند.

Mythos دورنمایی از جهان آینده را ارائه می‌دهد که در آن، توازن آفند و پدافند در فضای سایبری، میدان‌های نبرد نظامی و فراتر از آن به‌شدت به نفع کسانی می‌شود که بتوانند زودتر از سایرین قابلیت‌های هوش مصنوعی را مهار کرده و از آن‌ها بهره‌برداری کنند.

به همین دلیل است که به اعتقاد شورای آتلانتیک، Mythos مهم‌ترین سیگنال هشداردهنده ژئوپلیتیک در مقطع کنونی است ندارند. جنگ‌هایی نظیر جنگ ایران و آمریکا مرگبار، خطرناک و حائز اهمیت هستند؛ اما درعین‌حال آشنا و شناخته‌شده‌اند. تحلیل‌گران می‌توانند پویایی‌های آن‌ها را تحلیل کنند، مؤلفه‌های بازدارندگی را محاسبه کنند و از این طریق، با اتکا به یک دستورالعمل شناخته‌شده، عوامل تشدیدکننده آن را محدود کرده و از محاسبات اشتباه جلوگیری کنند.

حتی برای یک‌لحظه هم به کسانی که می‌خواهند به شما اطمینان دهند که ما برای جهان جدیدی از چالش‌های ناشی از هوش مصنوعی آماده هستیم، اعتماد نکنید. پرونده قضایی جاری میان کارآفرینان حوزه فناوری، ایلان ماسک و سم آلتمن، در اوکلند مؤید این واقعیت است که چگونه رقابت‌های خُرد میان غول‌های صنعت هوش مصنوعی، توانایی برای یافتن نوعی هدف مشترک را پنهان می‌کند. بی‌اعتمادی به هوش مصنوعی در میان آمریکایی‌ها روبه‌افزایش است و نظرسنجی گالوپ نشان می‌دهد که تقریباً نیمی از نیروی کار نسل زد بر این باورند که خطرات هوش مصنوعی در محیط کار بر مزایای آن می‌چربد. حکومت‌های اقتدارگرا و به‌ویژه چین، با افکار عمومی چالش کمتری خواهند داشت و به‌سرعت در حال حرکت برای استفاده اهرمی از هوش مصنوعی به‌منظور کسب مزیت استراتژیک در برابر ایالات متحده و همچنین نظارت و کنترل بر مردم خود هستند. درحالی‌که شرکت‌های آمریکایی فعال در حوزه هوش مصنوعی ممکن است در زمینه مدل‌های زبانی بزرگ برتری تجاری داشته باشند، اما چین در زمینه کاربرد هوش مصنوعی در رباتیک و تولید و به طور بالقوه در جنگ‌افزارها در حال پیشروی است.

چشم‌اندازهای این فناوری به همان اندازه خطرات آن، حیرت‌انگیز است. آنچه این مقطع زمانی را متمایز می‌سازد، وسعت پیامدهای مثبت و منفی احتمالی و این واقعیت است که هر دو می‌توانند به طور هم‌زمان به وقوع بپیوندند. هوش مصنوعی در حال حاضر شتاب‌دهنده دستاوردهایی از جمله تشخیص زودهنگام و درمان شخصی‌سازی‌شده‌تر سرطان، مسیرهای جدید برای کند کردن و درمان آلزایمر، طراحی داروهای نجات‌بخش در عرض چند ماه به‌جای چند سال و بهینه‌سازی همه چیز از شبکه‌های انرژی گرفته تا تولید مواد غذایی شده است. این فناوری می‌تواند خلاقیت را به روش‌هایی گسترش دهد که ما تازه در ابتدای مسیر تصور آن‌ها هستیم و قفل دستاوردهای بهره‌ورانه‌ای را بگشاید که استانداردهای زندگی را در سطح جهانی ارتقا می‌بخشد.

درعین‌حال، هوش مصنوعی خطراتی را نیز به همراه دارد؛ مانند سلاح‌های زیستی، فرسایش حقیقت در میان رسانه‌های ترکیبی/مصنوعی (Synthetic Media)، تمرکز قدرت در دستان معدود کشورها یا شرکت‌ها و جابه‌جایی شغلی و بیکاری با سرعتی که فراتر از توانایی ما برای سازگاری با آن است.

نقطه عطف اینجاست: آیا ایالات متحده و شرکای آن با هوش مصنوعی به‌عنوان یک رقابت می‌نگرند که باید به هر قیمتی در آن پیروز شد یا به‌عنوان یک نیروی تحول‌آفرین که نیازمند قوانین و سازوکارهای محافظتی جدید، اشکال نوینی از همکاری‌های بین‌المللی و حتی نهادهای جدید است؟

تاریخ، هشدار می‌دهد. انقلاب صنعتی ثروت و نوآوری خارق‌العاده‌ای به همراه داشت، اما درعین‌حال افراط‌گرایی ایدئولوژیک و درگیری‌هایی را در مقیاسی که جهان هرگز به خود ندیده بود پدید آورد؛ مانند اردوگاه‌های مرگ صنعتی هیتلر و حملات پایان‌دهنده جنگ به هیروشیما و ناکازاکی.

دهه‌ها زمان و دو جنگ جهانی به طول انجامید تا نظم بین‌المللی باثباتی شامل تأسیس سازمان ملل متحد، ناتو و سایر سازمان‌ها پایه‌گذاری شوند و عصر هوش مصنوعی ممکن است چنین زمان درازی را در اختیار ما قرار ندهد. سیستم جهانی کنونیِ متشکل از قوانین و نهادها، در حال حاضر تحت‌فشار بی‌اعتمادی، چندپارگی و اکنون جنگ قرار دارد. این سیستم فاقد سازوکارهای لازم برای مدیریت یک چالش فناورانه با چنین گستره تاریخی است. چنانچه با غرایز تعاملیِ بده‌بستان‌مانند با این مقطع تحول‌آفرین روبرو شویم، خطر تکرار فصول تاریک قرن بیستم را به جان خریده‌ایم؛ این بار اما با سرعت عصر دیجیتال.