Mythos رویکرد دولت ترامپ را تغییر داد

به نقل از نیویورک‌تایمز، بر اساس گفته مقامات آمریکایی و افرادی که در جریان این رایزنی‌ها قرار دارند، ترامپ که پیش‌تر از رویکردی آزاد و بدون دخالت دولت در حوزه هوش مصنوعی حمایت می‌کرد و به شرکت‌های سیلیکون‌ولی آزادی عمل گسترده‌ای برای توسعه و عرضه این فناوری داده بود، اکنون در حال بررسی امکان ایجاد سازوکار نظارتی دولتی برای مدل‌های جدید هوش مصنوعی است.

به گفته مقام‌های آمریکایی که به دلیل حساسیت موضوع نخواستند نامشان فاش شود، دولت ایالات متحده در حال بررسی صدور یک فرمان اجرایی برای تشکیل یک کارگروه هوش مصنوعی است؛ گروهی که مدیران ارشد شرکت‌های فناوری و مقام‌های دولتی را گرد هم می‌آورد تا درباره سازوکارهای احتمالی نظارت بحث کنند. یکی از گزینه‌های مطرح‌شده، ایجاد یک فرایند رسمی بازبینی دولتی برای مدل‌های جدید هوش مصنوعی است.

افرادی که از این گفتگوها مطلع هستند می‌گویند مقام‌های کاخ سفید هفته گذشته در جلساتی با مدیران شرکت‌های Anthropic ،Google و OpenAI بخشی از این برنامه‌ها را مطرح کرده‌اند.

به گفته مقام‌ها، این کارگروه احتمالاً چندین رویکرد نظارتی مختلف را بررسی خواهد کرد. اما یکی از مدل‌های مورد بررسی می‌تواند مشابه چارچوبی باشد که در بریتانیا در حال توسعه است؛ جایی که چندین نهاد دولتی مسئول اطمینان از انطباق مدل‌های هوش مصنوعی با استانداردهای ایمنی مشخص شده‌اند.

این گفتگوها نشانه یک تغییر قابل‌توجه در سیاست دولت ترامپ نسبت به هوش مصنوعی است. از زمان بازگشت ترامپ به کاخ سفید در سال گذشته، او یکی از اصلی‌ترین حامیان این فناوری بوده و بارها اعلام کرده که هوش مصنوعی برای پیروزی آمریکا در رقابت ژئوپلیتیکی با چین حیاتی است.

در میان اقدامات دیگر، ترامپ به‌سرعت بخشی از چارچوب نظارتی دولت بایدن را لغو کرد؛ چارچوبی که توسعه‌دهندگان هوش مصنوعی را ملزم می‌کرد ارزیابی‌های ایمنی انجام دهند و درباره مدل‌هایی که ممکن بود کاربرد نظامی داشته باشند، گزارش ارائه کنند.

ترامپ در رویدادی در ماه جولای درباره هوش مصنوعی گفته بود: «ما این صنعت را به بهترین صنعت جهان تبدیل خواهیم کرد، چون در حال حاضر مثل یک نوزاد زیباست که تازه متولد شده. باید این نوزاد را رشد دهیم و اجازه دهیم شکوفا شود. نمی‌توانیم جلوی آن را بگیریم. نمی‌توانیم با سیاست جلوی آن را بگیریم. نمی‌توانیم با مقررات احمقانه یا حتی قوانین بی‌منطق جلوی آن را بگیریم.»

ترامپ البته احتمال وجود برخی مقررات را کاملاً رد نکرد، اما افزود؛ «این مقررات باید حتی از خود فناوری هم هوشمندتر باشند.»

بااین‌حال، ترامپ به‌تدریج در موضوع هوش مصنوعی با فشارهای سیاسی بیشتری روبه‌رو شده است. هم‌زمان با افزایش نگرانی عمومی درباره تأثیر این فناوری بر اشتغال، قیمت انرژی، آموزش، حریم خصوصی و سلامت روان، دموکرات‌ها و جمهوری‌خواهان در این موضوع به نقاط مشترکی رسیده‌اند.

بر اساس نظرسنجی سال گذشته Pew Research Center، حدود ۵۰ درصد جمهوری‌خواهان و ۵۱ درصد دموکرات‌ها گفته‌اند که نسبت به گسترش استفاده از هوش مصنوعی در زندگی روزمره، بیشتر نگران هستند تا هیجان‌زده.

اما سیاست عدم مداخله دولت ماه گذشته وارد مرحله تازه‌ای شد؛ زمانی که استارتاپ Anthropic از مدل جدیدی به نام Mythos رونمایی کرد. Anthropic اعلام کرد که Mythos در شناسایی آسیب‌پذیری‌های امنیتی در نرم‌افزارها آن‌قدر قدرتمند است که می‌تواند یک «نقطه عطف جدی» در امنیت سایبری ایجاد کند. این شرکت به دلیل همین نگرانی‌ها تصمیم گرفت مدل را به‌صورت عمومی منتشر نکند.

در هوشیو بخوانید:
Mythos، مدل هوش مصنوعی جدید Anthropic چقدر می‌تواند خطرناک باشد؟

به گفته افراد حاضر در صنعت فناوری و دولت آمریکا، کاخ سفید نمی‌خواهد در صورت وقوع یک حمله سایبری ویرانگر مبتنی بر هوش مصنوعی، با پیامدهای سیاسی آن روبه‌رو شود. همچنین دولت در حال بررسی این موضوع است که آیا مدل‌های جدید هوش مصنوعی می‌توانند قابلیت‌های سایبری‌ای ایجاد کنند که برای پنتاگون و نهادهای اطلاعاتی آمریکا مفید باشند یا خیر.

افرادی که در جریان مذاکرات هستند می‌گویند برخی مقامات برای مقابله پیش‌دستانه با مدل‌هایی مانند Mythos، از ایجاد یک سیستم بازبینی حمایت می‌کنند که به دولت اجازه دهد پیش از عرضه عمومی، نخستین دسترسی به مدل‌های هوش مصنوعی را داشته باشد؛ البته بدون آنکه مانع انتشار آن‌ها شود.

این تغییر رویکرد باعث نوعی سردرگمی در صنعت فناوری شده است. به گفته منابع مطلع، هم‌زمان با ادامه مذاکرات میان کاخ سفید و شرکت‌های فناوری، برخی مدیران اجرایی هشدار داده‌اند که نظارت بیش از حد دولتی می‌تواند سرعت نوآوری آمریکا در رقابت با چین را کاهش دهد. درعین‌حال، خود شرکت‌ها نیز درباره اینکه آمریکا باید چگونه به سمت مقررات‌گذاری حرکت کند، اتفاق‌نظر ندارند.

«دین بال» که پیش‌تر مشاور ارشد هوش مصنوعی در دولت ترامپ بود و سال گذشته به Foundation for American Innovation پیوست، می‌گوید: «فناوری با سرعت بسیار زیادی در حال حرکت است و هنوز فرایندهای رسمی محدودی وجود دارد، اما درعین‌حال آن‌ها هم نمی‌خواهند بیش از حد مقررات وضع کنند. این یک تعادل بسیار پیچیده است.» یکی از مقام‌های کاخ سفید در واکنش به گزارش‌ها گفت که بحث درباره هرگونه فرمان اجرایی در این زمینه «صرفاً گمانه‌زنی» است و ترامپ شخصاً هرگونه تصمیم سیاستی را اعلام خواهد کرد.

تغییر سیاست هوش مصنوعی هم‌زمان با تغییرات مدیریتی در کاخ سفید رخ داده است. در ماه مارس، «دیوید ساکس» مسئول سیاست‌گذاری هوش مصنوعی در کاخ سفید که نقش مهمی در سیاست مقررات‌زدایی دولت داشت، اعلام کرد از سمت خود کنار می‌رود. بر اساس گفته برخی منابع، اکنون «سوزی وایلز»، رئیس‌دفتر کاخ سفید و اسکات بسنت، «وزیر خزانه‌داری آمریکا» بخشی از مسئولیت‌های ساکس را بر عهده گرفته‌اند. آن‌ها به افراد خارج از دولت گفته‌اند که قصد دارند نقش پررنگ‌تری در شکل‌دهی به سیاست‌های هوش مصنوعی ایفا کنند.

اما برنامه‌های آن‌ها با یک اختلاف شدید میان پنتاگون و Anthropic پیچیده شده است. در سال جاری، این استارتاپ و وزارت دفاع آمریکا بر سر یک قرارداد ۲۰۰ میلیون‌دلاری و نحوه استفاده ارتش از هوش مصنوعی در جنگ دچار اختلاف شدند. پس از آنکه دو طرف نتوانستند بر سر شرایط قرارداد به توافق برسند، پنتاگون در ماه مارس استفاده دولت از فناوری Anthropic را متوقف کرد. Anthropic از آن زمان علیه دولت آمریکا شکایت کرده است. به گفته مقام‌های نظامی، اطلاعاتی و دیگر مقام‌های آمریکایی، این اختلاف برای برخی نهادهای دولتی که به فناوری Anthropic وابسته شده بودند، مشکلاتی ایجاد کرده است.

در هوشیو بخوانید:
پنتاگون رسماً Anthropic را به‌عنوان ریسک زنجیره تأمین ایالات متحده معرفی کرد

بااین‌حال، هوش مصنوعی Anthropic همچنان در یک سامانه نظامی به نام Maven مورداستفاده قرار می‌گیرد؛ سیستمی که به تحلیل داده‌های اطلاعاتی کمک می‌کند و اهداف احتمالی برای حملات هوایی در جنگ ایران را پیشنهاد می‌دهد. همچنین، افرادی که از این موضوع اطلاع دارند می‌گویند آژانس امنیت ملی آمریکا (NSA) اخیراً از مدل Mythos شرکت Anthropic برای ارزیابی آسیب‌پذیری‌های نرم‌افزاری در سامانه‌های دولت آمریکا استفاده کرده است. ماه گذشته میلادی، سوزی وایلز و اسکات بسنت در کاخ سفید جلسه‌ای با داریو آمودی، مدیرعامل Anthropic، برگزار کردند؛ جلسه‌ای که تمرکز اصلی آن بازگرداندن فناوری این شرکت به چرخه استفاده دولتی بود. هر دو طرف پس از این نشست، آن را «سازنده» توصیف کردند.

مقام‌ها می‌گویند اگر دولت در نهایت تصمیم به اجرای فرایند ارزیابی مدل‌های هوش مصنوعی بگیرد، این کارگروه مشخص خواهد کرد کدام نهادها باید مسئول این فرایند باشند. ازآنجایی‌که در آمریکا هیچ نهاد فدرالی مسئول کامل امنیت سایبری دولت نیست، برخی مقام‌ها معتقدند بهترین راه این است که NSA، دفتر مدیر ملی امنیت سایبری کاخ سفید و مدیر اطلاعات ملی آمریکا مسئولیت بازبینی مدل‌ها را بر عهده بگیرند.

این کارگروه همچنین ممکن است بررسی کند که آیا مرکز استانداردها و نوآوری هوش مصنوعی نیز می‌تواند در این فرایند نقشی داشته باشد یا خیر. این مرکز در دوران بایدن برای ارزیابی مدل‌هایی ایجاد شد که شرکت‌ها به‌صورت داوطلبانه در اختیار دولت قرار می‌دادند. اما به گفته افراد حاضر در صنعت، در دوران ترامپ این نهاد عملاً به حاشیه رانده شده است؛ باوجوداینکه کاخ سفید در یک سند سیاست‌گذاری هوش مصنوعی اعلام کرده بود این مرکز باید در ارزیابی «عملکرد و قابلیت اطمینان سامانه‌های هوش مصنوعی» نقش داشته باشد.

اجرای هر یک از این اقدامات، فاصله قابل‌توجهی با دیدگاهی خواهد داشت که جی.دی ونس، معاون رئیس‌جمهور آمریکا، سال گذشته در یک نشست بین‌المللی هوش مصنوعی در پاریس مطرح کرده بود. او در آن زمان به مدیران صنعت و مقام‌های دولتی هشدار داده بود: »مقررات‌گذاری بیش از حد در بخش هوش مصنوعی می‌تواند یک صنعت تحول‌آفرین را درست در لحظه اوج‌گیری از بین ببرد. آینده هوش مصنوعی با نگرانی دائمی درباره ایمنی به دست نخواهد آمد. آینده با ساختن به دست می‌آید.»