مخالف مدل‌های متن‌باز نیستیم؛ اما نگران هوش مصنوعی چینی هستیم

در واکنش به این موضوع، تعدادی از شرکت‌های فناوری با امضای نامه‌ای از مدل‌های با وزن‌های باز حمایت کرده‌اند و برخی نیز آنتروپیک را متهم کرده‌اند که برای محافظت از منافع تجاری خود به دنبال ممنوعیت این مدل‌ها است.

مدل به‌عنوان کالای عمومی

داریو آمودی، مدیرعامل آنتروپیک، در یادداشتی در بلاگ آنترویپک تأکید می‌کند که این برداشت نادرست است. او می‌گوید آنتروپیک هرگز خواستار ممنوعیت مدل‌های با وزن‌های باز نبوده است و چنین محدودیت‌هایی را راهکاری مؤثر برای مقابله با نگرانی‌های اصلی امنیت ملی نمی‌داند.

ائتلاف غول‌های فناوری برای دفاع از مدل‌های وزن‌باز هوش مصنوعی در برابر دولت امریکا

به گفته آمودی، مدل‌های با وزن‌های باز که قابلیت‌های بالقوه خطرناک ندارند، یک کالای عمومی محسوب می‌شوند. این مدل‌ها هزینه‌ای فراتر از توان محاسباتی موردنیاز برای اجرای آن‌ها ندارند و می‌توانند برای کسب‌وکارها، توسعه‌دهندگان و پژوهشگران ارزش قابل‌توجهی ایجاد کنند.

او معتقد است ممنوعیت‌های مبتنی بر حمایت‌گرایی اقتصادی، مسئله اصلی را حل نمی‌کنند. نگرانی‌های امنیتی او بر دو سناریوی عمده متمرکز است.

نگرانی نخست: پیشی‌گرفتن دولت‌های اقتدارگرا در توسعه هوش مصنوعی

نخستین نگرانی آمودی این است که دولت‌های اقتدارگرا، بتوانند مدل‌های هوش مصنوعی قدرتمندتری نسبت به ایالات متحده توسعه دهند و از آن‌ها برای دستیابی به برتری نظامی دائمی یا اعمال سرکوب گسترده علیه شهروندان خود استفاده کنند.

او تأکید می‌کند که این نگرانی صرفاً مربوط به حزب کمونیست چین نیست، اما این حزب را توانمندترین تهدید در این زمینه می‌داند. از نگاه او، مسئله اصلی این نیست که مدل‌ها با وزن‌های باز منتشر می‌شوند یا نه؛ یا اینکه آیا شرکت‌های آمریکایی از آن‌ها استفاده می‌کنند یا خیر. به اعتقاد او، خطرناک‌ترین مدل ممکن است مدلی باشد که به‌صورت مخفیانه توسعه یافته و تنها در اختیار ارتش آزادی‌بخش خلق چین برای استفاده در پهپادها یا در اختیار وزارت امنیت دولتی چین برای نظارت و سرکوب قرار گیرد.

آمودی اشاره می‌کند که این نگرانی در میان بخش‌هایی از دولت آمریکا نیز مطرح شده است. به گفته او، ارزیابی‌های امنیتی آمریکا هشدار داده‌اند که پیشرفت سریع سایر قدرت‌های جهانی در حوزه هوش مصنوعی می‌تواند مزیت‌های اقتصادی و امنیتی ایالات متحده را به چالش بکشد.

نگرانی دوم: سوءاستفاده از مدل‌های قدرتمند برای حملات سایبری و زیستی

دومین نگرانی آمودی مربوط به‌احتمال سوءاستفاده از مدل‌های هوش مصنوعی قدرتمند برای حملات سایبری، حملات زیستی و همچنین مشکلات جدی در هم‌راستاسازی رفتار مدل‌ها با اهداف انسانی است. او می‌پذیرد که مدل‌های با وزن‌های باز، فارغ از اینکه منشأ آن‌ها چین باشد یا هر کشور دیگری، ممکن است نسبت به مدل‌های بسته خطر بیشتری داشته باشند. دلیل این موضوع آن است که اعمال محدودیت‌های ایمنی، کنترل استفاده و نظارت بر این مدل‌ها دشوارتر است و پس از انتشار وزن‌های مدل، امکان بازگرداندن آن‌ها وجود ندارد.

بااین‌حال، آمودی معتقد است ممنوع کردن استفاده شرکت‌های آمریکایی از این مدل‌ها، این مشکل را حل نمی‌کند؛ زیرا بازیگران مخرب معمولاً شرکت‌های قانونی آمریکایی نیستند. چنین اقدامی بیشتر باعث کاهش رقابت و حمایت از شرکت‌های هوش مصنوعی آمریکایی خواهد شد؛ موضوعی که به گفته او هدف آنتروپیک نیست.

راهکارهای پیشنهادی آنتروپیک

آمودی می‌گوید آنتروپیک به‌جای ممنوعیت کلی مدل‌های با وزن‌های باز، بر سه اقدام مشخص تأکید دارد.

جلوگیری از دسترسی چین به تراشه‌های پیشرفته هوش مصنوعی

به گفته او، ایالات متحده نباید تراشه‌های قدرتمند یا تجهیزات ساخت تراشه را به چین بفروشد و می‌بایست با قاچاق گسترده و روش‌های دورزدن محدودیت‌ها مقابله کند. او استدلال می‌کند که ظرفیت تولید داخلی چین محدود است و بر اساس قوانین مقیاس‌پذیری، این کشور بدون دسترسی به تراشه‌های آمریکایی نمی‌تواند مدل‌هایی قدرتمندتر از مدل‌های توسعه‌یافته در آمریکا بسازد. از دیدگاه آمودی، کنترل صادرات تراشه‌ها مستقیم‌ترین و کارآمدترین راه برای مقابله با تهدید نخست است و با محدودکردن آموزش مدل‌هایی که خارج از چارچوب قوانین آمریکا توسعه می‌یابند، به طور غیرمستقیم تهدید دوم را نیز کاهش می‌دهد.

 مقابله با عملیات تقطیر صنعتی مدل‌ها

دومین اقدام پیشنهادی، مقابله با عملیات گسترده تقطیر مدل‌ها است. تقطیر فرایندی است که در آن می‌توان با هزینه محاسباتی کمتر، از یک مدل قدرتمند برای ساخت مدل‌های جدید استفاده کرد. آمودی توضیح می‌دهد که این روش به چین اجازه می‌دهد مدل‌هایی بسیار بهتر از سطحی که تعداد تراشه‌های در اختیارش معمولاً امکان می‌دهد، توسعه دهد و تا حدی محدودیت‌های ناشی از تحریم تراشه‌ها را دور بزند. او تأکید می‌کند که مسئله اصلی در این زمینه، صرفاً انتشار مدل‌های با وزن‌های باز نیست، بلکه این واقعیت است که برخی از این عملیات‌ها توسط یک دولت اقتدارگرا با هدف پیشی‌گرفتن از آمریکا در مرز فناوری پشتیبانی می‌شوند. به گفته او، باید برای جلوگیری از این رفتارها سیاست‌های هدفمند ایجاد شود، اما ممنوعیت عمومی مدل‌های با وزن‌های باز نه راهکار مناسبی است و نه اقدامی که آنتروپیک از آن حمایت کرده است.

الزام آزمایش ایمنی برای مدل‌های قدرتمند

سومین اقدام پیشنهادی آنتروپیک و آمودی این است که تمامی مدل‌های دارای قابلیت‌های کافی، چه باز و چه بسته، پیش از انتشار تحت آزمایش‌های ایمنی اجباری قرار گیرند. آمودی معتقد است بهترین راه برای مقابله با خطرات سایبری، زیستی و مشکلات هم‌راستایی، آزمایش مستقیم مدل‌ها پیش از انتشار است. او می‌گوید این رویکرد در حال تبدیل‌شدن به یک دیدگاه مشترک در صنعت و دولت است. از نظر او، اینکه آیا مدل‌های باز واقعاً خطر بیشتری ایجاد می‌کنند یا می‌توان این خطر را کاهش داد، باید از طریق آزمایش‌های دقیق مشخص شود، نه با پیش‌فرض‌های قبلی.

او همچنین اشاره می‌کند که پژوهش‌های جدید، از جمله تحقیقات آنتروپیک درباره راهبردهای آموزش ماژولار، می‌توانند روش‌هایی برای افزایش ایمنی مدل‌های با وزن‌های باز ارائه دهند. به گفته آمودی، آزمایش‌های ایمنی برای اثربخشی باید در سطح جهانی انجام شوند و حتی چین نیز باید در این فرایند مشارکت داشته باشد. او معتقد است همکاری محدود بین کشورها برای جلوگیری از تهدیدهایی مانند سلاح‌های زیستی مبتنی بر هوش مصنوعی، ممکن است امکان‌پذیر باشد؛ زیرا چنین تهدیدهایی برای همه کشورها خطر ایجاد می‌کنند.

اختلاف‌نظر با حامیان نامه حمایت از مدل‌های باز

آمودی می‌گوید با بخش زیادی از نامه اخیر در حمایت از مدل‌های با وزن‌های باز موافق است. این مدل‌ها دسترسی به اقتصاد هوش مصنوعی را گسترش می‌دهند، در برخی کاربردها رقابت را تقویت می‌کنند و کنترل بیشتری در اختیار کاربران قرار می‌دهند. بااین‌حال، او با این ادعا که مدل‌های باز الزاماً توسعه سازوکارهای ایمنی را آسان‌تر می‌کنند یا دسترسی گسترده به قابلیت‌های هوش مصنوعی همیشه بیشتر از مهاجمان به مدافعان کمک می‌کند، موافق نیست.

او احتمال می‌دهد در برخی حوزه‌ها مانند زیست‌شناسی، عدم توازن میان مهاجم و مدافع بسیار شدید باشد. برای مثال، ممکن است مدل‌های بسیار قدرتمند بتوانند به توسعه سریع عوامل بیماری‌زای خطرناک کمک کنند، درحالی‌که ایجاد دفاع در برابر چنین تهدیدهایی ممکن است سال‌ها زمان ببرد. از نگاه او، چنین پرسش‌هایی باید از طریق آزمایش‌های علمی پیش از انتشار مدل‌ها پاسخ داده شوند، نه بر اساس فرضیات اولیه.