آیا چین واقعاً سرعت توسعه هوش مصنوعی را بر ایمنی آن ترجیح می‌دهد؟

«سه ثانیه طلایی را رعایت کنید تا از پولتان محافظت کنید.» در هفته‌های اخیر، ویدئویی از یک مأمور پلیس خوش‌برخورد به نام «گوئو تائو» (Guo Tao) که این پیام را بیان می‌کند، به طور گسترده در چین منتشر شده است. این پیام هشداری درباره نحوه برخورد با کلاهبرداران تلفنی است. برای مجرمان کافی است فرد تنها یک سلام ساده بگوید تا بتوانند صدای او را ضبط کنند و سپس با استفاده از هوش مصنوعی، صدایی مصنوعی مشابه صدای او بسازند و از این طریق دوستان و بستگانش را فریب دهند. بنابراین، همان‌طور که گوئو توصیه می‌کند، بهتر است هنگام دریافت تماس از شماره‌های ناشناس، سه ثانیه سکوت کنید تا مشخص شود آیا شخصی واقعی در آن‌سوی خط صحبت می‌کند یا خیر. توصیه بدی نیست. این موضوع همچنین با یکی از مهم‌ترین پرسش‌های کنونی دنیای فناوری ارتباط دارد:
چین درباره خطرات ناشی از هوش مصنوعی چه دیدگاهی دارد؟

بسیاری از ناظران معتقدند چین چندان نگران خطرات هوش مصنوعی نیست. دونالد ترامپ یکی از آن‌هاست. او ماه گذشته در توضیح مخالفت خود با مقررات‌گذاری ادعا کرد: «چین مطلقاً هیچ اقدامی برای جلوگیری از پیشرفت هوش مصنوعی انجام نخواهد داد.» در واقع، نظرسنجی‌ها نیز از خوش‌بینی گسترده مردم چین نسبت به هوش مصنوعی حکایت دارند. در نظرسنجی مؤسسه گالوپ، ۹۳ درصد از پاسخ‌دهندگان چینی اعلام کردند که هوش مصنوعی عمدتاً به نفع کشورشان خواهد بود؛ درحالی‌که این رقم در آمریکا تنها ۳۶ درصد بود. درخواست‌ها برای همکاری چین با آمریکا به‌منظور کاهش سرعت توسعه مدل‌های پیشرفته هوش مصنوعی (Frontier Models) نیز در پکن با بی‌اعتنایی مواجه شده است. وزارت امور خارجه چین می‌گوید «ترس‌افکنی» به نفع هیچ‌کس نیست.

اما واقعیت این است که چین زمان و توجه بسیار زیادی را صرف بررسی ایمنی هوش مصنوعی می‌کند. کلاهبرداری تلفنی تنها بخش کوچکی از مجموعه گسترده نگرانی‌های این کشور است. دغدغه‌های چین از فعالیت‌های مجرمانه، جابه‌جایی نیروی کار و امنیت ملی گرفته تا سناریوهای ازدست‌رفتن کنترل هوش مصنوعی را در بر می‌گیرد؛ همان سناریوهایی که خواب را از چشم فعالان سیلیکون‌ولی ربوده‌اند.

این موضوع نباید تعجب‌آور باشد. حزب کمونیست چین که تقریباً در تمام عرصه‌های زندگی وسواس زیادی نسبت به خطرات دارد، سال‌ها برای تحت کنترل درآوردن فضای سایبری تلاش کرده است. آیا حکومتی که اینترنت را تهدیدی وجودی می‌داند، ناگهان قصد دارد به هوش مصنوعی اجازه دهد بدون هیچ محدودیتی پیشرفت کند؟ اگر مانند دولت ترامپ، مقررات‌گذاری را ذاتاً نوعی کاهش سرعت پیشرفت تعریف کنیم، چین عملاً در حال کند کردن روند توسعه هوش مصنوعی است؛ هرچند هرگز چنین چیزی را به زبان نخواهد آورد. «کندرا شیفر» (Kendra Schaefer) از شرکت مشاوره تریویوم (Trivium)، مستقر در پکن، می‌گوید: «چین همین حالا هم سخت‌گیرانه‌ترین مقررات هوش مصنوعی را در جهان دارد.»

آمریکا برای توسعه هوش مصنوعی همچنان به زنجیره تأمین چین وابسته است

سند بنیادین در این زمینه، «چارچوب حکمرانی ایمنی هوش مصنوعی» چین است که دومین نسخه به‌روزرسانی‌شده آن در ماه سپتامبر منتشر شد. این سند ۵۴ خطر را در سه دسته طبقه‌بندی می‌کند:

1. خطرات «ذاتی»: رفتار مدل‌ها به شیوه‌های پیش‌بینی‌نشده
2. خطرات «کاربردی»: استفاده مجرمان از هوش مصنوعی
3. خطرات «ثانویه»: بیگانگی اجتماعی

 این چارچوب همچنین راهکارهایی برای حذف یا دست‌کم کاهش این تهدیدها پیشنهاد می‌کند. یکی از این راهکارها، الزام به ایجاد نقاط کنترل و نظارت است که در آن‌ها انسان‌ها باید اقدامات عامل‌های هوش مصنوعی را بررسی کنند و در صورت لزوم، پیش از آنکه دامنه فعالیتشان بیش از حد گسترش یابد، آن‌ها را متوقف کنند.

برخی از ایده‌های مطرح‌شده در نسخه‌های پیشین این چارچوب، هم‌اکنون اجرایی شده‌اند. برای مثال، محتوای تولیدشده با هوش مصنوعی، از جمله فایل‌های صوتی و ویدئویی، باید به‌وضوح برچسب‌گذاری شوند. احتمال دارد سایر پیشنهادها نیز مبنای مقررات جدید قرار گیرند. پیش‌نویس تدابیر جدید از ارائه‌دهندگان خدمات می‌خواهد هر قابلیتی را که با مشکلات جدی مواجه است، فوراً غیرفعال کنند. چین همچنین در ۱۶ اکتبر محدودیت‌هایی را برای صادرات پیشرفته‌ترین فناوری‌های هوش مصنوعی خود پیشنهاد کرد.

با افزایش توانمندی هوش مصنوعی، چین نیز توجه بیشتری به سناریوهای فاجعه‌بار معطوف کرده است. نسخه اولیه چارچوب ایمنی این کشور که در سال ۲۰۲۴ منتشر شد، تنها یک اشاره گذرا به مسئله ازدست‌رفتن کنترل هوش مصنوعی داشت. اما در جدیدترین نسخه، این موضوع بیش از دوازده بار مطرح شده است. بااین‌حال، همچنان می‌توان تفاوتی فلسفی میان رویکردها تشخیص داد. درحالی‌که برخی در آمریکا نگران هستند مدل‌های هوش مصنوعی سرانجام از هوش انسانی پیشی بگیرند و کنترل روند تکامل خود را به دست بگیرند، دیدگاه رایج‌تر در چین این است که هوش مصنوعی فناوری تحول‌آفرینی است که می‌توان آن را مهار و هدایت کرد، نه پدیده‌ای که از کنترل انسان خارج شود.

شی جین‌پینگ، هوش مصنوعی را با موتور بخار، برق و اینترنت مقایسه می‌کند؛ فناوری‌هایی که مسیر تاریخ را تغییر دادند، اما خطراتی ایجاد نکردند که مستلزم کاهش هماهنگ سرعت توسعه آن‌ها باشد. باتوجه‌به اینکه چین همچنان در توسعه پیشرفته‌ترین فناوری‌های هوش مصنوعی از آمریکا عقب‌تر است، شی جین‌پینگ تمایل کمتری به پذیرش کاهش سرعت پیشرفت این فناوری دارد. از نگاه چین، چنین توافقی هم غیرضروری به نظر می‌رسد و هم اقدامی در راستای منافع خود آمریکایی‌هاست.

جای تعجب نیست که مقام‌های چینی بخش قابل‌توجهی از توجه خود را به مسائل ایدئولوژیک اختصاص می‌دهند. آن‌ها می‌خواهند اطمینان حاصل کنند که مدل‌های هوش مصنوعی در موضوعات مهم با مواضع حزب کمونیست مخالفت نمی‌کنند و ابزارهای جدید نیز کنترل حزب را تضعیف نخواهند کرد. بااین‌حال، نگرانی‌های روزمره‌تری نیز وجود دارد که بازتاب‌دهنده قیم‌مآبی ملایم دولت چین است. توصیه گوئو درباره سه ثانیه طلایی هنگام مکالمات تلفنی و ممنوعیت ارائه معشوق‌های مجازی یا حتی خویشاوندان مجازی به افراد زیر سن قانونی، از همین نگرش ناشی می‌شود.

در صورت بروز بحران هوش مصنوعی، آیا چین تلفن آمریکا را جواب خواهد داد؟

تمایل شدید چین به رگولاتوری ممکن است پیامدهای ناخواسته‌ای نیز داشته باشد. در آمریکا که دولت مداخله بسیار محدودتری در این حوزه دارد، شرکت‌ها برای پر کردن خلأ موجود وارد عمل شده‌اند؛ مدل‌های خود را ارزیابی می‌کنند و خواستار سازوکارهای حفاظتی بیشتری هستند. اما در چین، شرکت‌ها اغلب رویکردی منفعلانه‌تر دارند و پیش از اعمال کنترل‌ها، منتظر دریافت دستورالعمل از حزب و دولت می‌مانند. شرکت مشاوره Concordia AI مستقر در پکن، در بررسی ده شرکت چینی که به‌تازگی مدل‌های هوش مصنوعی منتشر کرده بودند، دریافت که تنها پنج شرکت ارزیابی‌های ایمنی خود را منتشر کرده‌اند. این یافته نشان می‌دهد اگر مدل‌ها سریع‌تر از پیش‌بینی نهادهای تنظیم‌گر توسعه یابند، ممکن است خطراتی ایجاد شود.

ترامپ و شی درباره آینده هوش مصنوعی چه گفتند؟

همکاری واقعی در حوزه هوش مصنوعی احتمالاً از دسترس چین و آمریکا خارج خواهد ماند

آیا می‌توان مسابقه تسلیحاتی هوش مصنوعی را متوقف کرد؟

مقررات چین همچنین بعید است نظر کسانی را جلب کند که مدل‌های وزن‌باز این کشور را ذاتاً خطرناک می‌دانند. منتقدان نگران‌اند که چنین مدل‌هایی، برخلاف مدل‌های بسته‌ای که در آمریکا غالب هستند، آسان‌تر مورد سوءاستفاده قرار گیرند. بااین‌حال، بسیاری از فعالان حوزه هوش مصنوعی در چین معتقدند مزایای این مدل‌ها بر خطراتشان می‌چربد. آن‌ها خاطرنشان می‌کنند که مدل‌های متن‌باز چین به دفاع از سامانه‌های رایانه‌ای در برابر حملات مخرب انجام‌شده با مدل‌های بسته آمریکایی کمک کرده‌اند؛ مانند زمانی که ابزارهای OpenAI موفق شدند به پلتفرم هوش مصنوعی هاگینگ‌فیس (Hugging Face) نفوذ کنند.

ماجراهای فرار و حمله عامل‌های هوش مصنوعی را در هوشیو بخوانید:

حمله عامل‌های خودمختار به Hugging Face؛ امریکایی‌ها جواب ندادند، چینی‌ها دفاع کردند

این مدل داخلی OpenAI بود که فرار کرد و Hugging Face را هک کرد!

عامل هوش مصنوعی فراری OpenAI فقط Hugging Face را هک نکرد

چرا فرار مدل OpenAI نگران‌کننده‌ترین خطای هوش مصنوعی تاکنون است

بعد از OpenAI، حالا نوبت Claude رسید که فرار، حمله و هک کند

مدل هوش مصنوعی متا در جریان آزمایش‌های امنیت سایبری، یک شرکت دیگر را هک کرد

بعد از امریکایی‌ها، حالا نوبت چینی‌ها و Kimi K3 رسید که از سندباکس خود فرار کنند

انبوهی از عامل‌های هوش مصنوعی که علیه سازندگان خود توطئه کردند

عامل‌های هوش مصنوعی OpenAI در یک رخنه فاش‌نشده در بهار امسال، کنترل یک وب‌سایت آلمانی را به دست گرفتند

درهرصورت، چین از هم‌اکنون در حال تدوین مقررات سخت‌گیرانه‌تری برای حکمرانی مدل‌های باز است. افراد مطلع می‌گویند نسخه‌های جدید این مدل‌ها پیش از عرضه عمومی، تحت ارزیابی‌های ایمنی دقیق و سخت‌گیرانه قرار می‌گیرند.

بر اساس اغلب معیارها، عملکرد مدل‌های هوش مصنوعی چین چند ماه یا حتی بیشتر از مدل‌های آمریکایی عقب‌تر است. برای فناوری‌ای که با چنین سرعتی تکامل پیدا می‌کند، این فاصله بسیار قابل‌توجه است. اما نباید چین را به عقب‌ماندن از آمریکا در مدیریت خطرات هوش مصنوعی متهم کرد. وقتی پای مقررات، کنترل‌ها، محدودیت‌ها و هشدارها در میان باشد، چین دقیقاً در قلمرو تخصص و اقتدار خود قرار دارد.

گزارش حاضر در نسخه October 24th 2026 نشریه The Economist منتشر شده است.