برنامه دمیس هاسابیس برای بهره‌برداری ایمن از هوش مصنوعی

ابرقدرت‌های جهان در حوزه هوش مصنوعی در حال آغاز نمایش قدرت خود هستند. تصمیم کوتاه‌مدت دولت آمریکا برای جلوگیری از دسترسی افراد خارجی به Fable نه‌تنها نشان‌دهنده تمایل این کشور برای کنترل این فناوری بود، بلکه بازتاب‌دهنده نگرانی از خطراتی نیز بود که ممکن است در صورت قرارگرفتن این فناوری در دستان نادرست ایجاد شود. اکنون گفته می‌شود چین نیز در حال بررسی محدودکردن دسترسی خارجی‌ها به پیشرفته‌ترین مدل‌های خود است.

رقابت قدرت‌های بزرگ از کنترل فناوری آغاز شده است

بااین‌حال، برای‌آنکه بتوان از هوش مصنوعی به شکلی ایمن بهره‌برداری کرد، این صنعت به برنامه‌ای منسجم و قابل‌پیش‌بینی نیاز دارد. «دمیس هاسابیس»، هم‌بنیان‌گذار گوگل دیپ‌مایند، معتقد است چنین برنامه‌ای را در اختیار دارد. هاسابیس در گذشته نیز پیشنهادهایی برای تنظیم‌گری هوش مصنوعی ارائه کرده بود. آخرین تلاش او که در تاریخ ۱۴ ژوئیه به‌صورت آنلاین منتشر شد و در مصاحبه‌ای با اکونومیست جزئیات بیشتری درباره آن ارائه کرد، مشخص‌تر و عملیاتی‌تر است.

او می‌گوید دولت آمریکا باید سیستمی برای آزمایش ایمنی مدل‌های جدید هوش مصنوعی پیش از عرضه عمومی آن‌ها ایجاد کند. او اضافه می‌کند: «مهم است که این فقط یک نهاد صنعتی نباشد.» اما یک سازمان دولتی معمولی نیز گزینه مناسبی نخواهد بود. به گفته او: «چنین نهادی قادر نخواهد بود به‌اندازه کافی سریع حرکت کند یا منابع مناسب را در اختیار داشته باشد.» در عوض، هاسابیس پیشنهاد می‌کند که از سازمان تنظیم مقررات صنعت مالی آمریکا (FINRA) الهام گرفته شود؛ نهادی خصوصی در آمریکا که کارگزاران و بازارهای سهام را تنظیم‌گری می‌کند.

نسخه هاسابیس برای تنظیم‌گری هوش مصنوعی

این پیشنهادی عمل‌گرایانه است. دیگر خبری از امیدهای خوش‌بینانه‌ای که هنوز برخی از همتایان او برای دستیابی به یک اجماع بین‌المللی دارند، نیست. او معتقد است آمریکا باید مسیر را رهبری کند. به باور او، نیازی به توافق همه کشورها نیست؛ زیرا سایر کشورها برای حفظ دسترسی خود به فناوری آمریکایی و بازار عظیم این کشور، در نهایت با این رویکرد همراه خواهند شد.

این روند حتی ممکن است روزی به چین نیز گسترش یابد و به جلوگیری از شکل‌گیری رقابت مخرب میان کشورها بر سر کاهش استانداردهای ایمنی کمک کند. اگرچه هاسابیس معتقد است این طرح در ابتدا باید برای توسعه‌دهندگان مدل‌های هوش مصنوعی داوطلبانه باشد، اما انتظار دارد که در نهایت اجباری شود. برای نمونه، FINRA از اختیارات اجرایی سخت‌گیرانه‌ای برخوردار است که دولت به آن تفویض کرده است.

اختلاف‌نظر هاسابیس و آلتمن بر سر آینده حکمرانی هوش مصنوعی

رویکرد هاسابیس با پیشنهادی که سم آلتمن ارائه کرده متفاوت است. آلتمن در اوایل همین ماه در یادداشتی در فایننشال‌تایمز دیدگاه خود را مطرح کرده بود. هر دو نفر توافق دارند که وظیفه نهاد نظارتی جدید باید ایجاد استانداردها، تحلیل ریسک‌ها و اطمینان از این باشد که تنها کشورهایی که به این چارچوب پیوسته‌اند، به پیشرفته‌ترین فناوری‌های هوش مصنوعی دسترسی داشته باشند. اما آلتمن خواستار یک اقدام بین‌المللی است؛ هرچند این اقدام باید با هماهنگی آمریکا انجام شود. هر دو پیشنهاد اخیراً در نشست سران گروه G7 در فرانسه به رهبران جهان ارائه شدند.

پیشنهاد جدید هاسابیس دقیق‌ترین طرحی است که تاکنون از سوی یکی از چهره‌های برجسته صنعت هوش مصنوعی ارائه شده است. تاکنون مدیران ارشد این صنعت بیشتر تمایل داشته‌اند به‌صورت کلی درباره ضرورت قوانین صحبت کنند تا اینکه از ابتدا به طراحی نهادهای نظارتی بپردازند. در مقابل، هاسابیس بسیاری از جزئیات عملیاتی را بررسی کرده است. او می‌گوید نهاد جدید باید از سوی صنعت تأمین مالی شود و بخش قابل‌توجهی از تمرکز اولیه آن باید بر جذب یک تیم متخصص و توانمند باشد. (نهادهای موجود در حوزه ایمنی هوش مصنوعی، مانند سازمان‌های فعال در آمریکا و بریتانیا، می‌توانند در کوتاه‌مدت پشتیبانی کنند. هاسابیس پیشنهاد می‌کند که این نهاد جدید بر آزمایشگاه‌هایی تمرکز کند که توانمندترین مدل‌های هوش مصنوعی را توسعه می‌دهند؛ آزمایشگاه‌هایی که شرکت خود او نیز در میان آن‌ها قرار دارد.

چه چیزی یک مدل را «مرزی» می‌کند؟

پیشنهادهای پیشین آمریکا و اتحادیه اروپا برای تعیین زمان نیاز به نظارت، عمدتاً به میزان توان پردازشی مورداستفاده برای آموزش یک مدل به‌عنوان یک معیار تقریبی تکیه داشتند. اما هاسابیس پیشنهاد می‌کند مدل‌های هوش مصنوعی زمانی به‌عنوان «مدل‌های مرزی» طبقه‌بندی شوند که در مجموعه‌ای مشخص از معیارهای ارزیابی و بنچمارک‌ها به آستانه‌های تعیین‌شده برسند.

سازندگان این مدل‌ها نیز به‌عنوان «آزمایشگاه‌های مرزی» (frontier labs) شناخته خواهند شد و مسئولیت‌های بیشتری بر عهده خواهند داشت. هاسابیس به شیوه «ظریف» این رویکرد افتخار می‌کند، زیرا این روش پرسش پیچیده درباره اینکه آیا مدل‌های دانشگاهی یا مدل‌های متن‌باز باید در این چارچوب قرار بگیرند یا خیر را دور می‌زند. آنچه اهمیت دارد، توانمندی مدل‌هاست.

انتخاب معیارهای ارزیابی مناسب، یکی از مهم‌ترین وظایف نهاد جدید خواهد بود. بنچمارک‌های فعلی مدل‌های هوش مصنوعی عمدتاً بر توانایی‌های تجاری آن‌ها تمرکز دارند؛ از جمله برنامه‌نویسی نرم‌افزار و دانش عمومی. برخی سازمان‌ها گام‌های بیشتری برداشته‌اند. برای مثال، مؤسسه ایمنی هوش مصنوعی بریتانیا یک بنچمارک معتبر برای ارزیابی توانایی‌های هک مدل‌ها توسعه داده است که در آن، سناریوی نفوذ به یک نیروگاه شبیه‌سازی می‌شود.

اما ویژگی‌های دیگری مانند میزان تمایل یک مدل به نادیده‌گرفتن دستورهای کاربر یا وانمودکردن به اینکه از توانایی واقعی خود ضعیف‌تر است، به‌ندرت به‌صورت ساختاریافته بررسی می‌شوند؛ بررسی‌هایی که بتوان از آن‌ها برای تعیین آستانه‌های ایمنی استفاده کرد.

چالش واقعی تازه بعد از تدوین قوانین آغاز می‌شود

جلب حمایت در داخل جامعه‌ای که دچار اختلاف شده است، کار آسانی نخواهد بود؛ هرچند نقاط اشتراک با پیشنهاد آلتمن نشان می‌دهد که این امر غیرممکن نیست. به نظر می‌رسد دولت آمریکا نیز به این موضوع توجه کرده و گفته می‌شود که به اعلام رویکرد موردنظر خود نزدیک شده است. پس از آن، مرحله دشوار آغاز خواهد شد.

هاسابیس اذعان می‌کند: «هیچ پیشنهادی از اجرای ضعیف مصون نیست. نسخه‌هایی از این طرح وجود دارد که می‌توانند چندان مفید نباشند.» بااین‌حال، این برنده جایزه نوبل معتقد است اقدام فوری ضروری است و می‌گوید: «زمان کوتاه است، دیر شده است. ما تهدید سایبری را دیده‌ایم؛ تهدیدهای بسیار جدی‌تری در راه هستند. باید کاری انجام شود؛ زمان اقدام همین حالاست.»

گزارش حاضر در نسخه July 18th 2026 نشریه The Economist منتشر شده است.