آنتروپیک سه شاخص برای سنجش سرعت توسعه هوش مصنوعی در آزمایشگاه‌های پیشرو معرفی کرد

سیستم‌های هوش مصنوعی با سرعتی نمایی در حال قدرتمندتر شدن هستند و به‌تدریج بخش بیشتری از فرایند توسعه نسل‌های بعدی خود را خودکار می‌کنند. در شرایطی که موضوع کاهش یا مدیریت سرعت توسعه مدل‌های پیشرفته هوش مصنوعی مطرح شده است، دسترسی عمومی به اطلاعات دقیق درباره فعالیت آزمایشگاه‌های پیشرو اهمیت بیشتری پیدا می‌کند.

نقش آنتروپیک

آنتروپیک معتقد است شناخت فرایند تولید مدل‌ها می‌تواند به درک بهتر رابطه میان ورودی‌هایی مانند توان محاسباتی و خروجی‌هایی مانند قابلیت‌های مدل کمک کند. این شاخص‌ها مکمل ارزیابی‌های توانمندی مدل هستند که شرکت در گزارش‌های ریسک «سیاست مقیاس‌پذیری مسئولانه» (RSP) منتشر می‌کند.

آنتروپیک همچنین قصد دارد ارزیابان مستقل از چند سازمان را به فرایندهای داخلی خود وارد کند و دسترسی مشابه تیم‌های ارزیابی ریسک داخلی در اختیار آن‌ها قرار دهد. این ارزیابان وظیفه بررسی اقدامات ایمنی، گزارش رخدادها و پایش شاخص‌های کلیدی را خواهند داشت.

سنجش میزان مشارکت هوش مصنوعی در توسعه نسل‌های بعدی خود

نخستین شاخص به بررسی میزان مشارکت هوش مصنوعی در تحقیق‌وتوسعه خود این فناوری اختصاص دارد. آزمایشگاه‌های پیشرو همواره از مدل‌های هوش مصنوعی برای ساخت مدل‌های پیشرفته‌تر استفاده می‌کنند. این روند می‌تواند توسعه مدل‌ها و انجام آزمایش‌های ایمنی پیش از انتشار را تسریع کند؛ اما در مقابل، ممکن است درک و کنترل این سیستم‌ها را برای انسان دشوارتر کند. هدف این سنجش، ارزیابی فاصله فناوری با مرحله «خودبهبوددهی بازگشتی» (Recursive Self-Improvement) است؛ وضعیتی که در آن یک مدل بتواند نسل بعدی خود را کاملاً مستقل توسعه دهد.

چگونه هوش مصنوعی در ساختن خودش بهتر شد

بی‌احتیاطی مصنوعی

آنتروپیک برای اندازه‌گیری این روند، نمونه اولیه «شاخص خودکارسازی تحقیق‌وتوسعه آنتروپیک» (Anthropic R&D Automation Index) را طراحی کرده است. این شاخص با شناسایی انواع فعالیت‌های تحقیق‌وتوسعه، تعیین سطح خودکارسازی هر فعالیت و تجمیع نتایج، میزان مشارکت Claude را محاسبه می‌کند.

مبنای ارزیابی، مقیاس «سطح خودکارسازی» (Automation Level) یا AL توسعه‌یافته توسط Epoch AI است که از AL0 به معنی بدون مشارکت هوش مصنوعی تا AL5 به معنی فعالیت کاملاً مستقل بدون دخالت انسان، امتداد دارد.

 Automation Rating Scale

در سطح AL3، هوش مصنوعی می‌تواند بخش‌های بزرگی از کار را تحت هدایت نزدیک انسان انجام دهد. در سطح AL4، مدل قادر است بیشتر مراحل یک وظیفه را بر اساس یک دستور سطح‌بالا انجام دهد و انسان عمدتاً نقش ناظر داشته باشد.

نتایج آنتروپیک تا اوت ۲۰۲۶ به شرح زیر است

• ۲۶ درصد فعالیت‌های تحقیق‌وتوسعه با راهبری Claude در سطح AL4 قرار دارند.
• بیش از ۹۰ درصد فعالیت‌ها در سطح همکاری هوش مصنوعی یا بالاتر (AL3+) قرار دارند.

بااین‌حال، Claude در هیچ‌یک از زیرمجموعه‌های اندازه‌گیری‌شده تحقیق‌وتوسعه به سطح خودمختاری کامل نرسیده است.

آنتروپیک دو مانع اصلی مقایسه این شاخص میان آزمایشگاه‌ها را نبود روش‌شناسی مشترک و استفاده از مدل‌های خود شرکت برای ارزیابی عملکرد سیستم‌هایش می‌داند. راهکار پیشنهادی، اعتبارسنجی مستقل یا استفاده از مدل‌های توسعه‌دهندگان دیگر با رعایت محدودیت‌های مربوط به اطلاعات رقابتی حساس است.

سنجش کیفیت نظارت بر عامل‌های هوش مصنوعی

دومین شاخص بر نظارت بر عامل‌های هوشمندی تمرکز دارد که وظایف طولانی را به‌صورت نیمه‌مستقل انجام می‌دهند و حتی کارهایی را به عامل‌های دیگر واگذار می‌کنند. با افزایش اتوماسیون، این عامل‌ها ممکن است تصمیم‌های مهم‌تری مانند انتخاب مسیر بعدی تحقیقات را اخذ کنند. بنابراین، علاوه بر جلوگیری از رفتارهای زیان‌بار هر عامل، سازوکارهایی برای شناسایی مشکلات ناشی از فعالیت جمعی عامل‌ها ضروری است.

آنتروپیک برای ارزیابی نظارت، سه معیار تعریف کرده است:

• پوشش نظارتی: سهم فعالیت‌های بررسی‌شده
• تأخیر بازبینی: فاصله زمانی اقدام تا بررسی خودکار یا انسانی
• نرخ مسدودسازی یا ارجاع: سهم فعالیت‌هایی که متوقف، اصلاح یا برای بررسی بیشتر علامت‌گذاری می‌شوند.

در اوت ۲۰۲۶، حدود ۳۰ هزار عامل هوش مصنوعی به طور هم‌زمان در پرکاربردترین پلتفرم داخلی تحقیق و مهندسی آنتروپیک فعالیت داشتند. داده‌های منتشرشده صرفاً همین پلتفرم را پوشش می‌دهند.

آنتروپیک از دو نوع سامانه نظارتی استفاده می‌کند:

• ناظران برخط (Online Monitors): پیش از اجرای اقدامات عامل‌ها، رفتار آن‌ها را بررسی می‌کنند و اقدامات خطرناک یا غیرمجاز را متوقف یا اصلاح می‌کنند. تمام اقدامات عامل‌های مورد بررسی از این سامانه عبور می‌کنند. تحلیل بیش از یک میلیارد تصمیم در اوت نشان داد که ۰٫۰۰۲ درصد اقدامات، معادل تقریباً یک مورد از هر ۴۷ هزار تصمیم، مسدود شده‌اند.
• ناظران پسینی (Offline Monitors): فعالیت‌ها را پس از اجرا بررسی می‌کنند تا نشانه‌های رفتار خطرناک تدریجی یا ناهم‌راستایی مدل شناسایی شود. تمام فعالیت‌ها وارد این سامانه می‌شوند و تقریباً یک تا دو رونوشت از هر هزار رونوشت برای بررسی بیشتر علامت‌گذاری می‌شود.

سامانه پسینی هر هفته حدود ۱۰۰ هزار رونوشت را علامت‌گذاری می‌کند. پس از بررسی توسط چندین طبقه‌بندی‌کننده و مراحل اولیه نظارت، تقریباً ۵۰ مورد با بالاترین اولویت به بازبینی انسانی ارجاع داده می‌شود. اقدامات مسدودشده توسط ناظران برخط نیز حداکثر ظرف یک هفته توسط انسان بررسی می‌شوند.

آنتروپیک تأکید می‌کند که توسعه‌دهندگان باید علاوه بر انتشار این شاخص‌ها، میزان موفقیت سامانه‌های نظارتی در شناسایی رفتارهای نامناسب شناخته‌شده را گزارش کنند و امکان آزمون مستقل آن‌ها را فراهم سازند.

سنجش نحوه تخصیص منابع محاسباتی

سومین شاخص، نحوه توزیع توان محاسباتی (Compute) میان توسعه مدل‌های قدرتمندتر، ارائه خدمات و فعالیت‌های ایمنی را بررسی می‌کند. آنتروپیک معتقد است توان محاسباتی یکی از قابل‌راستی‌آزمایی‌ترین ورودی‌های فرایند تحقیق‌وتوسعه است و می‌تواند در سیاست‌های آینده برای مدیریت سرعت پیشرفت هوش مصنوعی نقش داشته باشد.

این شرکت برای محاسبه شاخص، تمام بارهای کاری محاسباتی خود را در بازه ۱۳ تا ۲۰ ژوئیه دسته‌بندی کرد و سهم فعالیت‌های ایمنی از منابع اختصاص‌یافته به تحقیق‌وتوسعه را سنجید.

سهم منابع محاسباتی اختصاص‌یافته به ایمنی:

• ۶ درصد از کل محاسبات تحقیق‌وتوسعه هوش مصنوعی
• ۱۲ درصد از محاسبات تحقیق‌وتوسعه هوش مصنوعی با مشارکت هوش مصنوعی

داده‌های هفته ۱۳ تا ۲۰ ژوئیه ۲۰۲۶؛ دو درصد با مخرج‌های متفاوت محاسبه شده‌اند.

به گفته آنتروپیک، این ارقام برآوردهایی محافظه‌کارانه هستند؛ زیرا فعالیت‌هایی که هم‌زمان به بهبود قابلیت‌ها و ایمنی کمک کرده‌اند، در محاسبات ایمنی لحاظ نشده‌اند. همچنین منابع مصرفی طبقه‌بندی‌کننده‌های حفاظتی در این ارقام منظور نشده است. بااین‌حال، توان محاسباتی معیار کاملی برای سنجش توجه سازمان به ایمنی نیست؛ زیرا بسیاری از تحقیقات ایمنی زمان‌بر هستند، اما الزاماً منابع محاسباتی زیادی مصرف نمی‌کنند.

آنتروپیک پیشنهاد می‌کند توسعه‌دهندگان سهم محاسبات اختصاص‌یافته به ایمنی را همراه با تعاریف دسته‌بندی منتشر کنند و اعتبارسنجی آن را به نهادهای مستقل بسپارند. همچنین مسئولیت اثبات ایمنی‌محوربودن فعالیت‌ها باید بر عهده توسعه‌دهندگان باشد.

شفافیت بیشتر برای مدیریت سرعت توسعه هوش مصنوعی

آنتروپیک معتقد است با افزایش نقش هوش مصنوعی در توسعه خود، فاصله اطلاعاتی میان آزمایشگاه‌های پیشرو و جامعه باید کاهش یابد. انتشار منظم و قابل‌راستی‌آزمایی این سه شاخص می‌تواند به دولت‌ها، پژوهشگران مستقل و عموم مردم کمک کند تا سرعت پیشرفت هوش مصنوعی، کیفیت نظارت بر عامل‌ها و اولویت‌های تخصیص منابع را بهتر ارزیابی کنند. این شرکت انتشار چنین داده‌هایی را نقطه آغاز شفافیت بیشتر در توسعه هوش مصنوعی پیشرفته می‌داند و اعلام کرده است که این روند را ادامه خواهد داد.