OpenAI انتشار مدل Astra را به دلیل ترس از قابلیت‌های امنیت سایبری آن به تعویق انداخت

به نقل از آکسیوس، این چالش OpenAI را بر آن داشت تا آزمایش‌های ایمنی این مدل را گسترش دهد و فعالیت‌های داخلی‌ای را که با الزامات سخت‌گیرانه‌تر امنیتی مطابقت ندارند، متوقف کند. OpenAI این موضوع را روز جمعه ۷ اوت ۲۰۲۶ برای نخستین‌بار به Axios اعلام کرد و سپس جزئیات بیشتر را در بلاگ خود منتشر کرد.

این اتفاق تازه‌ترین نشانه از سرعت بالای پیشرفت قابلیت‌های سایبری مدل‌های هوش مصنوعی است؛ آن هم پس از آنکه برخی مدل‌های دیگر توانستند به‌صورت خودمختار، خارج از محیط‌های آزمایشی ایزوله و سازوکارهای حفاظتی، فعالیت کنند.

OpenAI پیش از هرگونه عرضه، سطح آزمایش‌ها و اقدامات امنیتی پیرامون این مدل را افزایش خواهد داد و توسعه Astra را تا زمانی که سازوکارهای حفاظتی مناسب، مطابق با چارچوب آمادگی این شرکت در جای خود قرار نگیرند، کند خواهد کرد. این چارچوب نخستین‌بار در سال ۲۰۲۳ تحت عنوان  Preparedness Frameworkمنتشر شد. البته به گفته OpenAI، مدل Astra در جریان نفوذ به Hugging Face نقشی نداشته است.

هر چند به‌طورکلی نیز زمان دقیق انتشار این مدل مشخص نبود، اما باتوجه‌به وقفه ایجادشده در روند توسعه، انتشار احتمالی آن در آینده ممکن است به تعویق بیفتد. یکی از مقام‌های کاخ سفید عنوان کرد که: «OpenAI به‌صورت داوطلبانه دولت ایالات متحده را در جریان برنامه‌های خود برای به تعویق‌انداختن انتشار این مدل قرار داده است.»

این اتفاق احتمالاً نخستین موردی است که یک آزمایشگاه پیشرو در حوزه هوش مصنوعی، به دلیل نگرانی‌های سایبری، متعهد می‌شود روند پیشرفت یکی از مدل‌های هوش مصنوعی خود را کند کند. آنتروپیک نیز پیش‌تر متعهد شده بود درصورتی‌که قابلیت‌های مدل‌های قدرتمند از توانایی این شرکت برای کنترل آن‌ها فراتر رود، آموزش این مدل‌ها را متوقف کند. بااین‌حال، این آزمایشگاه هوش مصنوعی در به‌روزرسانی سیاست مقیاس‌دهی مسئولانه (Responsible Scaling Policy) خود در فوریه امسال، از این تعهد عقب‌نشینی کرد. در این چارچوب آمده است: «اگر یک توسعه‌دهنده هوش مصنوعی برای اجرای اقدامات ایمنی، توسعه را متوقف کند، درحالی‌که دیگران بدون اقدامات کاهشی قدرتمند، آموزش و استقرار سامانه‌های هوش مصنوعی را ادامه دهند، این وضعیت می‌تواند به جهانی با امنیت کمتر منجر شود.»

این اعلامیه در شرایطی منتشر شده است که دولت ترامپ در حال تدوین فرایندی برای ارزیابی مدل‌های هوش مصنوعی پیش از انتشار آن‌هاست. در هفته‌های اخیر به برخی شرکت‌های منتخب صنعت درباره چارچوب مذکور توضیحاتی ارائه شد، اما همچنان پرسش‌های بی‌پاسخ زیادی برای شرکت‌ها وجود دارد. برای مثال، اینکه شرکت‌ها چگونه باید با دولت تعامل کنند، فرایند بررسی چه مدت طول خواهد کشید و دولت و صنعت امیدوارند از این فرایند چه چیزی بیاموزند. همچنین این پرسش مطرح است که چه کسانی به مدل‌ها دسترسی خواهند داشت یا آن‌ها را بررسی خواهند کرد. مفهوم «ریسک ملی کافی» و همچنین مدل‌های «در مرز دانش و فناوری» در این چارچوب عملیاتی شده‌اند، اما تعریف مشخصی برای آن‌ها ارائه نشده است.

اعضای تیم فنی OpenAI در اوایل همین هفته و در جریان کنفرانس امنیت سایبری Black Hat گفتند که شرکت، هم‌زمان با تلاش برای ارتقای رویه‌های امنیتی خود، روند آزمایش‌ها را کند کرده است. OpenAI نیز وبلاگ خود اعلام کرد که اجرای کنترل‌های امنیتی سخت‌گیرانه‌تر برای آزمایش Astra را آغاز کرده است؛ از جمله محیط‌های آزمایشی ایزوله و پایش فراگیر در سراسر کاربردهای عامل‌محور Astra.