OpenAI آموزش مدل‌های پیشرفته هوش مصنوعی را بدون اتصال مستقیم به اینترنت پیش می‌برد

شرکت OpenAI اعلام کرده است آموزش مدل‌های پیشرفته هوش مصنوعی باید در محیط‌هایی انجام شود که به اینترنت زنده دسترسی مستقیم ندارند. هدف از این رویکرد، کاهش احتمال دسترسی غیرمجاز مدل‌ها به سامانه‌های بیرونی و افزایش امنیت زیرساخت‌های آموزشی عنوان شده است.

بر اساس گزارش منتشرشده، این تصمیم پس از آن اتخاذ شد که یکی از مدل‌های پیشرفته اوپن‌ای‌آی در ۲۰ سپتامبر، به‌دلیل پیکربندی نادرست به اینترنت دسترسی پیدا کرد. این اتفاق باعث شد شرکت در روزهای باقی‌مانده همان ماه، فرایند آموزش مدل‌ها را متوقف کند و راهکارهای تازه‌ای برای افزایش ایمنی توسعه دهد و آزمایش کند.

یکی از نگرانی‌های اصلی شرکت‌های هوش مصنوعی، احتمال عبور مدل‌های پیشرفته از محدودیت‌های محیط‌های آزمایشی و دسترسی به منابع خارج از این محیط‌ها است. در برخی تمرین‌های امنیتی موسوم به «تیم قرمز»، عوامل آزمایشی برای خروج از محیط‌های ایزوله تلاش کردند و آسیب‌پذیری‌هایی را آشکار ساختند که ضرورت تقویت تدابیر امنیتی را نشان می‌داد.

OpenAI برای ادامه آموزش مدل‌ها، مجموعه گسترده‌ای از محتوای وب را نمایه‌سازی و ذخیره کرده است تا مدل‌ها بتوانند بدون اتصال مستقیم به اینترنت زنده، به این محتوا دسترسی داشته باشند و از آن در فرایند آموزش استفاده کنند.

با این حال، جداسازی کامل محیط‌های آموزشی از اینترنت با چالش‌های فنی و اجرایی همراه است. آموزش مدل‌ها به منابع متنوع، ابزارها و محیط‌های آزمایشی نیاز دارد و ایمن‌سازی این زیرساخت‌ها صرفاً با قطع اتصال اینترنت امکان‌پذیر نیست.

این رویکرد در شرایطی دنبال می‌شود که شرکت «آنتروپیک» نیز محدودیت‌هایی برای دسترسی جدیدترین و توانمندترین مدل‌های خود به اینترنت زنده اعمال کرده است. این روند نشان می‌دهد با افزایش توانایی مدل‌های هوش مصنوعی، کنترل دسترسی آن‌ها به منابع بیرونی به یکی از محورهای مهم امنیت در توسعه این فناوری تبدیل شده است.

با وجود این اقدامات، هنوز مشخص نیست محتوای وب ذخیره‌شده تا چه اندازه می‌تواند جایگزین تعامل مستقیم مدل‌ها با اینترنت شود و اهداف آموزشی را به همان میزان محقق کند.