سم آلتمن اعتراف کرد که OpenAI نمی‌تواند استفاده پنتاگون از هوش مصنوعی را کنترل کند

به نقل از گاردین این ادعای سم آلتمن در بحبوحه افزایش نظارت بر استفاده نظامی از هوش مصنوعی و نگرانی‌های اخلاقی کارکنان این حوزه مطرح می‌شود. وی اخیراً در جلسه‌ای داخلی به کارکنان OpenAI گفت که این شرکت کنترلی بر نحوه استفاده پنتاگون از محصولات هوش مصنوعی آن‌ها در عملیات نظامی ندارد. این اظهارات آلتمن درباره عدم دخالت OpenAI در تصمیمات نظامی در حالی مطرح شد که نگرانی‌ها درباره استفاده نظامی از هوش مصنوعی و مسائل اخلاقی کارکنان این حوزه افزایش یافته است.

طبق گزارش‌های بلومبرگ و CNBC، آلتمن به کارکنان گفته است: «شما حق ندارید در تصمیمات عملیاتی دخالت کنید.» او همچنین گفته است: «شاید فکر کنید حمله به ایران خوب بود و تهاجم به ونزوئلا بد. شما نمی‌توانید در این مورد نظر بدهید.»

در هفته‌های اخیر، صنعت هوش مصنوعی با بحث‌های داغ و مذاکرات پرتنش مواجه بوده است؛ زیرا پنتاگون از شرکت‌های فعال در حوزه هوش مصنوعی خواسته تا محدودیت‌های ایمنی مدل‌های خود را بردارند تا طیف وسیع‌تری از کاربردهای نظامی ممکن شود. گزارش شده است که سیستم‌های مبتنی بر هوش مصنوعی پیش از این در عملیات نظامی آمریکا برای دستگیری رهبر ونزوئلا، نیکولاس مادورو و در تصمیم‌گیری‌های هدف‌گیری در جنگ علیه ایران استفاده شده‌اند.

شرکت Anthropic، رقیب OpenAI و سازنده چت‌بات Claudeهفته گذشته به دلیل نگرانی از احتمال استفاده مدلش در نظارت انبوه داخلی یا سلاح‌های کاملاً خودمختار، از توافق با پنتاگون امتناع کرد. «پیتر هگست»، وزیر دفاع آمریکا، این شرکت را به عنوان «ریسک زنجیره تأمین» معرفی کرد؛ اصطلاحی که تاکنون علیه هیچ شرکت آمریکایی استفاده نشده و اگر به صورت رسمی اعمال شود، می‌تواند آسیب مالی قابل‌توجهی برای Anthropic به همراه داشته باشد.

در همان روزی که هگست وعده اقدام تنبیهی علیه Anthropic داد، پنتاگون توافقی با OpenAI را اعلام کرد که ظاهراً جایگزین استفاده از Claude در کاربردهای نظامی می‌شد. زمان‌بندی این توافق و نگرانی‌ها از اینکه OpenAI ممکن است خطوط اخلاقی را که Anthropic رد کرده بود، پذیرفته باشد؛ باعث انتقاد عمومی و واکنش کارکنان داخلی علیه OpenAI شد.

آلتمن و OpenAI پس از آن تلاش کردند تأکید کنند که فناوری آن‌ها به صورت قانونی استفاده خواهد شد و در حال مدیریت پیامدهای این توافق هستند؛ درحالی‌که آلتمن اذعان کرد این توافق شتاب‌زده بوده و باعث شده شرکت «فرصت‌طلب و شلخته» به نظر برسد.

طبق گزارش  Information داریو آمودی، مدیرعامل Anthropic در یادداشتی آلتمن را «دروغگو» خواند و او را متهم کرد که «ستایشی دیکتاتورگونه از ترامپ» انجام می‌دهد. آمودی در این یادداشت نوشت: «ما در واقع خطوط قرمز خود را با یکپارچگی رعایت کرده‌ایم و به جای همدستی با آن‌ها برای ایجاد «نمایش ایمنی» به نفع کارکنان که من به شما سوگند می‌خورم، دقیقاً همان چیزی است که همه در پنتاگون، Palantir، مشاوران سیاسی ما و غیره فکر می‌کردند مشکل ماست، عمل نکرده‌ایم.»

او همچنین به پنتاگون و دونالد ترامپ حمله کرد و نوشت: «دلایل واقعی که پنتاگون و دولت ترامپ ما را دوست ندارند این است که ما به ترامپ کمک مالی نکرده‌ایم؛ درحالی‌که OpenAI/Greg مقدار زیادی کمک کرده‌اند. (اشاره به گرگ بروکمن، رئیس  OpenAI که همراه با همسرش ۲۵ میلیون دلار به کمیته سیاسی حمایت‌کننده از ترامپ اهدا کرده است.)