اصلاح توافق هوش مصنوعی OpenAI با پنتاگون
سید محمدجواد فیاض
- ۱۶ اسفند ۱۴۰۴
توافق جدید OpenAI با پنتاگون شامل تدابیر حفاظتی اضافی است تا از استفاده از فناوری OpenAI برای نظارت گسترده بر شهروندان آمریکایی جلوگیری شود.
به نقل از نیویورکتایمز پس از انتقادهای گسترده اخیر، OpenAI اعلام کرد که توافق خود برای ارائه فناوریهای هوش مصنوعی به سیستمهای طبقهبندیشده وزارت دفاع، اکنون شامل تدابیر حفاظتی اضافی است تا از استفاده از فناوری آن در نظارت گسترده بر شهروندان آمریکایی جلوگیری شود.
OpenAI توافق اولیه خود با پنتاگون را روز جمعه ۲۷ فوریه ۲۰۲۶ اعلام کرد، ساعاتی پس از آنکه رئیسجمهور ترامپ دستور توقف استفاده از فناوری هوش مصنوعی ساختهشده توسط رقیب OpenAI، یعنی Anthropic را به نهادهای فدرال صادر کرد.
طبق توافق اولیه، OpenAI موافقت کرد که پنتاگون میتواند از سیستمهای هوش مصنوعی آن برای هر منظور قانونی استفاده کند. این شرکت همچنین شرایطی را در مذاکرات خود گنجاند که اجازه میداد اصول ایمنی خود را رعایت کند و از طریق نصب محافظهای فنی مشخص، از فناوری خود در برابر استفادههای ناخواسته محافظت کند.
اما روز دوشنبه ۲ مارس ۲۰۲۶، OpenAI اعلام کرد که توافق با پنتاگون اصلاح شده و در آن تصریح شده است که سیستمهای هوش مصنوعیOpenAI «به طور عمدی برای نظارت داخلی بر شهروندان و اتباع ایالات متحده استفاده نخواهند شد.» این اصلاحیه همچنین اضافه میکند که توافقنامه، «پیگیری، نظارت یا رصد عمدی شهروندان یا اتباع ایالات متحده، از جمله از طریق خرید یا استفاده از اطلاعات شخصی یا قابلشناسایی بهصورت تجاری» را ممنوع میکند.
وزارت دفاع در بیانیهای اعلام کرد که «همیشه آماده بحث منطقی خواهد بود، همانطور که با OpenAI انجام دادیم. Anthropic این کار را نخواست، زیرا آنها انگیزههای شخصی خود را داشتند.»Anthropic بلافاصله به درخواست اظهارنظر نیویورکتایمز پاسخ نداد.
سم آلتمن، مدیرعامل OpenAI در پستی در شبکه اجتماعی X گفت: «حفظ آزادیهای مدنی حیاتی است و تمرکز زیادی روی این موضوع بود، بنابراین خواستیم مشخصاً این نکته را روشن کنیم.» او افزود: «همانند هر کاری که در استقرار تدریجی انجام میدهیم، همچنان به یادگیری و اصلاح روندها ادامه خواهیم داد.» آلتمن همچنین گفت که پنتاگون اطمینان داده است که فناوری آنها توسط سازمانهای اطلاعاتی دفاعی از جمله آژانس امنیت ملی، استفاده نخواهد شد.
در هفتههای اخیر، Anthropic با پنتاگون بر سر چگونگی استفاده از هوش مصنوعی خود اختلاف داشت. وزارت دفاع اصرار داشت که بتواند از سیستم هوش مصنوعی Anthropic برای تمام اهداف قانونی استفاده کند، در غیر این صورت کسبوکار شرکت با دولت قطع میشد. Anthropic اعلام کرد که نیاز به شرایطی دارد که اطمینان دهد فناوری هوش مصنوعی آنها برای نظارت داخلی بر آمریکاییها یا برای سلاحهای خودکار کشنده استفاده نخواهد شد. اما پنتاگون تأکید کرد که یک پیمانکار خصوصی مانند Anthropic نمیتواند تصمیم بگیرد ابزارهایش چگونه در کارهای امنیت ملی به کار گرفته شوند.
Anthropic و وزارت دفاع نتوانستند تا مهلت تعیینشده روز جمعه بعدازظهر ۲۷ فوریه ۲۰۲۶، به توافق برسند. دقایقی پس از پایان مهلت، وزیر دفاع، پیتر هگست، شرکت Anthropic را یک «ریسک زنجیره تأمین برای امنیت ملی» اعلام کرد که میتواند مانع شروع همکاری این استارتاپ با دولت آمریکا شود. درحالیکه Anthropic و پنتاگون درگیر بودند، OpenAI و آلتمن مذاکرات خود را با وزارت دفاع آغاز کردند. (در سال ۲۰۲۳، نیویورکتایمز علیه OpenAI و مایکروسافت شکایت کرد و آنها را به نقض کپیرایت محتوای خبری مرتبط با سیستمهای هوش مصنوعی متهم کرد. هر دو شرکت این اتهامات را رد کردند.)
آلتمن به طور علنی از موضع Anthropic حمایت کرد که هوش مصنوعی نباید برای نظارت داخلی یا سلاحهای خودکار استفاده شود. اما OpenAI توانست توافق خود را کامل کند. زمانی که OpenAI توافق اولیه را اعلام کرد، بسیاری داخل و خارج شرکت متوجه نشدند درحالیکه Anthropic نتوانسته بود به توافق برسد؛ آنها چگونه توانستند.
OpenAI بر خلاف Anthropic موافقت کرد که پنتاگون میتواند از فناوریاش برای تمام اهداف قانونی استفاده کند. اما OpenAI بحث حق ایجاد محافظهایی را برای جلوگیری از استفاده از سیستمهایش به روشهای ناخواسته را در مذاکرات خود با پنتاگون پیش کشیده بود. پنتاگون همچنین موافقت کرد که برخی از کارکنان OpenAI در پروژههای طبقهبندیشده کنار پرسنل دولت کار کنند «تا به مدلها کمک کرده و ایمنی آنها را تضمین کنند.»
از آن زمان، آلتمن و سایر کارکنان OpenAI، با لحن زبان جدیدی مذاکره کردند که صراحتاً استفاده از فناوری توسط پنتاگون برای نظارت گسترده را ممنوع میکند. آلتمن نوشت: «نباید عجله میکردیم تا این موضوع جمعه منتشر شود. مسائل فوقالعاده پیچیدهاند و نیاز به ارتباط روشن دارند. ما واقعاً تلاش میکردیم تنشها را کاهش دهیم و از نتیجه بدتر جلوگیری کنیم، اما فکر میکنم این موضوع فقط فرصتطلبانه و بیبرنامه به نظر رسید. تجربه یادگیری خوبی برای من است، زیرا در آینده با تصمیمات با ریسک بالاتر مواجه خواهیم شد.»
