نتیجه تحقیقات جدید: دیپ‌سیک R1 امن نیست
نگار علی- ۲۹ بهمن ۱۴۰۳
دیپ‌سیک، استارتاپ هوش مصنوعی چینی است که تنها یک سال از عمر تاسیس آن می‌گذرد؛ این استارتاپ پس از نشان دادن مدل‌های هوش مصنوعی موفقی که عملکردی قابل مقایسه با بهترین چت ربات‌های جهان را دارند، به شهرت رسید.
با اینحال عملکرد موفق دیپ‌سیک به تازگی زیر سوال رفته است؛ مدل دیپ‌سیک R1 این شرکت در تست‌های کلیدی ایمنی و امنیتی که توسط یک تیم تحقیقاتی در سیسکو با همکاری محققان دانشگاه پنسیلوانیا انجام شده است، به شدت شکست خورده است.
بنابر گفته این تیم تحقیقاتی، دیپ‌سیک R1 نرخ موفقیت حمله را صد درصد نشان داده است؛ نرخ موفقیت حمله صد درصد به این معناست که دیپ‌سیک نتوانست حتی یک پیام مضر را مسدود کند؛ گزارش سیسکو حاکی از آن است که دیپ‌سیک R1 به شدت مستعد استفاده مخرب است.
گفتنی است که مدل‌های دیگر، اگرچه نفوذناپذیر نیستند، اما دارای سطحی از حفاظت داخلی هستند که برای جلوگیری از تولید محتوای مضر طراحی شده‌اند؛ به نظر می‌رسد دیپ‌سیک R1 فاقد این حفاظت‌ها باشد.
اما این تنها خبر ناامیدکننده حول محور این مدل هوش مصنوعی پرآوازه نبود؛ گفته می‌شد که دیپ‌سیک R1 در مقایسه با میلیاردها دلار سرمایه‌گذاری شده توسط دیگر بازیگران بزرگ مانند OpenAI، Meta و Gemini، حدود ۶ میلیون دلار هزینه آموزش داشته است اما بنابر گزارش مؤسسه تحقیقاتی SemiAnalysis، دیپ‌سیک برای توسعه زیرساخت‌های خود حدود ۱٫۶ میلیارد دلار هزینه کرده است و از ۵۰ هزار پردازنده گرافیکی Hopper شامل ۱۰ هزار H800 و ۱۰ هزار H100 بهره می‌برد.
آمار و ارقام مؤسسه تحقیقاتی SemiAnalysis، با ادعاهای اولیه دیپ‌سیک مبنی‌بر هزینه‌های بسیار کم آموزش مدل‌هایش در تضاد است. به نظر می‌رسد که رقم ۶ میلیون دلار فقط به بخشی از هزینه‌های آموزش، یعنی هزینه زمان پردازش گرافیکی برای مرحله پیش‌آموزش مدل اشاره کرده و هزینه‌های تحقیق، توسعه، پردازش داده‌ها و زیرساخت‌های کلی را در نظر نگرفته است.
