چگونه هوش مصنوعی در ساختن خودش بهتر شد

از زمان عرضه Claude Code، عامل مهندسی نرم‌افزار این شرکت در فوریه ۲۰۲۵، این ابزار به بخشی جدایی‌ناپذیر از جریان کاری توسعه‌دهندگان در سراسر جهان تبدیل شده است؛ حتی برای توسعه‌دهندگان خود آنتروپیک. به گفته این شرکت، بیش از چهارپنجم کدی که در ماه مه منتشر کرده، توسط Claude نوشته شده است. پیش از عرضه Claude Code، این سهم تنها «چند درصد اندک» بود.

من، ربات

این سامانه‌ها نه‌تنها از نظر حجم خروجی، بلکه از نظر کیفیت نیز پیشرفت چشمگیری داشته‌اند. یکی از معیارهای معتبر ارزیابی که توسط اندیشکده METR ارائه شده است، نشان می‌دهد که مدل‌های آنتروپیک در اوایل سال ۲۰۲۵ قادر بودند وظایفی را انجام دهند که برای یک مهندس انسانی کمی کمتر از یک ساعت زمان می‌برد. اما جدیدترین مدل‌های این شرکت اکنون می‌توانند وظایفی را انجام دهند که انجام آن‌ها برای یک انسان بیش از یک روز کاری کامل زمان نیاز دارد.

ازاین‌رو، شاید بتوان با دیده‌ای تردید به موضع آنتروپیک نگریست؛ شرکتی که در اوج رقابت قرار دارد و از بسیاری از رقبا پیش افتاده، اما در ۵ ژوئن خواستار آن شد که جهان «این امکان را داشته باشد که توسعه هوش مصنوعی مرزی (Frontier AI) را کُند یا به طور موقت متوقف کند». از منظر بدبینانه، طبیعی است که رهبر بازار مایل باشد رقبا از تلاش برای رسیدن به او دست بکشند.

بااین‌حال، به نظر می‌رسد مدیران آنتروپیک که سال‌هاست درباره خطرات هوش مصنوعیِ خارج از کنترل هشدار می‌دهند، در بیان این نگرانی‌ها صادق هستند. نسل جدید مدل‌های هوش مصنوعی اکنون به برنامه‌نویسان، مهندسان و به‌زودی دانشمندانی چنان توانمند تبدیل شده‌اند که بسیاری معتقدند ممکن است آخرین نسل از مدل‌هایی باشند که مستقیماً توسط انسان ساخته می‌شوند. «جک کلارک»، یکی از هم‌بنیان‌گذاران آنتروپیک برآورد می‌کند که تا پایان سال ۲۰۲۸، حدود ۶۰ درصد این احتمال وجود دارد که یک سامانه هوش مصنوعی بتواند بدون هیچ‌گونه دخالت انسانی، جانشین خود را طراحی و تولید کند.

چنین نقطه‌ای آغاز فرایندی خواهد بود که «خودبهبودی بازگشتی» یا RSI (Recursive Self-Improvement) نام دارد؛ چرخه‌ای بسته که در آن نسخه نخست یک مدل، نسخه دوم را تولید می‌کند؛ نسخه دوم سریع‌تر و توانمندتر است، سپس نسخه سوم را می‌سازد که باز هم پیشرفته‌تر است و این چرخه به همین ترتیب ادامه می‌یابد؛ به‌گونه‌ای که هر تکرار، بهبودهای بیشتری نسبت به مرحله قبل ایجاد می‌کند. اگر بتوان سامانه‌ای با چنین قابلیتی ساخت، دیگر نیازی نخواهد بود مهندسان انسانی مدل بعدی را توسعه دهند. به گفته کلارک، «آنچه برای بسیاری صرفاً داستانی خیال‌پردازانه به نظر می‌رسد، ممکن است در واقع روندی واقعی باشد.»

هیچ‌کس با اطمینان نمی‌داند پیامدهای خودبهبودی بازگشتی چه خواهد بود. ازآنجایی‌که هوش مصنوعی برخلاف انسان می‌تواند بدون وقفه و خستگی کار کند، برخی معتقدند این روند به‌سرعت به ظهور یک ابرهوش (Superintelligence) منجر خواهد شد؛ سناریویی که از آن با عنوان «جهش سریع» (Fast Take-off) یاد می‌شود. این پدیده گاهی با اصطلاح تقلیدی «فوم جاری» (Going Foom) نیز توصیف می‌شود؛ واژه‌ای که صدای فرضی یک «انفجار هوش» را تداعی می‌کند. (در توسعه هوش مصنوعی، «فوم» اصطلاحی شوخ‌طبعانه است که برای توصیف ایده جهش بسیار سریع و نمایی در قابلیت‌های هوش مصنوعی به کار می‌رود.)

بدبینان حوزه هوش مصنوعی بر این باورند که چنین ابرهوشی از کنترل انسان خارج خواهد شد و آغاز RSI همان لحظه‌ای است که سرنوشت بشر عملاً به ماشین‌ها واگذار می‌شود. بااین‌حال، حتی یک هوش مصنوعی خودبهبوددهنده نیز احتمالاً دست‌کم در مراحل اولیه با محدودیت‌هایی از نظر سرعت پیشرفت مواجه خواهد بود.

ساخت مدلی که واقعاً قادر به RSI باشد، مستلزم خودکارسازی طیف گسترده‌ای از وظایف تخصصی است که امروز توسط انسان‌ها انجام می‌شود. در حال حاضر، دانشمندان داده بر مبانی نظری هوش مصنوعی کار می‌کنند و برنامه‌نویسان آن نظریه‌ها را به سامانه‌های عملی تبدیل می‌کنند. مهندسان سیستم زیرساخت‌هایی را ایجاد می‌کنند که مدل‌های آزمایشی را به مقیاس تولید می‌رساند. گروه‌های دیگری به دنبال یافتن منابع جدید داده آموزشی یا توسعه روش‌هایی برای تولید داده‌های مصنوعی هستند. همچنین تیم‌های هم‌راستاسازی (Alignment) و ایمنی بررسی می‌کنند که خروجی فرایند آموزش، چه به‌صورت عمدی و چه غیرعمدی، موجب آسیب نشود.

لذت تکرار

همه این وظایف به یک اندازه قابل‌واگذاری به هوش مصنوعی نیستند و حتی در هر حوزه تخصصی نیز برخی فعالیت‌ها آسان‌تر از سایرین خودکار می‌شوند. احتمالاً زمان زیادی باقی نمانده است تا یک برنامه‌نویس انسانی بتواند بدون آنکه حتی یک خط کد بنویسد، وظیفه خود را انجام دهد؛ اما ممکن است هنوز مدت‌ها طول بکشد تا یک هوش مصنوعی بتواند برای خرید و دیجیتالی‌سازی مجموعه‌ای از مقالات علمی که تاکنون دیجیتال نشده‌اند، با نهادهای مختلف مذاکره کند.

همچنین همیشه مشخص نیست که این «مرز ناهموار» (Jagged Frontier) چگونه پیش خواهد رفت. طراحی الگوریتم‌های جدید تا مدت‌ها یکی از امن‌ترین مشاغل به نظر می‌رسید، تا اینکه در مه ۲۰۲۵، مدل AlphaEvolve متعلق به Google DeepMind وارد این عرصه شد. این مدل تغییری در نحوه توزیع بار پردازشی میان مراکز داده گوگل پیشنهاد کرد که موجب صرفه‌جویی معادل ۰٫۷ درصد از کل توان محاسباتی جهانی این شرکت شد. همچنین روش‌های بهتری برای انجام ضرب ماتریسی پیدا کرد که سرعت آموزش Gemini را حدود یک درصد افزایش داد.

تحقق کامل RSI مستلزم آن است که تمام وظایف این زنجیره به طور کاملاً خودکار شوند. بااین‌حال، حتی پیش از آن نیز شتاب گرفتن تحقیق‌وتوسعه به کمک هوش مصنوعی قابل‌مشاهده خواهد بود. بر اساس گزارشی که در ژانویه توسط مرکز امنیت و فناوری‌های نوظهور (CSET) وابسته به دانشگاه جورج‌تاون منتشر شد، هرچه سهم هوش مصنوعی در انجام فعالیت‌های تحقیق‌وتوسعه بیشتر شود، افزایش بهره‌وری نسبت به تحقیق‌وتوسعه صرفاً انسانی می‌تواند ابتدا ۱۰ برابر، سپس صد برابر و در نهایت هزار برابر شود. این گزارش هشدار می‌دهد که حتی اگر در آغاز، خودکارسازی برخی بخش‌های تحقیق‌وتوسعه هوش مصنوعی دشوار باشد، سرعت فزاینده پیشرفت باعث خواهد شد این گلوگاه‌ها نیز به‌سرعت برطرف شوند.

امروز هنوز هیچ مدل هوش مصنوعی قادر نیست جانشین خود را به طور کامل بسازد. اما مدل‌های بزرگ امروزی می‌توانند بدون دخالت انسان، مدل‌های کوچک‌تر را تولید کنند و با مقداری کمک انسانی، حتی در ساخت مدل‌های بزرگ دیگر نیز مشارکت داشته باشند.

اوایل سال جاری میلادی، «آندری کارپاتی»، پژوهشگری که آن زمان به‌صورت مستقل فعالیت می‌کرد و اکنون به آنتروپیک پیوسته است، موفق شد یک چت‌بات با توانایی تقریباً مشابه GPT-2، مدل زبانی بزرگی که OpenAI در سال ۲۰۱۹ معرفی کرده بود، آموزش دهد. در زمان عرضه GPT-2، آموزش این مدل به ۱۶۸ ساعت زمان روی ۳۲ تراشه پیشرفته آن دوران نیاز داشت. اما کارپاتی همان نتیجه را تنها با یک رایانه مجهز به هشت پردازنده گرافیکی (GPU) و ظرف سه ساعت به دست آورد. چند ماه بعد نیز توانست زمان آموزش مدل خود به نام Nanochat را به اندکی بیش از دو ساعت کاهش دهد.

در ماه مارس ۲۰۲۶ نیز او مسئولیت بهینه‌سازی بیشتر این فرایند را به یک عامل هوش مصنوعی به نام Autoresearch سپرد. تنها طی دو روز، زمان آموزش به یک ساعت و ۴۸ دقیقه کاهش یافت و پنج روز بعد نیز به یک ساعت و ۳۹ دقیقه رسید و خودش می‌گوید: «من هیچ دخالتی نکردم.» این بهبود ۱۸ درصدی اهمیت زیادی دارد، زیرا خود کارپاتی یکی از برجسته‌ترین پژوهشگران این حوزه به شمار می‌رود؛ او از اعضای مؤسس تیم پژوهشی OpenAI بوده و پنج سال نیز ریاست بخش هوش مصنوعی تسلا را بر عهده داشته است.

بهبودهایی که عامل هوش مصنوعی ایجاد کرد، در ظاهر چندان چشمگیر نبودند. این سامانه مقادیر اولیه مناسب‌تری برای فرایند آموزش انتخاب کرد، پنجره «توجه» (Attention) مدل زبانی بزرگ را گسترش داد و متوجه شد تمرکز مدل در برخی مراحل از بین می‌رود. به گفته کارپاتی، هیچ‌یک از این اصلاحات به‌تنهایی نوآورانه نبودند؛ اما او خود متوجه آن‌ها نشده بود؛ ولی «وقتی این اصلاحات روی هم انباشته شدند، واقعاً Nanochat را بهتر کردند.»

چنین افزایش‌هایی در سرعت توسعه، با توانمندتر شدن مدل‌ها اجتناب‌ناپذیر است. بخش بزرگی از فرایند ساخت مدل‌های مرزی چندترابایتی، برخلاف تصور رایج که با حقوق‌های نجومی و دفاتر لوکس صنعت هوش مصنوعی گره خورده، چندان جذاب نیست. این کار عمدتاً شامل یکپارچه‌سازی لایه‌های مختلف زیرساخت که از شرکت‌های ثالث تهیه شده‌اند، رفع اشکال سخت‌افزار و نرم‌افزار و تنظیم دقیق ابرپارامترها (Hyperparameters) در ابتدای فرایند آموزش است تا در نهایت مدل عملکرد مطلوبی داشته باشد. امروزه یک سامانه هوش مصنوعی می‌تواند بخش عمده‌ای از این وظایف را با حداقل نظارت انسانی انجام دهد.

اما حتی فعالیت‌های فکری پیچیده‌تر نیز به‌سرعت در حال نزدیک‌شدن به مرحله خودکارسازی هستند. «جو اسپیساک»، پژوهشگر آزمایشگاه Reflection AI که روی توسعه مدل‌های مرزی وزن‌باز کار می‌کند، می‌گوید اگر تنها یک طرح اولیه از ایده‌ای برای افزایش بهره‌وری در اختیار یک مدل مرزی قرار دهید، این مدل قادر است آزمایش مناسب را طراحی کند، آن را روی یک مدل آزمایشی اجرا کند، نتایج را تحلیل کند و در نهایت برنامه‌ای آماده برای پیاده‌سازی در مقیاس واقعی ارائه دهد.

مدل‌های هوش مصنوعی اکنون می‌توانند چنین وظایفی که انجام آن‌ها برای انسان ساعت‌ها زمان می‌برد را در حدود ۳۰ دقیقه انجام دهند. به‌تدریج نقش انسان به مدیر پژوهش محدود می‌شود؛ کسی که تنها مسیر کلی تحقیقات را تعیین می‌کند، درحالی‌که خود مدل‌ها آزمایش‌ها را کدنویسی، اشکال‌زدایی، بهینه‌سازی و پایش می‌کنند.

افزایش بهره‌وری حاصل از این روند بسیار جذاب است، اما هم‌زمان نگرانی‌هایی جدی نیز ایجاد می‌کند. هرچه نقش انسان در فرایند تولید مدل‌های هوش مصنوعی کوچک‌تر شود، احتمال از دست رفتن کنترل نیز بیشتر خواهد شد. در نهایت ممکن است به وضعیتی برسیم که مدل‌ها توسط مدل‌ها آموزش ببینند، اهداف آن‌ها توسط مدل‌ها تعیین شود و حتی ایمنی آن‌ها نیز صرفاً توسط مدل‌های دیگر ارزیابی شود.

برخی این وضعیت را فاجعه‌بار می‌دانند. «مکس تگمارک»، فیزیک‌دان و پژوهشگر یادگیری ماشین در MIT که بخش عمده دهه گذشته را صرف فعالیت در حوزه ایمنی هوش مصنوعی کرده است، این وضعیت را به راننده‌ای تشبیه می‌کند که در بزرگراه، با چشمان بسته، پدال گاز را تا انتها فشار می‌دهد. او در برنامه ویدئویی Inside Tech متعلق به اکونومیست گفت تا زمانی که راننده حاضر نباشد چشمانش را باز کند، نتیجه چنین رفتاری چیزی جز نابودی قطعی نخواهد بود.

به اعتقاد تگمارک، سامانه‌های قدرتمند هوش مصنوعی ممکن است در تصمیم‌گیری‌های دولتی و تجاری از انسان پیشی بگیرند و عملاً اختیار را از بشر سلب کنند؛ یا قدرتی بی‌سابقه در اختیار نخستین توسعه‌دهنده خود قرار دهند و زمینه‌ساز شکل‌گیری یک نظام تمامیت‌خواه جهانی شوند؛ یا حتی به‌سادگی دیگر اهمیتی برای انسان قائل نباشند و به‌تدریج انسان‌ها را کنار بزنند تا فضای بیشتری برای مراکز داده و تأسیسات تولید انرژی فراهم شود.

سه سال پیش، تگمارک از پیشگامان درخواست جهانی برای توقف موقت توسعه هوش مصنوعی بود و استدلال می‌کرد که ساخت GPT-4 که در آن زمان پیشرفته‌ترین مدل موجود به شمار می‌رفت، معادل همان رانندگی با چشمان بسته است. گزارش امسال CSET نیز هشدار داده است که سامانه‌هایی که از طریق RSI ایجاد می‌شوند «خطراتی بسیار شدید» به همراه دارند و بنابراین باید از هم‌اکنون اقدامات پیشگیرانه برای مواجهه با آن‌ها آغاز شود. به نظر می‌رسد آنتروپیک نیز تا حد زیادی با این دیدگاه همسو شده است.

تراشه داغ

درعین‌حال، چندین محدودیت فیزیکی نیز وجود دارد که دست‌کم در کوتاه‌مدت، سرعت خودبهبودی مدل‌ها را محدود خواهد کرد. مهم‌ترین این محدودیت‌ها، دسترسی به توان محاسباتی است. با وجود افزایش بهره‌وری، مدل‌های جدید همچنان برای آموزش به توان پردازشی بیشتری نسبت به نسل‌های پیشین نیاز دارند و همین موضوع باعث می‌شود سرعت پیشرفت، تابع سرعت توسعه مراکز داده باشد.

«هلن تونر»، مدیر اجرایی موقت CSET و یکی از نویسندگان اصلی گزارش این مرکز معتقد است استفاده روزافزون مصرف‌کنندگان از هوش مصنوعی نیز ممکن است سرعت تحقیق‌وتوسعه مبتنی بر هوش مصنوعی را کاهش دهد. ظرفیت محدود مراکز داده هوش مصنوعی باید میان سه نیاز مختلف تقسیم شود: ارائه خدمات به مشتریان پرداخت‌کننده، آموزش مدل‌های آینده و اجرای پژوهش‌های باز و بلندمدت. هرچه تقاضا در بخش نخست بیشتر باشد، در کوتاه‌مدت منابع محاسباتی کمتری برای دو بخش دیگر باقی خواهد ماند.

موضوع دیگر، داده‌های آموزشی است. بخش بزرگی از پیشرفت‌های اخیر هوش مصنوعی در حوزه‌هایی رخ داده که مدل‌ها می‌توانند با اتکا به پاداش‌های قابل‌راستی‌آزمایی (Verifiable Rewards)، خودشان نحوه موفقیت را بیاموزند. برای مثال، یک برنامه رایانه‌ای یا اجرا می‌شود یا نمی‌شود؛ یک برهان ریاضی نیز یا صحیح است یا نیست.

در چنین مواردی، داده‌های مصنوعی که توسط خود مدل‌ها برای آموزش مدل‌های دیگر تولید می‌شوند، قابل‌ارزیابی هستند و می‌توان بدون نگرانی از افت کیفیت ناشی از آموزش مدل بر خروجی خودش، آن‌ها را به مجموعه‌داده آموزشی افزود. اما بهبود توانایی مدل در نویسندگی خلاقانه یا قضاوت حقوقی بسیار دشوارتر است. اگر مدل‌ها برای یادگیری همچنان به تعامل با دنیای واقعی نیاز داشته باشند، این موضوع نیز می‌تواند دامنه خودبهبودی آن‌ها را محدود کند.

«بستن چرخه» یا همان تحقق کامل RSI، ممکن است یکی از گام‌های مهم در مسیر دستیابی به ابرهوش باشد و بسته به نگاه هر فرد، آینده‌ای آرمان‌شهری یا فاجعه‌بار را رقم بزند. اما این تنها گام لازم برای ایجاد رشد نمایی در توانمندی‌های هوش مصنوعی نیست.

گزارش حاضر در نسخه June 13th 2026 نشریه The Economist منتشر شده است.