طراحی تراشه؛ نکاتی پیرامون استنتاج

Nvidia، تولیدکننده تراشه‌های رایانه‌ای، ارزشمندترین شرکت جهان است. این شرکت موفقیت خود را مدیون تطبیق‌پذیری واحد پردازش گرافیکی(GPU) است؛ تراشه‌ای که در اواخر دهه ۱۹۹۰ پیشگام ساخت آن بود. پردازنده‌های گرافیکی که در ابتدا برای بهبود کیفیت بصری بازی‌های ویدئویی طراحی شده بودند، نشان دادند که برای آموزش مدل‌های زبانی بزرگ بسیار مناسب هستند. این کشف، تقاضا برای تراشه‌های انویدیا و در پی آن ارزش‌گذاری این شرکت را به‌شدت افزایش داد.

تغییر مسیر از «آموزش» به «استنتاج»

اما شرایط به‌سرعت در حال تغییر است. تقاضا برای محاسبات هوش مصنوعی در حال تغییر مسیر از «آموزش» مدل‌ها به سمت واداشتن آن‌ها برای پاسخگویی به پرسش‌های دنیای واقعی است؛ فرایندی که تحت عنوان «استنتاج»(Inference) شناخته می‌شود. McKinsey برآورد می‌کند که تا پایان دهه جاری میلادی، استنتاج عامل ایجاد سه‌پنجم از تقاضا در مراکز داده هوش مصنوعی خواهد بود. به نظر می‌رسد انویدیا نیز این تغییر رویکرد را درک کرده است. در تاریخ ۱۶ مارس ۲۰۲۶، این شرکت از تراشه جدیدی به نام Grog 3 LPX رونمایی کرد که مشخصاً برای وظایف استنتاج طراحی شده و معماری آن با پردازنده‌های گرافیکی سنتی تفاوت دارد. اما این بار، انویدیا رقبای فراوانی خواهد داشت. گروهی از استارتاپ‌ها در حال ساخت تراشه‌هایی هستند که هدفشان اجرای مدل‌های هوش مصنوعی با سرعت و کارایی بالاتر نسبت به تراشه‌های انویدیا است.

چرا استنتاج برای سخت‌افزار چالش‌برانگیزتر است؟

آموزش و استنتاج، الزامات متفاوتی را بر سخت‌افزار تحمیل می‌کنند. فرایند آموزش که در آن به یک مدل هوش مصنوعی یاد داده می‌شود تا الگوها را در حجم عظیمی از داده‌های خام شناسایی کند؛ متکی بر تعداد بی‌شماری از محاسبات است که به‌صورت موازی انجام می‌شوند. به‌عنوان‌مثال، تراشه B200 انویدیا که یکی از محصولات پرچم‌دار این شرکت است؛ برای انجام چنین عملیاتی بیش از ۱۶,۰۰۰ واحد پردازشی یا همان «هسته»(Core) را در خود جای داده است.

در مقابل، فرایند استنتاج که در آن یک مدلِ تکمیل‌شده برای پاسخ به دستورات کاربر از آموزش‌های خود بهره می‌گیرد، عملکرد متفاوتی دارد. این فرایند در دو مرحله «پیش‌پرکردن» (Prefill) و «رمزگشایی» (Decode) انجام می‌شود. در مرحله پیش‌پرکردن، مدل دستور کاربر را پردازش کرده و آن را به واحدهای کوچک متنی تبدیل می‌کند (معمولاً حدود ۴۴ کاراکتر در زبان انگلیسی) که به‌عنوان «توکن» (Token) شناخته می‌شوند. برای تسریع امور، توکن‌سازی (Tokenising) بخش‌های مختلف پرسش می‌تواند به‌صورت موازی انجام شود. سپس مرحله رمزگشایی، پاسخ را توکن به توکن تولید می‌کند. برای انجام این کار، مدل بر «وزن‌های» خود (روابط بین توکن‌ها که در طول آموزش یاد گرفته شده‌اند) و همچنین توکن‌های تولیدشده قبلی تکیه می‌کند و این وزن‌ها در حافظه سیستم ذخیره می‌شوند.

«دیوار حافظه»؛ گلوگاه اصلی سرعت هوش مصنوعی

نیاز به دسترسی مداوم به حافظه، همان نقطه‌ای است که پردازنده‌های گرافیکی مدرن در آن با چالش و ضعف مواجه می‌شوند. پردازنده‌های هوش مصنوعی مانند B200، دارای حافظه روی‌تراشه (On-chip memory) کوچک اما فوق‌العاده سریع به نام SRAM و همچنین حافظه خارج‌از‌تراشه (Off-chip memory) بسیار بزرگ‌تری به نام DRAM هستند. دسترسی به DRAM می‌تواند تا ۱۰ برابر کندتر باشد و انرژی بسیار بیشتری نسبت به خواندن داده از SRAM مصرف کند. این مشکل در حال وخیم‌تر شدن است. با بزرگ‌تر شدن مدل‌های هوش مصنوعی و بهبود توانایی آن‌ها در مدیریت دستورات طولانی کاربران، نیاز آن‌ها به حافظه، به‌شدت در حال افزایش است. مطالعه‌ای توسط «امیر غلامی» از دانشگاه کالیفرنیا و همکارانش نشان می‌دهد که طی دو دهه گذشته، عملکرد محاسباتی تقریباً هر چند سال یک‌بار ۳ برابر شده است، درحالی‌که پهنای باند حافظه خارج‌از‌تراشه تنها با ضریبی در حدود ۱.۶ بهبود یافته است. این «دیوار حافظه» (Memory wall) به گلوگاه اصلی در افزایش سرعت استنتاج هوش مصنوعی تبدیل شده است.

راهکارهای نرم‌افزاری انویدیا برای عبور از دیوار حافظه

پردازنده‌های گرافیکی برای مقابله با این مشکل به راهکارهای نرم‌افزاری متکی هستند. یک رویکرد، دو مرحله یاد شده را بین پردازنده‌های مختلف تقسیم می‌کند. فاز پیش‌پرکردن روی پردازنده‌های گرافیکیِ بهینه‌شده برای توان محاسبات موازی بالا اجرا می‌شود، درحالی‌که مرحله رمزگشایی روی پردازنده‌های گرافیکی مجزایی که برای دسترسی سریع به حافظه طراحی شده‌اند، اجرا می‌شود. تکنیک دیگر «دسته‌بندی» (Batching) است که در آن پرسش‌های متعدد به طور هم‌زمان پردازش می‌شوند. زمانی که وزن‌های مدل بارگذاری شدند، می‌توان از آن‌ها برای پرسش‌های بسیاری به‌صورت هم‌زمان استفاده کرد که این امر مراجعات مکرر به حافظه خارجی را کاهش می‌دهد.

تراشه جدید انویدیا از قدرت نرم‌افزار برای تقویت حافظه روی‌تراشه استفاده می‌کند. حجم حافظه SRAM در این تراشه حدود ۵۰۰ مگابایت است؛ مقداری که در مقایسه با ۱۹۲ گیگابایت حافظه خارج‌از‌تراشه B200، بسیار ناچیز به نظر می‌رسد. اما آنچه تفاوت را رقم می‌زند، نرم‌افزار هوشمندی است که نحوه حرکت هر قطعه از داده‌ها در سراسر تراشه را به‌گونه‌ای هماهنگ و هدایت می‌کند که محاسبات و دسترسی به حافظه به حداکثر برسد.

رقبای نوظهور: استارتاپ‌هایی با معماری‌های انقلابی

استارتاپ‌ها در حال آزمایش طرح‌های ساختارشکنانه‌تری هستند. یک رویکرد، صرفاً ساخت یک تراشه بزرگ‌تر است. این رویکردی است که توسط Cerebras، طراح تراشه آمریکایی اتخاذ شده است. جدیدترین تراشه این شرکت که به‌اندازه یک بشقاب غذاخوری است، با عدد بزرگ ۹۰۰,۰۰۰ هسته پردازشی و ۴۴ گیگابایت SRAM. ازآنجایی‌که تمام جابه‌جایی داده‌ها در داخل خود «ویفر» (Wafer) رخ می‌دهد، Cerebras ادعا می‌کند که سیستم این شرکت می‌تواند استنتاج را تا ۱۵ برابر سریع‌تر از طرح‌های مرسوم اجرا کند. بااین‌حال، برای مدل‌های بسیار بزرگ، ذخیره تمامی پارامترهای آن‌ها روی SRAM غیرعملی است.

سایر شرکت‌ها با طراحی مجدد نحوه حرکت داده‌ها از میان هسته‌ها، در حال مقابله با این مشکل هستند. استارتاپ Matx که توسط مهندسان سابق تراشه گوگل تأسیس شده، بر پایه ایده‌ای بنا شده است که در واحدهای پردازش تنسور (TPU) گوگل مورداستفاده قرار می‌گیرد. این تراشه‌ها به معماری خاصی متکی هستند که «آرایه سیستولیک» (Systolic array) نامیده می‌شود؛ شبکه‌ای از عناصر پردازشی که داده‌ها به‌صورت ریتمیک در میان آن‌ها جریان می‌یابند، تقریباً شبیه به پمپاژ خون در بدن. پس از هر محاسبه، نتیجه مستقیماً به واحد بعدی منتقل می‌شود و نیاز به ذخیره نتایج میانی در حافظه را دور می‌زند. بااین‌وجود، آرایه‌های سیستولیک سنتی از نظر اندازه ثابت هستند. اگر برای وظایف بزرگ‌تر، با اندازه بزرگ‌تر ساخته شوند، در بسیاری از مواقع بیکار خواهند ماند و اگر با اندازه کوچک‌تر ساخته شوند، هنگام مواجهه با وظایف سنگین‌تر، کارایی‌شان کاهش می‌یابد. Matx یک آرایه سیستولیک تقسیم‌پذیر را پیشنهاد می‌کند که پردازنده را به چندین شبکه کوچک‌تر تقسیم کرده و بسته به اینکه تراشه در حال پردازش فاز پیش‌پرکردن است یا رمزگشایی، منابع محاسباتی را به شکل متفاوتی تخصیص می‌دهد.

محاسبات درون‌حافظه‌ای: رویکردی رادیکال برای شکستن دیوار

رویکرد سوم که استارتاپ d-Matrix به دنبال آن است، تلاش می‌کند تا با استفاده از اجزای یکسان برای مدیریت هم‌زمان حافظه و محاسبات، دیوار حافظه را به طور کامل از بین ببرد. این معماری که به‌عنوان «محاسبات درون‌حافظه‌ای» (In-memory computing) شناخته می‌شود، نویدبخش مصرف انرژی کمتر و استنتاج سریع‌تر است.

تخصصی‌سازی افراطی: تراشه‌هایی فقط برای یک الگوریتم

گروهی دیگر از طراحی تراشه‌هایی که پیرامون الگوریتم‌های خاص ساخته شده‌اند، دفاع می‌کنند تا کارایی را بیش‌ازپیش بهبود بخشند. استارتاپ Etched در حال طراحی تراشه‌ای سفارشی برای اجرای مدل‌های ترانسفورمر است؛ الگوریتم‌هایی که پایه و اساس اکثر LLMها را تشکیل می‌دهند. این تخصصی‌سازی به Etched اجازه می‌دهد تا سخت‌افزارهای موردنیاز برای سایر کاربردها را حذف کرده و نرم‌افزار در حال اجرا روی تراشه را ساده‌سازی کند. پژوهشگران در چین تعبیه مستقیم وزن‌های مدل در داخل سخت‌افزار را پیشنهاد کرده‌اند که شکل رادیکال‌تری از تخصصی‌سازی است.

در طرحی از آکادمی علوم چین، این وزن‌ها به‌صورت فیزیکی در چیدمان سیم‌های فلزی رمزگذاری می‌شوند و نویسندگان این مقاله ادعا می‌کنند که این تکنیک، نیاز به فراخوانی پارامترها از حافظه را برطرف کرده و کارایی فوق‌العاده‌ای را امکان‌پذیر می‌سازد. بااین‌حال، چنین تخصصی‌سازی‌هایی خطراتی را نیز به همراه دارد. طراحی یک تراشه جدید معمولاً بین ۱۲ تا ۱۸ ماه طول می‌کشد، درحالی‌که الگوریتم‌های هوش مصنوعی بسیار سریع‌تر تکامل می‌یابند. تراشه‌ای که بر مبنای معماری مدل غالب امروز ساخته شده است، در صورت تغییر مسیر این حوزه، می‌تواند به‌سرعت منسوخ شود.

آینده نامعلوم: نبرد برای تسخیر «استنتاج»

سرنوشت این رقابت در عرصه تراشه‌ها هنوز مشخص نشده است و رقبای انویدیا در مراحل متفاوتی قرار دارند. Cerebras در حال حاضر روی نسل سوم تراشه‌های خود کار می‌کند، d-Matrix انتظار دارد امسال اولین نسخه با دسترسی‌پذیری گسترده خود را روانه بازار کند، سایر شرکت‌ها از جمله Matx و Etched هنوز در مرحله توسعه هستند و انویدیا می‌گوید که تراشه Grog 3 LPX اواخر سال جاری میلادی وارد بازار خواهد شد. به‌راحتی می‌توان دید که پردازنده‌های گرافیکی، عرصه «آموزش» را فتح کرده‌اند، اما «استنتاجِ» آنچه در آینده رخ خواهد داد، به‌مراتب دشوارتر است.

گزارش حاضر در نسخه March 21st 2026نشریه The Economist  منتشر شده است.