تفسیر مورگان استنلی: شتاب در تراشه‌های هوش مصنوعی، آیا برق می‌تواند همگام شود؟ تقاضای ضمنی حدود ۳۸ گیگاوات در سال ۲۰۲۷

TL;DR
· مورگان استنلی بر اساس حدود ۱۹ میلیون GPU/ASIC و میانگین ۲ کیلووات TDP برای هر تراشه، تخمین می‌زند که تقاضای برق ضمنی تراشه‌ها در سال ۲۰۲۷ حدود ۳۸ گیگاوات خواهد بود که از این مقدار، حدود ۱۶ گیگاوات به انویدیا تعلق دارد.
· ۳۸ گیگاوات به معنای کل مصرف برق مراکز داده یا ظرفیت برق ساخته شده نیست، بلکه آزمون فشار برای بررسی اینکه آیا زیرساخت‌ها می‌توانند فشار ناشی از عرضه تراشه‌ها را تحمل کنند، است.
· گزارش تخمین می‌زند که تقاضای HBM هوش مصنوعی در سال ۲۰۲۷ حدود ۴۸.۶ میلیارد گیگابیت و تقاضای CoWoS حدود ۲.۶۶ تا ۲.۶۹ میلیون تراشه خواهد بود، اما طرح حافظه لایه‌ای Rubin Ultra هنوز نهایی نشده است.
· پیش‌بینی می‌شود که عرضه TPU گوگل از ۳.۷ میلیون در سال ۲۰۲۶ به ۷.۳۵ میلیون در سال ۲۰۲۷ افزایش یابد و این امر باعث افزایش سفارشات زنجیره تأمین آزمایش مانند KYEC خواهد شد.

آخرین بررسی زنجیره تأمین آسیای مورگان استنلی، گسترش هوش مصنوعی را به یک عدد برق واضح‌تر تبدیل کرده است: بر اساس تخمین ۱۹ میلیون CoWoS ضمنی GPU و ASIC در سال ۲۰۲۷ و میانگین ۲ کیلووات TDP برای هر تراشه، ظرفیت برق مربوط به این تراشه‌ها حدود ۳۸ گیگاوات خواهد بود.

از این مقدار، حدود ۱۶ گیگاوات به انویدیا، حدود ۹ گیگاوات به گوگل، حدود ۷ گیگاوات به AMD، حدود ۲ گیگاوات به AWS و حدود ۱ گیگاوات به مایکروسافت، متا و سایر تولیدکنندگان تعلق دارد.

باید تأکید کرد که ۳۸ گیگاوات به معنای کل مصرف برق مراکز داده هوش مصنوعی در آن زمان نیست و همچنین ظرفیت برق موجود را شامل نمی‌شود. این عدد شامل مصرف برق CPU، شبکه، ذخیره‌سازی، خنک‌سازی و سایر زیرساخت‌های مرتبط نمی‌شود و بیشتر به عنوان آزمون فشار ناشی از حجم عرضه تراشه‌ها عمل می‌کند: آیا زیرساخت‌های برق می‌توانند همزمان با عرضه این تراشه‌ها، بار را تحمل کنند؟

این به این معناست که محدودیت گسترش قدرت محاسباتی هوش مصنوعی از «آیا GPU می‌تواند تولید شود» به HBM، CoWoS، آزمایش، تحویل رک و دسترسی به برق گسترش یافته است.

آزمون فشار ۳۸ گیگاوات، گلوگاه هوش مصنوعی را به سمت برق سوق می‌دهد

محاسبات مورگان استنلی بر اساس دو فرضیه اصلی است: در سال ۲۰۲۷، تعداد تراشه‌های GPU و ASIC مربوط به CoWoS حدود ۱۹ میلیون خواهد بود و میانگین TDP هر تراشه ۲ کیلووات تخمین زده می‌شود، که از این رو تقاضای برق ضمنی تراشه‌ها حدود ۳۸ گیگاوات خواهد بود.

۲ کیلووات به عنوان یک فرض میانگین برای تخمین کل استفاده شده است و به این معنا نیست که همه GPU و ASIC دارای مصرف یکسانی هستند. ۳۸ گیگاوات همچنین برابر با بار عملیاتی واقعی مراکز داده نیست، زیرا تراشه‌ها همیشه در بار کامل کار نمی‌کنند و CPU، شبکه، ذخیره‌سازی و سیستم‌های خنک‌کننده در سرور بار اضافی مصرف برق را به همراه خواهند داشت.

اما این عدد هنوز هم ارزش مرجع دارد. در دو سال گذشته، بحث‌های زنجیره تأمین هوش مصنوعی عمدتاً بر روی تولید GPU، تأمین HBM و ظرفیت تولید CoWoS متمرکز بوده است. با افزایش ادامه‌دار عرضه تراشه‌ها، دسترسی به شبکه برق، ساخت ایستگاه‌های برق، انتخاب مکان مراکز داده و برنامه‌های خرید بلندمدت برق ممکن است به طور مستقیم بر توانایی تبدیل تراشه‌ها به قدرت محاسباتی واقعی تأثیر بگذارد.

تحویل تراشه تنها اولین قدم است. پس از ورود GPU یا ASIC به مراکز داده، به سرور، رک، شبکه، خنک‌سازی، برق و سیستم‌های عملیاتی نیاز است. اگر ساخت زیرساخت‌ها از عرضه تراشه‌ها عقب بماند، بازار ممکن است با عدم تطابق «تراشه‌ها به دست آمده، اما مرکز داده و برق در دسترس نیست» مواجه شود.

تقاضای برق ضمنی تراشه‌های GPU/ASIC در سال ۲۰۲۷ حدود ۳۸ گیگاوات است که از این مقدار، ۱۶ گیگاوات به انویدیا، ۹ گیگاوات به گوگل و ۷ گیگاوات به AMD تعلق دارد.

برای انویدیا، تقاضای ضمنی ۱۶ گیگاوات همچنین توضیح می‌دهد که چرا این شرکت به طور مداوم تراکم GPU در هر رک را افزایش می‌دهد. گزارش می‌گوید که انویدیا به طور طولانی‌مدت امیدوار است که از طریق معماری مقیاس‌پذیر، GPU‌های بیشتری را متصل کند و توان محاسباتی و عملکرد در سطح رک را افزایش دهد.

اما طرح Kyber رک اول Rubin Ultra هنوز با چالش‌های PCB و خنک‌سازی مواجه است و ممکن است همچنان از طراحی Oberon NVL72 استفاده کند و سپس از طریق CPO یا NPO به مقیاس NVL576 گسترش یابد. افزایش تراکم رک، نیاز به برق را از بین نمی‌برد، بلکه فشار تأمین برق، خنک‌سازی و اتصال را به طراحی مراکز داده با مشخصات بالاتر متمرکز می‌کند.

گسترش همزمان HBM و CoWoS، مشخصات Rubin Ultra هنوز باید تعیین شود

علاوه بر برق، HBM و بسته‌بندی پیشرفته همچنان محدودیت‌های اصلی گسترش تراشه‌های هوش مصنوعی در سال ۲۰۲۷ خواهند بود.

بر اساس مدل زنجیره تأمین مورگان استنلی، تقاضای HBM مربوط به تراشه‌های هوش مصنوعی در سال ۲۰۲۷ حدود ۴۸.۶۱۸ میلیارد گیگابیت خواهد بود. مقدار پیکربندی CoWoS که در نمایشگاه ۳ ذکر شده، حدود ۲.۶۶۴ میلیون تراشه است و تقاضای جهانی CoWoS که در نمایشگاه ۵ ارائه شده، حدود ۲.۶۹۴ میلیون تراشه است که به دلیل تفاوت در دامنه آماری کمی متفاوت است.

گزارش همچنین تخمین می‌زند که بازار درآمد تراشه‌های سیلیکونی مربوط به تراشه‌های محاسباتی هوش مصنوعی در سال ۲۰۲۷ حداقل به ۵۸.۸ میلیارد دلار خواهد رسید. انویدیا همچنان بزرگترین تقاضا کننده CoWoS است و پیش‌بینی می‌شود که حدود ۱.۲۲ میلیون تراشه را به خود اختصاص دهد؛ در حالی که AMD و Broadcom به ترتیب حدود ۵۳۰ هزار و ۴۸۴ هزار تراشه خواهند بود.

تقاضای HBM هوش مصنوعی در سال ۲۰۲۷ حدود ۴۸.۶ میلیارد گیگابیت و همچنین پیکربندی‌های مختلف GPU و ASIC CoWoS و تقاضای HBM.

پیش‌بینی تقاضا هنوز یک متغیر مهم دارد: پیکربندی HBM Rubin Ultra هنوز نهایی نشده است.

بررسی زنجیره تأمین نشان می‌دهد که Rubin Ultra ممکن است از مشخصات لایه‌ای استفاده کند، نسخه‌های با کیفیت بالا از HBM4e 8Hi استفاده کنند و نسخه‌های با کیفیت پایین ممکن است از HBM4 12Hi یا 8Hi استفاده کنند. مورگان استنلی پیش‌بینی می‌کند که انویدیا ممکن است قبل از پایان سه‌ماهه سوم سال ۲۰۲۶ تصمیم نهایی را بگیرد.

این تنظیم عمدتاً سه فشار را منعکس می‌کند: کمبود ظرفیت HBM، افزایش هزینه‌های حافظه و نیازهای مختلف بارهای کاری هوش مصنوعی به ظرفیت و پهنای باند متفاوت است. گزارش معتقد است که کاهش پیکربندی HBM ممکن است تأثیر بیشتری بر بارهای کاری رمزگشایی داشته باشد تا پیش‌پر کردن، به ویژه در مدل‌های بزرگ با زمینه طولانی.

باید توجه داشت که نمایشگاه ۳ همچنان بر اساس پیکربندی HBM4e 12Hi، با ظرفیت کل ۳۸۴ گیگابایت برای هر تراشه محاسبه شده است. بنابراین، تقاضای ۴۸.۶ میلیارد گیگابیت HBM هنوز به طور کامل پیکربندی‌های کاهش یافته بالقوه را منعکس نمی‌کند. اگر پیکربندی نهایی کاهش یابد، میزان HBM هر تراشه ممکن است کاهش یابد، اما هزینه‌های پایین‌تر حافظه نیز ممکن است باعث افزایش عرضه تراشه‌ها شود و بخشی از تأثیر کاهش میزان هر تراشه را جبران کند.

اطلاعات عمومی Micron نشان می‌دهد که HBM4 آن‌ها وارد مرحله تولید انبوه شده است و HBM4E انتظار می‌رود در سال ۲۰۲۷ به تولید انبوه برسد. طرف عرضه در حال پیشبرد محصولات جدید است، اما اینکه Rubin Ultra در نهایت از چه پیکربندی استفاده خواهد کرد، همچنان به تعادل کلی انویدیا بین عملکرد، هزینه و تأمین بستگی دارد.

ریتم عرضه سری Rubin همچنان تهاجمی است. گزارش پیش‌بینی می‌کند که در سال ۲۰۲۷، مجموع عرضه Rubin و Rubin Ultra به نزدیک ۷ میلیون تراشه خواهد رسید که از این مقدار، حدود ۵.۹۲ میلیون تراشه به Rubin و حدود ۱.۰۴ میلیون تراشه به Rubin Ultra تعلق دارد؛ عرضه رک Rubin NVL72 ممکن است به حدود ۹۰ هزار دستگاه برسد.

انتظار می‌رود که Rubin از سه‌ماهه سوم سال ۲۰۲۶ به تدریج افزایش یابد و عرضه رک در سه‌ماهه چهارم آغاز شود. گزارش همچنین معتقد است که نگرانی‌های قبلی بازار در مورد «ذخیره» Blackwell بیشتر به عنوان ذخیره‌سازی بافر زنجیره تأمین است و انتظار می‌رود که در سال ۲۰۲۶ به طور کامل مصرف شود.

پیش‌بینی عرضه تراشه‌های Rubin و Rubin Ultra و عرضه رک Rubin NVL72.

این به این معناست که از نیمه دوم سال ۲۰۲۶ تا سال ۲۰۲۷، زنجیره تأمین انویدیا باید همزمان با مصرف ذخیره Blackwell، افزایش Rubin، تغییر مشخصات HBM و تحویل رک را به اتمام برساند. هر یک از این مراحل اگر کند شود، ممکن است بر مقیاس نهایی قدرت محاسباتی قابل تحویل تأثیر بگذارد.

TPU گوگل به ۷.۳۵ میلیون افزایش می‌یابد و سفارشات به زنجیره تأمین آزمایش منتقل می‌شود

علاوه بر انویدیا، TPU گوگل نیز یکی دیگر از خطوط رشد واضح در گزارش است.

بر اساس پیش‌بینی مورگان استنلی، عرضه TPU گوگل از ۳.۷ میلیون در سال ۲۰۲۶ به ۷.۳۵ میلیون در سال ۲۰۲۷ افزایش خواهد یافت. از این مقدار، v8i که با همکاری Broadcom تولید می‌شود، پیش‌بینی می‌شود که ۴ میلیون تراشه عرضه شود، v8t که با همکاری MediaTek تولید می‌شود، پیش‌بینی می‌شود که ۳ میلیون تراشه عرضه شود، v9 پیش‌بینی می‌شود که حدود ۱۵۰ هزار تراشه باشد و حدود ۲۰۰ هزار تراشه باقی‌مانده از v7 خواهد بود.

پیش‌بینی عرضه TPU‌های مختلف گوگل و تأثیر بالقوه آن بر درآمد KYEC.

افزایش عرضه TPU، سفارشات را به طراحی تراشه، تولید ویفر، بسته‌بندی پیشرفته و مراحل آزمایش منتقل خواهد کرد. گزارش پیش‌بینی می‌کند که کسب‌وکارهای مرتبط با TPU ممکن است حدود ۷ تا ۸ درصد از درآمد KYEC در سال ۲۰۲۶ و کمی بیش از ۱۰ درصد در سال ۲۰۲۷ را تشکیل دهند، از جمله آزمایش نهایی و بخشی از درآمد بررسی ویفر.

اگر تمام نیازهای گوگل شامل CPU، TPU، آزمایش نهایی و بخشی از بررسی ویفر را در نظر بگیریم، تقاضای مرتبط با گوگل پیش‌بینی می‌شود که حدود ۱۰ تا ۱۵ درصد از درآمد KYEC در سال ۲۰۲۷ را تشکیل دهد که بالاتر از ۸ تا ۱۰ درصد در سال ۲۰۲۶ است.

نیاز به آزمایش نیز در حال پیچیده‌تر شدن است. گزارش می‌گوید که TPU 3 نانومتری که با همکاری MediaTek تولید می‌شود، پیش‌بینی می‌شود که از آزمایش Burn-in استفاده کند تا عملکرد و قابلیت اطمینان تراشه‌های هوش مصنوعی را افزایش دهد؛ پروژه CPU گوگل نیز به آزمایش Burn-in و آزمایش سطح سیستم نیاز دارد.

فرآیندهای آزمایش پیچیده‌تر و دوره‌های آزمایش طولانی‌تر، سفارشات کارخانه‌های آزمایش را افزایش خواهد داد، اما اینکه آیا ظرفیت آزمایش به یک گلوگاه تبدیل خواهد شد، هنوز به تغییرات زمان آزمایش هر تراشه و حجم کل عرضه بستگی دارد. گزارش همچنین اشاره می‌کند که کاهش زمان آزمایش ممکن است فشار ظرفیت اخیر را کاهش دهد، بنابراین نمی‌توان به سادگی افزایش نیاز به آزمایش را معادل کمبود ظرفیت دانست.

۳۸ گیگاوات نه نقطه پایانی تقاضا، بلکه آزمون توانایی تحویل است

این بررسی زنجیره تأمین بیشتر از اینکه فقط اعداد بیشتری از عرضه تراشه‌های هوش مصنوعی را ارائه دهد، توجه را به این نکته جلب می‌کند که محدودیت‌های اصلی گسترش در سال ۲۰۲۷ در یک مدل واحد قرار گرفته است: انویدیا به طور مداوم تراکم GPU را افزایش می‌دهد، TPU گوگل به سرعت در حال افزایش است، تقاضای HBM و CoWoS به طور همزمان افزایش می‌یابد و تقاضای برق ضمنی تراشه‌ها به ۳۸ گیگاوات افزایش یافته است.

این اعداد هنوز به چند پیش‌فرض وابسته است. طرح HBM لایه‌ای Rubin Ultra هنوز نهایی نشده است، تأثیر کاهش پیکربندی حافظه بر عملکرد رمزگشایی با زمینه طولانی هنوز باید تأیید شود؛ ظرفیت‌های CoWoS و HBM باید طبق برنامه افزایش یابد؛ و ساخت سرورها، رک‌ها، برق و خنک‌سازی نیز باید با تحویل تراشه‌ها همگام شود.

طرح‌های اتصال نیز ممکن است تفاوت‌هایی را به همراه داشته باشند. گزارش می‌گوید که به دلیل محدودیت‌های فرآیند تولید محلی، سرعت SerDes تولیدکنندگان GPU هوش مصنوعی چین ممکن است هنوز در هر کانال ۱۰۰ گیگابیت بر ثانیه باقی بماند، بنابراین معماری فوق‌نقطه‌ای آن‌ها بیشتر از NPO برای اتصال استفاده می‌کند، در حالی که انویدیا به طور طولانی‌مدت به CPO توجه بیشتری دارد. مسیرهای مختلف بر طراحی فوق‌نقطه‌ای، هزینه‌های استقرار و کارایی سیستم تأثیر خواهد گذاشت.

بنابراین، ۳۸ گیگاوات پیش‌بینی دقیقی از مصرف برق واقعی در سال ۲۰۲۷ نیست، بلکه آزمون فشاری است که از سمت عرضه تراشه‌ها استخراج شده است. این نشان می‌دهد که تقاضای تراشه‌های هوش مصنوعی همچنان قوی است و همچنین به بازار یادآوری می‌کند: عواملی که تعیین می‌کنند آیا قدرت محاسباتی هوش مصنوعی می‌تواند تحقق یابد، ممکن است دیگر فقط تولید GPU نباشد، بلکه این است که آیا HBM، CoWoS، آزمایش، رک و برق می‌توانند همزمان در دسترس باشند.