至于下一代的AI芯片，幾乎都已經(jīng)擁抱了第六代HBM-HBM4。英偉達Rubin平臺將升級為HBM4，Rubin GPU內置8顆HBM4，而將于2027年推出的Rubin Ultra則更多，使用了12顆HBM4。AMD的MI400也奔向了HBM4。

從HBM供應商來看，此前AMD、英偉達等主要采用的是SK海力士。但現(xiàn)在三星也正在積極打入這些廠商內部，AMD和三星目前都在測試三星的HBM。6月4日，在臺北南港展覽館舉行的新聞發(fā)布會上，黃仁勛回答了有關三星何時能成為 Nvidia 合作伙伴的問題。他表示：“我們需要的 HBM 數(shù)量非常大，因此供應速度至關重要。我們正在與三星、SK 海力士和美光合作，我們將收到這三家公司的產(chǎn)品?！?

HBM的競爭也很白熱化。SK海力士最初計劃在2026年量產(chǎn)HBM4，但已將其時間表調整為更早。三星電子也宣布計劃明年開發(fā)HBM4。三星與SK海力士圍繞著HBM的競爭也很激烈，兩家在今年將20%的DRAM產(chǎn)能轉向HBM。美光也已加入到了HBM大戰(zhàn)行列。

炙手可熱的HBM也成為了AI芯片大規(guī)模量產(chǎn)的掣肘。目前，存儲大廠SK Hynix到2025年之前的HBM4產(chǎn)能已基本售罄，供需矛盾日益凸顯。根據(jù)SK海力士預測，AI芯片的繁榮帶動HBM市場到2027年將出現(xiàn)82%的復合年增長率。分析師也認為，預計明年HBM市場將比今年增長一倍以上。

三星電子DRAM產(chǎn)品與技術執(zhí)行副總裁Hwang Sang-joon在KIW 2023上表示：“我們客戶當前的(HBM)訂單決定比去年增加了一倍多。”三星芯片負責業(yè)務的設備解決方案部門總裁兼負責人 Kyung Kye-hyun 在公司會議上更表示，三星將努力拿下一半以上的HBM市場。三星內存業(yè)務執(zhí)行副總裁Jaejune Kim對分析師表示，該公司將在2023年至2024年間將其HBM產(chǎn)能增加一倍。

互聯(lián)：重要的拼圖

AI芯片之間互聯(lián)一直是個難題，隨著近年來越來越多的加速器被集成到一起，如何高效傳輸數(shù)據(jù)成為了瓶頸。由于PCIe技術的發(fā)展速度跟不上時代需求，目前主流的AI芯片廠商都已經(jīng)自研了互聯(lián)技術，其中較為代表的就是英偉達的NVlink和AMD的Infinity Fabric。

NVIDIA的下一代Rubin平臺，將采用NVlink 6交換機芯片，運行速度為3600GB/s，上一代的Blackwell采用的是NVlink 5.0。NVlink設計之初，就是為了解決傳統(tǒng)的PCI Express (PCIe) 總線在處理高性能計算任務時帶寬不足的問題。下圖顯示了英偉達各代NVlink的參數(shù)情況。