山姆·奧特曼作為一名“AI思想家”，頻繁出現(xiàn)在世界各大科技、經(jīng)濟活動的講臺上，言必稱“算率”。

我還在《黃仁勛人肉快遞》中提到，900億美元的算率競爭，來源無非是兩種方式:購買和自主研究?，F(xiàn)在硅谷巨頭基本都是兩條腿走路，邊買邊自己開發(fā)結(jié)局。就連蘋果也被報道與臺積電進行了4年的推理芯片項目ACDC。（Apple Chip in Data Center）。

英偉達是主流GPU供應(yīng)商，AMD、這些Intel，但是每年可以生產(chǎn)數(shù)百萬個GPU的前提是上游供應(yīng)商可以提供足夠的零部件，比如最關(guān)鍵的HBM存儲芯片。

就拿H200來說，一個邏輯芯片要配6個HBM存儲芯片，到GB200，一個邏輯芯片要配8個HBM存儲芯片，整體需求會在現(xiàn)有的基礎(chǔ)上增加30%以上。TrendForce預(yù)計，2025年GB200的出貨量將達到100萬個，單是這個產(chǎn)品，對HBM存儲的需求就會達到800萬個。

01 HBMAI帶火

HBM（High Bandwidth Memory），中文翻譯是高帶寬內(nèi)存，因為近年來選擇了大量的GPU產(chǎn)品而流行起來(如下圖所示)，但實際上并不是一個特別新的概念，2013年被固態(tài)技術(shù)協(xié)會定位為行業(yè)標(biāo)準(zhǔn)。

主要GPU制造商的主流產(chǎn)品對應(yīng)HBM型號，來源：TrendForce

2015年，AMD Radeon R9 Fury HBM內(nèi)存首次應(yīng)用于X行業(yè)，但由于當(dāng)時對深度學(xué)習(xí)向量計算的需求尚未爆發(fā)，并且HBM與GPU/CPU封裝在一起，與DDR內(nèi)存空間相比，作為初期技術(shù)成本過高，難以大規(guī)模應(yīng)用于消費級產(chǎn)品。

高到什么程度？AMD RX 當(dāng)時Vega配備了2個HBM2內(nèi)存，BOM費用約為160美元，單個費用約為80美元，是GDDR5的數(shù)倍。 / GDDR5X，TrendForce估計，HBM的單價是DDR的5倍，而且隨著計算能力需求的增加，HBM的價格也在上漲，這一差距將進一步擴大。

昂貴，還得用，問題在于處理器與內(nèi)存之間存在數(shù)據(jù)交換的瓶頸。

HBM的高帶寬與主流存儲方案相比，在處理數(shù)據(jù)交換瓶頸方面具有天然優(yōu)勢。根據(jù)Embedded整理的數(shù)據(jù)，每一堆16GB的HBM2e帶寬達到460.8GB/s。

在結(jié)構(gòu)上，傳統(tǒng)方案一般是存算分離結(jié)構(gòu)，處理器是Cpu，內(nèi)存是內(nèi)存，存儲顆粒和邏輯芯片是分離的，而使用3D堆疊的HBM內(nèi)存是通過CoWoS和邏輯芯片封裝的。

1GB GDDR5和1GB HBM的die size對比，來源：網(wǎng)絡(luò)：

從視覺上看，CoWoS封裝的直接收益是GPU的尺寸更小，當(dāng)然HBM內(nèi)存本身的尺寸也很小，同樣是1GB存儲，GDDR5的尺寸約為672mm。2，而且HBM只有35毫米2，差距接近20倍。

這一尺寸的差距，比如R9，在PCB板上表現(xiàn)得更加明顯， 290X，芯片 PCB內(nèi)存匹配面積達到9900mm。2，而且使用CoWos封裝方案，總面積不到4900mm。2，它占PCB板面積的近一半。

與HBM存儲性能不同的GDDR5來源：AMD

在3D堆疊和CoWoS封裝的基礎(chǔ)上，HBM的顯存帶寬有了很大的提高，2015年，AMD官方提供了一個PPT(如上圖所示)，AMD將HBM稱為“與GDDR5不同的內(nèi)存”，并在硅通孔的基礎(chǔ)上清晰地描述了HBM。（TSV）HBM內(nèi)存、位寬、帶寬和工作電壓的技術(shù)差異。

總之，HBM解決了大量數(shù)據(jù)計算面臨的核心帶寬問題，在尺寸和功耗方面也比GDDR5具有明顯的優(yōu)勢。

02 HBM費用占3000美元的一半。

簡而言之，HBM內(nèi)存價格昂貴，你可能沒有概念，如果把它放在整個GPU的成本上，那就直觀了。

預(yù)計H100的BOM費用在3000美元左右，80GB的HBM存儲費用在1500美元左右，也就是18.75美元/GB，核心邏輯芯片約300美元，SXM模塊成本在300美元以下，包裝基板和CoWoS約300美元。

換言之，儲存的總成本占GPU材料成本的一半。

目前，主流供應(yīng)商正在加快生產(chǎn)提升的步伐，SK海力士預(yù)計今年的生產(chǎn)能力將翻一番。三星是最激進的。在今年的CES中，三星預(yù)計HBM的年生產(chǎn)能力將增加2.4倍。在3月底的MEM會議上，這一預(yù)期將增加到2023年的2.9倍，而2026年和2028年將分別增加到2023年的13.8倍和23.1倍。

SK海力士、三星和美光都提高了HBM的生產(chǎn)能力來滿足GPU客戶的需求，但是今年和明年的生產(chǎn)能力基本上都被搶走了。

去年12月，韓國媒體披露，英偉達向SK海力士和美光下訂購了13億美元，而著名硬件網(wǎng)站tomshardware援引了這一消息，估計這筆預(yù)算約為10.8 億美金到 15.4 一億美元之間，并且是為了確保H200這個產(chǎn)品的HBM供應(yīng)安全。

按照前面的BOM成本，一個GPU和六個HBM的成本是1500美元，這個預(yù)算也只能滿足86.6萬個HBM內(nèi)存需求。

2022-2024 HBM市場份額，來源：TrendForce

去年8月，TrendForce整理了HBM近三年的市場份額(如上表所示)，SK海力士和三星一直是市場的主角，其中SK海力士是英偉達HBM3的主要供應(yīng)商，三星主要為其他云廠服務(wù)，但也剛剛通過了英偉達的供應(yīng)商認(rèn)證，兩者占據(jù)了絕大多數(shù)市場份額，美光的整體市場份額約為5%。

TrendForce認(rèn)為，今年HMB3仍是市場主流，市場份額將超過60%，8層和12層HBM3e的累計份額約為25%。

此前，SK海力士宣布，今年Q2將開始少量出貨12層HBM3e，美光決定在3月份開始交貨，而三星將在9月份逐步向英偉達供貨(黃仁勛將在GTC上還給三星的12層HBM3e簽名：Jensen huang認(rèn)證)。

這就是說，三個供應(yīng)商將在第三季度拉響HBM3e市場競爭，大規(guī)模供應(yīng)相關(guān)產(chǎn)品。

需求量大，價格也隨之起飛。

Avrill分析師TrendForce 根據(jù)Wu引用產(chǎn)業(yè)鏈的消息，2025年的HBM定價談判已經(jīng)在今年第二季度開始。由于DRAM產(chǎn)能的不足，主要供應(yīng)商明確表示，價格上漲預(yù)計在5%-10%之間。漲價的原因可以歸結(jié)為三個:客戶需求旺盛、HBM3e良率低、成本高、供應(yīng)商產(chǎn)能和可靠性差異。

但是，基于DRAM的HBM產(chǎn)量大幅提升，也會間接降低其他產(chǎn)品的產(chǎn)能，這也意味著消費市場也可能面臨沖擊，TrendForce預(yù)測最大漲幅可能達到20%，因此AI接下來將會 PC價格上漲意味著你也在為AI產(chǎn)業(yè)的發(fā)展買單。

03 國產(chǎn)HBM最快來年問世。

HBM又是提產(chǎn)，又是漲價，國內(nèi)現(xiàn)狀如何，這大概是很多人關(guān)心的話題。

這一問題大致可以從兩個方面來看，第一，國產(chǎn)GPU能否購買HBM內(nèi)存；第二，國產(chǎn)HBM進展如何？

據(jù)公開資料顯示，國內(nèi)GPU已經(jīng)在使用HBM內(nèi)存，但先進產(chǎn)品產(chǎn)能有限，國內(nèi)主要采購前兩代產(chǎn)品，如HBM2e。此外，由于BIS的限制，相關(guān)產(chǎn)品不能直接通過SK海力士、三星和美光供應(yīng)，但可以通過上述供應(yīng)商在全球代理商的渠道采購一些特殊方式，然后將控制器和邏輯芯片結(jié)合起來，使用CoWoS完成GPU的包裝。

CoWoS封裝橫截面，其中藍色為3DHBM內(nèi)存，綠色為主板芯片，粉色為邏輯芯片，橙色為硅中介層，灰色為封裝基板，來源：Rambus

除了采購HBM內(nèi)存的特殊方式外，DRAM顆粒也可以直接采購，但需要原廠預(yù)留TSV孔，方便使用國產(chǎn)線對HBM進行堆疊和包裝。當(dāng)然也可以直接采購裸晶包裝成DRAM顆粒，然后通過TSV硅通孔技術(shù)將堆疊包裝成HBM內(nèi)存，再利用國產(chǎn)CoWoS產(chǎn)能完成GPU包裝。

與臺積電等少數(shù)廠商的全鏈CoWoS封裝能力不同，大陸的封裝分為CoW和WoS兩部分，由不同的廠商完成。但是，在產(chǎn)能不足的情況下，臺積電的部分CoWoS也會被拆分成這種形式，例如臺積電完成CoW部分，然后由日月、Amkor等制造商完成WoS部分。

據(jù)此前產(chǎn)業(yè)鏈消息，Amkor已進入英偉達的供應(yīng)商系統(tǒng)，獲得L40S的包裝訂單，并在CoWoS中進行包裝。如果英偉達的訂單將來在臺積電亞利桑那工廠生產(chǎn)，而且由于臺積電在美國沒有先進的包裝生產(chǎn)線，Amkor很可能會得到這些訂單。

回到正題，將CoWoS分為兩部分:CoWoW和WoS。核心在于技術(shù)的成熟度，其次是兩部分的良率同步。這可能是目前的挑戰(zhàn)之一，Know需要很長時間。 how和合作可以提高良率，降低成本。

關(guān)于國產(chǎn)HBM的進展情況，本質(zhì)上是回答國產(chǎn)HBM的問題。 目前，合肥、武漢、泉州、深圳都有相關(guān)企業(yè)在布局DRAM顆粒自主研發(fā)的進展。很多前三個地方的廠商應(yīng)該都很熟悉，深圳升維旭屬于新進入者。

深圳升維旭于2022年3月成立，專注于通用DRAM芯片的研發(fā)和生產(chǎn)。同年6月，日本半導(dǎo)體教父、爾必達總統(tǒng)坂本幸雄擔(dān)任首席戰(zhàn)略官。不幸的是，坂本幸雄于今年2月14日因心肌梗塞去世，享年76歲。

根據(jù)核心事務(wù)重重專欄作者Morris 根據(jù)Zhang的說法，盛維旭預(yù)計明年將盡快取出相關(guān)的實用SKU。第一代產(chǎn)品可能會堆放在更高的節(jié)點，顆粒密度更小，頻率/位寬/帶寬規(guī)格更小。

與此同時，一些國內(nèi)制造商也在進行更先進的晶體管結(jié)構(gòu)研究。例如，在去年年底的69屆IEEE國際電子元件年會上，長鑫發(fā)表了一篇論文，描述了環(huán)繞閘極結(jié)構(gòu)GAA(三星3nm節(jié)點導(dǎo)入的結(jié)構(gòu))技術(shù)，被解讀為突破3nm技術(shù)。

客觀來說，論文本質(zhì)上只是一種技術(shù)展示，不能等同于技術(shù)突破。長鑫還發(fā)表聲明稱，論文描述了與DRAM結(jié)構(gòu)和4F的結(jié)構(gòu)。2與目前6F相比，存儲單元結(jié)構(gòu)設(shè)計可行性有關(guān)的基礎(chǔ)研究2結(jié)構(gòu)，使用4F2結(jié)構(gòu)，在不影響工藝節(jié)點的情況下，可以實現(xiàn)芯片尺寸微縮30%)，與當(dāng)前的生產(chǎn)工藝無關(guān)。

長鑫的回復(fù)符合國產(chǎn)芯片現(xiàn)狀的客觀邏輯?，F(xiàn)在基本不可能和SK海力士、三星等存儲巨頭打成平手，但反映出來的趨勢至關(guān)重要——面對很多挑戰(zhàn)，國內(nèi)廠商還在繼續(xù)投資先進存儲技術(shù)的研發(fā)，這可能是一個真正應(yīng)該開心的點。畢竟這是國內(nèi)存儲，甚至是國內(nèi)芯片行業(yè)的火焰和希望。

本文來源于“騰訊科技”，作者：蘇揚，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com