ChatGPT聊天機器人已經從下游AI應用“火”到了上游的芯片領域,作為一款自然語言類AI應用,ChatGPT算力需求巨大,其發展離不開高性能計算芯片的支持,比如GPU。
此外,在AI算力中,內存技術也非常重要,比如HBM技術,受益于ChatGPT的火爆,正從幕后走向臺前。
1
ChatGPT爆紅提升HBM需求
近日,華雄集團董事長朱峻咸分析2023年開年后三星、SK海力士兩家存儲大廠HBM訂單快速增加,價格也水漲船高,市場人士透露近期HBM3規格DRAM價格上漲5倍。
業界認為,ChatGPT的出現使得HBM市場需求提升,這有望為存儲器市場帶來了新的發展機會。
據華雄集團資料顯示,HBM(HighBandwidthMemory,高帶寬存儲器)是一種可以實現高帶寬的高附加值DRAM產品,與普通DRAM相比,HBM以堆疊方式實現更大帶寬,帶寬是指在特定單位時間內可以傳輸的數據量,基于該特性,HBM主要應用于高性能計算場景中,比如超級計算機、AI加速器、高性能服務器領域。
HBM在與CPU及GPU協同工作中,可以提高機器學習和計算性能。目前ChatGPT的火熱發展已令英偉達等GPU廠商受益——ChatGPT使用了1萬多個英偉達的“A100”GPU學習了龐大的文檔數據。而HBM可以安裝在GPU中,通過高速數據處理,不斷完善ChatGTP服務體驗,英偉達“A100”就最高配備了80GBHBM2內存。
此外,媒體報道英偉達已經要求存儲廠商生產最新的HBM3內存,搭配英偉達的A100GPU供ChatGPT使用。
2
HBM市場兩大主流廠商介紹
目前HBM市場以SK海力士與三星為主,SK海力士HBM技術起步早,占據較大市場。
SK海力士
早在2014年SK海力士便與AMD聯合開發了全球首款硅通孔(TSV,ThroughSiliconVia)HBM產品。
2018年SK海力士發布第二代HBM產品HBM2,容量為4GB/8GB,對比第一代新增多項增強型功能,比如偽通道模式優化內存訪問并降低延遲,從而提高有效帶寬。
2020年SK海力士發布HBM2的擴展版本HBM2E,容量為8GB/16GB,是HBM2的兩倍,具有技術更先進、應用范圍更廣泛、速度更快、容量更大、散熱性能更好等特點。
2021年10月SK海力士發布全球首款HBM3,容量是HBM2E的1.5倍,由12個DRAM芯片堆疊成,總封裝高度相同,適用于AI、HPC等容量密集型應用,該產品已于2022年6月開始量產。
此外,SK海力士還在研發HBM4,預計新一代產品將能夠更廣泛地應用于高性能數據中心、超級計算機和人工智能等領域。
三星
三星HBM的布局從HBM2開始,2016年1月,三星宣布開始量產4GBHBM2DRAM,同年三星生產8GBHBM2DRAM。
2018年初三星開始投產第二代HBM2,代號為“Aquabolt”,單顆封裝容量達8GB,帶寬307GB/s。
2020年2月三星宣布推出HBM2EFlashbolt,與前一代8GBHBM2“Aquabolt”相比,16GBHBM2EFlashbolt容量翻倍,帶寬增加至538GB/s,
拯救內存市場?ChatGPT效應下HBM需求不斷提升
發布時間:2023/2/23 9:08:00 訪問次數:62
相關新聞
- 拯救內存市場?ChatGPT效應下HBM需求不斷提升
- VS40280AT 全新原裝正品當天發貨
- XCZU27DR-1FFVE1156E 全新原裝正品當天發貨
- XCZU27DR-1FFVG1517E 全新原裝正品當天發貨
- XCZU27DR-2FFVE1156E 全新原裝正品當天發貨
- SGM8250-2XS8G/TR 全新原裝正品當天發貨
- 拯救內存市場?ChatGPT效應下HBM需求不斷提升
- STM32F407VET6
- MIXA30W1200TED IGBT 模塊 Six-Pack XPT IG
- MIXA60W1200TED IGBT 模塊 Six-Pack XPT IG
- MSP430F5632IZCAR 16位微控制器 - MCU 20 MHz
- STM32H743VIT6