h1_key

ChatGPT已經(jīng)從下游人工智能應(yīng)用程序“流行”到上游芯片領(lǐng)域。除了將GPU等人工智能芯片推向高峰外，它還極大地推動(dòng)了市場(chǎng)對(duì)新一代內(nèi)存芯片HBM(高帶寬內(nèi)存)的需求。據(jù)報(bào)道，自2023年初以來(lái)，三星和SK海力士的HBM訂單迅速上漲，價(jià)格也上漲。一些市場(chǎng)參與者透露，HBM3規(guī)格DRAM的價(jià)格最近上漲了5倍。這也給冬季的內(nèi)存市場(chǎng)帶來(lái)了一絲春天的痕跡。

  ChatGPT爆紅提升HBM需求

  ChatGPT作為一種自然語(yǔ)言人工智能應(yīng)用，不僅對(duì)芯片計(jì)算能力有很大的需求，而且對(duì)內(nèi)存技術(shù)也有很高的需求。例如，自ChatGPT推出以來(lái)，高速數(shù)據(jù)傳輸速度的HBM內(nèi)存芯片幾乎已成為ChatGPT的必要配置，市場(chǎng)需求激增。據(jù)報(bào)道，自2023年初以來(lái)，三星和SK海力士的HBM訂單迅速上漲，價(jià)格也上漲。

  一些市場(chǎng)參與者透露，英偉達(dá)已經(jīng)將SK海力士的HBM3安裝在其高性能GPU H100上，H100已經(jīng)開(kāi)始提供ChatGPT服務(wù)器。最近，最新一代高帶寬內(nèi)存HBM3的價(jià)格上漲了5倍。

  SK海力士HBM設(shè)計(jì)團(tuán)隊(duì)項(xiàng)目負(fù)責(zé)人樸明宰寫(xiě)道，HBM是一種高附加值DRAM產(chǎn)品，可實(shí)現(xiàn)高帶寬，適用于超級(jí)計(jì)算機(jī)、人工智能加速器等性能要求高的計(jì)算系統(tǒng)。隨著計(jì)算技術(shù)的發(fā)展，機(jī)器學(xué)習(xí)的應(yīng)用越來(lái)越廣泛，機(jī)器學(xué)習(xí)的基礎(chǔ)是神經(jīng)網(wǎng)絡(luò)模型，自20世紀(jì)80年代以來(lái)一直是研究的熱點(diǎn)。HBM作為最快的DRAM產(chǎn)品，在克服計(jì)算技術(shù)的局限性方面發(fā)揮著關(guān)鍵作用。

  此前，HBM雖然性能優(yōu)異，但與普通DRAM相比，其應(yīng)用較少。這是因?yàn)镠BM需要復(fù)雜的生產(chǎn)過(guò)程，平均價(jià)格至少是DRAM的三倍。然而，人工智能服務(wù)的擴(kuò)張正在扭轉(zhuǎn)這種局面。據(jù)報(bào)道，已有2.5萬(wàn)多張英偉達(dá)計(jì)算卡參加了深度學(xué)習(xí)培訓(xùn)。未來(lái)，隨著對(duì)ChatGPT等生成人工智能需求的不斷增加，對(duì)HBM的需求也將急劇增加。三星內(nèi)存副總裁Kim Jae-joon指出，基于自然語(yǔ)言技術(shù)的交互式人工智能應(yīng)用的發(fā)展，如ChatGPT，有利于提高內(nèi)存需求。高效、大量的計(jì)算能力和高容量的內(nèi)存是人工智能學(xué)習(xí)和推論模型的基礎(chǔ)。

  存儲(chǔ)巨頭齊爭(zhēng)高性能市場(chǎng) 

  自去年以來(lái)，由于消費(fèi)電子產(chǎn)品需求下降等因素，存儲(chǔ)行業(yè)已進(jìn)入下行周期。SK海力士的年凈利潤(rùn)降至2.4萬(wàn)億韓元，同比下降75%。去年第三季度和第四季度，三星電子存儲(chǔ)業(yè)務(wù)的收入和營(yíng)業(yè)利潤(rùn)也同比下降。Trendforce集邦咨詢公司預(yù)計(jì)，2023年第一季度DRAM價(jià)格將繼續(xù)下跌。其中，PC和服務(wù)器DRAM的下降仍然接近20%。HBM的熱需求相當(dāng)于一個(gè)“強(qiáng)心針”。在這種情況下，SK海力士、三星電子、美光等內(nèi)存制造商表示，他們將致力于HBM的發(fā)展。企業(yè)之間的產(chǎn)品開(kāi)發(fā)競(jìng)爭(zhēng)也在升溫。

  2013年，SK海力士將TSV技術(shù)應(yīng)用于DRAM，成功開(kāi)發(fā)了第一代HBM芯片。此后，SK海力士推出了HBM2、HBM2E、HBM3數(shù)代產(chǎn)品。據(jù)報(bào)道，SK海力士正在開(kāi)發(fā)HBM4，預(yù)計(jì)新一代產(chǎn)品將在高性能數(shù)據(jù)中心、超級(jí)計(jì)算機(jī)和人工智能領(lǐng)域得到更廣泛的應(yīng)用。SK海力士首席財(cái)務(wù)官金友賢表示，該公司正在關(guān)注基于人工智能的新服務(wù)器替換存儲(chǔ)器需求的積極信號(hào)。該公司計(jì)劃繼續(xù)投資DDR5/LPDR5、HBM3等主要產(chǎn)品的量產(chǎn)和未來(lái)的高增長(zhǎng)。

  雖然三星電子在HBM的發(fā)展上落后一步，但它也在尋找新的突破。據(jù)報(bào)道，三星電子正在開(kāi)發(fā)新一代集成人工智能處理器存儲(chǔ)計(jì)算芯片HBM-PIM。北京大學(xué)信息科學(xué)技術(shù)學(xué)院微納電子系副教授葉樂(lè)表示，存儲(chǔ)計(jì)算芯片將人工智能引擎引入存儲(chǔ)庫(kù)，將處理操作轉(zhuǎn)移到HBM本身，有效增加數(shù)據(jù)傳輸帶寬，提高存儲(chǔ)處理速度。存儲(chǔ)計(jì)算技術(shù)正在產(chǎn)品化。目前，基于SRAM的存儲(chǔ)計(jì)算已進(jìn)入產(chǎn)品化前夕。DRAM存儲(chǔ)計(jì)算適用于大計(jì)算力人工智能芯片，因此還需要解決一系列其他技術(shù)問(wèn)題。

  上下游發(fā)力搶占先機(jī)

  與HBM相關(guān)的上下游企業(yè)也在努力抓住機(jī)遇。AMD為HBM的誕生和發(fā)展做出了巨大貢獻(xiàn)。AMD首先意識(shí)到DDR的局限性，并產(chǎn)生了開(kāi)發(fā)堆疊內(nèi)存的想法，然后與SK海力士合作開(kāi)發(fā)了HBM，并在其Fury顯卡中使用了世界上第一個(gè)HBM。ISSCC2023年國(guó)際固態(tài)電路會(huì)議，AMD考慮在Instinct系列加速卡集成包裝HBM高帶寬內(nèi)存，繼續(xù)堆疊DRAM內(nèi)存，可以直接在集成內(nèi)存中執(zhí)行一些關(guān)鍵算法核心，而不是CPU和獨(dú)立內(nèi)存之間的往復(fù)通信，以提高人工智能處理的性能，降低功耗。

  英偉達(dá)也非常重視處理器和內(nèi)存之間的協(xié)調(diào)，并一直要求SK海力士提供最新的HBM3內(nèi)存芯片。據(jù)報(bào)道，已有2.5萬(wàn)多張英偉達(dá)計(jì)算卡參加了深度學(xué)習(xí)培訓(xùn)。如果所有互聯(lián)網(wǎng)公司都在搜索引擎中添加ChatGPT等機(jī)器人，對(duì)計(jì)算卡和相應(yīng)服務(wù)器的需求將達(dá)到50萬(wàn)元，這也將推動(dòng)HBM的需求大幅增長(zhǎng)。

  IP制造商也首先布局了HBM3。去年，Synopsys推出了第一個(gè)完整的HBM3IP解決方案，包括2.5D多芯片包裝系統(tǒng)的控制器PHY(物理芯片)和IP驗(yàn)證。HBM3PHYIP基于5nm工藝，每個(gè)引腳率可達(dá)7200mbps，內(nèi)存帶寬可提升至921GB/s。Rambus還推出了支持HBM3的內(nèi)存接口子系統(tǒng)，包括完全集成的PHY和數(shù)字控制器，數(shù)據(jù)傳輸速率為8.4Gbps，可提供1TB/s以上的帶寬。

  RambusIP核產(chǎn)品營(yíng)銷高級(jí)總監(jiān)FrankFero在接受采訪時(shí)指出，HBM仍處于相對(duì)較早的階段，未來(lái)還有很長(zhǎng)的路要走。可以預(yù)見(jiàn)，隨著越來(lái)越多的制造商在人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的不斷努力，內(nèi)存產(chǎn)品設(shè)計(jì)的復(fù)雜性迅速上升，對(duì)帶寬提出了更高的要求，寬帶需求的上升將繼續(xù)推動(dòng)HBM的發(fā)展。