英偉達業績大超預期,H200捧火新技術風口



英偉達業績大超預期,H200捧火新技術風口插图1


01


昨晚,英偉達披露24財年第三季度業績。

得益於數據中心領域的強勁需求,NVIDIA 本季度各項業績指標全面超出華爾街預期。總收入同比增長206%,達到創紀錄的181.2億美元,遠超預期的160億美元,凸顯了該公司在更加依賴加速計算的AI晶片市場中的技術領先地位。

英偉達業績大超預期,H200捧火新技術風口插图3

數據中心業務仍然是主要增長引擎,收入達145.1億美元,較上年同期增長 279%。

隨著雲提供商和互聯網公司利用該平臺為大型語言模型、推薦引擎和生成應用程式等人工智慧工作負載提供支持,對由新的Hopper GPU架構提供支持的NVIDIA HGX平臺的巨大需求推動業績放量。

然而,市場對英偉達在中國市場的銷售表現下滑已經開始有預期,導致公司股價盤後交易中下跌1%。

公司CFO表示,由於最近的許可限制,對中國的銷售額預計將下降,但其他高增長地區的強勁貢獻預計將抵消這一影響。受限制地區的產品銷售大概佔了公司數據中心收入的20%-25%。

10月17日美國商務部發布一系列新的晶片出口限制,擴大對高級人工智慧晶片的定義以避免轉手給中國,只要晶片總算力大於或等於4800TOPS,或性能密度達到一定閾值,都將受到管制。

據CFO透露,英偉達正在為中國開發新的合規晶片。本月早些時候有媒體報道稱,英偉達已開發出針對中國最新的算力系列晶片—HGXH20、L20PCle和L2PCle,都是由H100該款而來,能夠符合美國相關規定。

隨著渠道庫存水準正常化,遊戲收入同比增長81%至25.6億美元。

廣受好評的 GeForce RTX 40系列的推出預示著假期季節將繼續保持強勁勢頭。由於筆記本電腦採用率的提高以及利用 RTX 和 Omniverse 技術的設計工作流程的加強,專業可視化增長了108%。

新的出口管制對高端消費級顯卡同樣有約束力,導致英偉達旗艦遊戲顯卡一夜間全網斷貨。據英偉達中國官網顯示,RTX 4090資訊已經移除,在國內電商渠道已經下架,包括華碩、七彩虹等合作商。

NVIDIA預計會在明年初的CES 2024上宣佈RTX 40 SUPER系列升級版顯卡,包括RTX 4080 SUPER、RTX 4070 Ti SUPER、RTX 4070 SUPER,為此已經提前停止了RTX 4080、RTX 4070 Ti的大規模量產。

專業可視化和自動駕駛業績貢獻佔比較小,分別取得4.16億美元,+108%/2.61億美元,+4%。

GAAP(74%)和非GAAP(75%)毛利率均因中數據中心業績貢獻和較低的費用而大幅增長,運營支出增長較為溫和。

展望未來,管理層預計四季度收入將達到200億美元,比上一季度增長34%。Hopper等新架構的持續創新和執行使NVIDIA能夠充分利用跨多個行業不斷展開的人工智慧革命。

強勁的業績和前景表明NVIDIA仍然是加速計算領域明顯的技術領導者。由於人工智慧的採用仍處於早期階段,公司處於保持高於市場水準的擴張的有利位置。


02


發佈財報前一週,英偉達還推出了H200 GPU。

作為H100 GPU的繼任者,也是該公司首款使用 HBM3e 內存的晶片,擁有高達141GB的顯存。藉助HBM3e,與A100相比,H200的容量幾乎翻了一番,帶寬也增加了2.4倍。

與H100相比,H200的帶寬則從3.35TB/s增加到了4.8TB/s,帶來了進一步的性能飛躍,用跑模型來反映其進步,讓Llama2 70B在兩款晶片上運作,H200的推理速度比前任提升了一倍。

英偉達業績大超預期,H200捧火新技術風口插图5

GPU搭載的內存晶片帶寬關聯GPU數據處理能力,高帶寬的內存晶片可以為GPU提供更快的並行數據處理速度,H200帶寬和內存容量的擴大,得益於存儲單元HBM技術的使用。

AI大模型訓練的內存分為靜態內存和動態內存,動態變化的部分是內存佔用的主要原因。當處理器算力增長速度超過提取內存的能力範圍,“內存牆”的存在就會造成綜合算力的瓶頸。

據行業預計,處理器的峰值算力每兩年增長3.1倍,而動態記憶體(DRAM)的帶寬每兩年增長1.4倍,相差1.7倍。

為了解決這個問題,把DRAM從傳統2D轉變為立體3D結構的HBM成為了GPU存儲單元的理想解決方案。

HBM是3D DRAM的一種形式,相較於其他DRAM的集成方式,HBM存儲單元外的導線長度最短,數據傳遞速度最快,損耗最小,是目前最理想化的3D DRAM形式。

英偉達業績大超預期,H200捧火新技術風口插图7

在HBM產品供應上,擁有一半份額的SK海力士在2013年首次推出HBM記憶體,包含3個DRAM單元,後續陸續推出HBM2、HBM2e和HBM3,帶寬和 I/O 速度進一步提升,當前海力士已經實現了HBM3的量產並搭載於H100中,計劃24年開始量產下一代HBM3e,

與SK 海力士建立了合作關係的國內企業或間接受益,雅克科技是其前驅體的核心供應商;香農芯創是海力士HBM的分銷商,太極實業為海力士DRAM產品提供後續服務。

英偉達業績大超預期,H200捧火新技術風口插图9

而三星也預計將在今年4季度開始向北美客戶供應HBM3;美光在此前的財報會議上表示將在2024年通過HBM3E實現追趕,預計其HBM3E將於2024年Q3或者Q4開始為英偉達的下一代GPU供應。

當前高端GPU均已搭載HBM作為存儲單元的標配。NVIDIA高端GPUH100、A100主採HBM2e、HBM3,H100 GPU上主要搭載HBM3 內存。此外,AMD的MI200、MI300 以及 Google 自研TPU 等均將搭載高帶寬的HBM 提升內存能力。隨著多家科技公司陸續推出自研AI晶片,HBM客戶群將大幅擴容,需求增長倒逼產能供給側加速輸出。

據報道稱,全球最大的兩家記憶體晶片製造商三星和SK海力士正準備將HBM產量提高2.5倍,全球第三大DRAM公司美光也將從2024年開始積極瞄準HBM市場。

據TrendForce,2022年SK海力士、三星、美光HBM市佔率分別為50%、40%、10%,2023年預計分別53%、38%、9%。2024年HBM整體營收有望超過89億美元,復合增速127%。

存儲晶片技術路徑的進化對工藝、材料、設備端都意味著升級換代和需求增長的機會。

HBM工藝把DRAM技術路徑從平面帶向了3D結構,通過核心技術TSV(硅通孔技術)垂直堆疊多個DRAM,充分利用空間增加內存晶片密度。相比平面,TSV可以減小互連長度和信號延遲,從而實現晶片間的低功耗、高通信。中微公司是目前國內TSV設備的主要供應商。

其次,HBM先進 DRAM 加工工藝和TSV加工工藝兩個環節中,ALD(原子層沉積)設備必不可少。

原子層沉積(ALD)是將原子逐層沉積在襯底材料上的工藝,通過將兩種或多種前驅體交替通過襯底表面,發生化學吸附反應逐層沉積在襯底表面,能對複雜形貌基底表面全覆蓋成膜,設備的精度是核心要求。拓荊科技是國內ALD 設備的主要供應商之一。

更新需求比較大的還有IC載板。在目前應用較廣的 2.5D+3D 的先進封裝積體電路中,都採用 IC 載板作為承載晶片的轉接板,為晶片提供電連接、保護、製成、散熱等功效,相較於普通 PCB,IC 載板具有高密度、高腳數、高性能、小型化及輕薄化特點。

IC 載板已經成為封裝工藝價值量最大的材料,在傳統封裝中約佔40%-50%,在先進封裝中約佔70%-80%。國內佈局IC載板的企業包括興森科技、深南電路、華正新材、滿坤科技等。

據Yole 數據,預計全球先進封裝將從2019年的290億美元,增長到2025年的420億美元,佔封裝市場整體份額的49.4%。根據Prismark 數據,2025年IC載板預計將達到162億美元的產值,2021-2026年年均復合增長率為9.7%,增速領跑PCB行業整體。

英偉達業績大超預期,H200捧火新技術風口插图11

聯系郵箱:0xniumao@gmail.com