伺服器示意圖。圖/AI生成,非新聞當事人、非新聞現場
研調機構集邦科技(TrendForce)最新產業研究,北美五大雲端服務供應商(CSP)為擴大AI訓練和推論應用部署,五大CSP廠總AI訓練算力年增逾56%、總AI推論算力年成長高達122%左右,並預估今年AI伺服器出貨將年成長28%以上。
北美五大雲端服務廠(CSP)採購AI伺服器需求持續增強,牽動鴻海、廣達、緯創等ODM廠後續建廠布局。業界推估,放眼未來三年,美國市場將成為台灣ODM廠擴增產能的主要地區,全力進攻L10/L11系統整合AI伺服器商機。
集邦科技預估,2026年AI伺服器出貨將仍以高階AI訓練機種為主力,占比約55%。然中長期內將改由AI推論機種主導,主因是CSP將積極推展AI應用以加速實現AI雲端服務商用化,同時,輝達也將拓展更多AI推論方案或使用情境,包括推動今年主力AI伺服器方案GB/VR系統除AI訓練用途外,強調該方案可支援AI推論相關工作負載。
據集邦科技估計,Google、亞馬遜、微軟、Meta、甲骨文等五大CSP廠,合計2026年資本支出將逾7,700億美元、年增近87%。分析北美五大CSP購置NVIDIA GB/VR系列獲得的運算能力,針對AI訓練部分,若以FP16/BF16為估算基礎,2025年五大業者的總算力達逾9 ExaFLOPS,2026年估將成長56%以上。
針對AI推論,若以FP4/NVFP4運算效能為估算基礎,2025年五大CSP的總算力逾37 ExaFLOPS,預計2026年將大幅成長近122%,顯著高於AI訓練,反映出NVIDIA此次軟硬體系統調校特別著重AI推論效能,並落實在新一代的GB300、VR200整櫃式方案中。