news-details

Google推新晶片兩款TPU 分別主攻訓練、專攻推理 台鏈喊衝

Google年度盛會「Google Cloud Next 26」22日於美國盛大登場,如市場預期端出性能更強大的第八代張量處理器(TPU v8),並且一口氣推出兩款晶片。業界看好,Google新TPU問世,將引爆新一波TPU熱潮,台積電、聯發科、鴻海、廣達、英業達等台鏈跟著衝一波。

Google第八代TPU包括主攻訓練的TPU 8t,以及專攻推理的TPU 8i。市場看好聯發科取得推論部分的TPU 8i訂單,為其ASIC業務大加分,激勵聯發科昨天股價拉出第二根漲停板,以2,295元天價收市,大漲205元。

法人分析,Google的TPU需求強勁,隨雲端服務獲得多家企業導入應用,算力需求倍增,帶動TPU出貨量成長。近幾代TPU擴大採用台積電先進製程生產,成為台積電在輝達之外的另一大高速運算(HPC)成長引擎,也為鴻海、廣達、英業達等Google伺服器代工夥伴帶來更多商機。

Google Cloud執行長柯里安在大會開場提到,Google將開啟「代理式企業」新時代,推出一系列新技術,包括全新的AI技術堆疊,橫跨數據、資安與生產力的「代理式(Agentic)」創新。

柯里安表示,第八代TPU首創為訓練和推論打造兩款晶片,從建立最強大的AI模型,到調度龐大的AI代理群,以及管理最複雜的推理任務。

其中,TPU 8t定位為訓練效能引擎,經過最佳化處理,單一超級晶片(superpod)最多可擴展至9,600個TPU和2 PB共享高頻寬記憶體,處理能力是前一代Ironwood的三倍,每瓦性能提升高達兩倍,將前沿模型的開發時間從數個月縮短至數周。

TPU 8i則是專為驅動代理式 AI(agentic AI)服務打造推理引擎,只需要提出問題、將任務委派給AI代理,就能立即獲得回應。