Google Cloud 推出第六代TPU：Trillium

Google Cloud 向所有客户推出第六代 TPU

Google Cloud今天宣布面向客户推出其第六代 TPU Trillium，并透露其最新的 Gemini 2.0 旗舰模型已经使用Trillium TPU 进行训练。凭借其 13 Pb/s 对分带宽的单个 Jupiter 数据中心网络结构，用户可部署超过 100,000 个 Trillium 芯片组成的 AI 超级计算机，获取到前所未有的 91 exaflops 性能。

Trillium 相较上一代产品具有以下优势：训练性能提升 4 倍以上，推理吞吐量提升 3 倍，能源效率提升 67%，每芯片峰值计算性能提升 4.7 倍，高带宽内存 (HBM) 容量翻倍，芯片间互连 (ICI) 带宽翻倍，每美元训练性能提升 2.5 倍，每美元推理性能提升 1.4 倍。

—— Google 博客