Google Cloud 向所有客户推出第六代 TPU
Google Cloud今天宣布面向客户推出其第六代 TPU Trillium,并透露其最新的 Gemini 2.0 旗舰模型已经使用Trillium TPU 进行训练。凭借其 13 Pb/s 对分带宽的单个 Jupiter 数据中心网络结构,用户可部署超过 100,000 个 Trillium 芯片组成的 AI 超级计算机,获取到前所未有的 91 exaflops 性能。
Trillium 相较上一代产品具有以下优势:训练性能提升 4 倍以上,推理吞吐量提升 3 倍,能源效率提升 67%,每芯片峰值计算性能提升 4.7 倍,高带宽内存 (HBM) 容量翻倍,芯片间互连 (ICI) 带宽翻倍,每美元训练性能提升 2.5 倍,每美元推理性能提升 1.4 倍。
—— Google 博客