Google 推出第八代 TPU 芯片：性能价格比提升，并区分训练与推理

Gate News 消息，4 月 22 日——Google Cloud 宣布将于 4 月 22 日发布其第八代自研定制 TPU (Tensor Processing Unit) 芯片。新产品线包括 TPU 8t，专为 AI 训练任务设计，以及 TPU 8i，针对 AI 推理工作负载进行优化。这两款芯片都将在今年晚些时候推出。Google 同时还发布了用于构建 AI 代理的新工具，并宣布一项 $750 百万基金，以推动企业采用 AI。

TPU 8t 在相同价格水平下，其性能比 Google 上一代 Ironwood TPU 提高 2.8 倍。TPU 8i 相较于前代性能提升 80%，并采用静态随机存取存储器 (SRAM) 架构，以实现“具备成本效益的大规模吞吐和低延迟，使数百万个代理能够同时运行”，这是 CEO 桑达尔·皮查伊（Sundar Pichai）的说法。与 Ironwood 相比，TPU 8t 和 TPU 8i 的能效都超过翻倍：其中 TPU 8t 提升 124%，TPU 8i 提升 117%。Google 在整个技术栈范围内优化了能效，并集成了动态功耗管理系统，可根据实时需求调整用电量。

Google 自有模型现通过直接客户 API 调用，每分钟处理超过 1600 亿个 token，高于上季度的 1000 亿。如今，AI 在 Google 生成的所有新增代码中占比达 75%，而去年秋季为 50%。Google 的企业产品 Gemini Enterprise，在按付费月活用户口径的季度环比中增长了 40%。该公司预计，到 2026 年将把略多于其机器学习算力预算的一半投入云服务，以更好服务云端客户及合作伙伴。Google 还在扩展与博通（Broadcom）的合作，开发并供应用于未来代际的定制 TPU 芯片，因为主要科技公司正寻求对来自 NVIDIA 和 AMD 的昂贵且供应受限的 GPU 的替代方案。