谷歌推出第八代TPU芯片:价格与性能比提升,并区分训练与推理

Gate News 消息,4月22日——谷歌云宣布在4月22日发布其第八代自研定制TPU (Tensor Processing Unit) 芯片。新阵容包括TPU 8t,专为AI训练任务设计,以及 TPU 8i,针对AI推理工作负载进行了优化。两款芯片将在今年晚些时候提供。谷歌还发布了用于构建AI代理的新工具,并宣布一项 $750 百万美元基金,以推动企业采用AI。

TPU 8t 在相同价格水平下,其性能比谷歌上一代 Ironwood TPU 高2.8倍。TPU 8i 相较其前身性能提升80%,并采用静态随机存取存储器 (SRAM) 架构,以实现“具有成本效益的大规模吞吐和低延迟,从而让数百万个代理能够同时运行”,据首席执行官桑达尔·皮查伊(Sundar Pichai)表示。与 Ironwood 相比,TPU 8t 和 TPU 8i 在能效方面均实现了超过两倍的性能/每瓦表现,其中 TPU 8t 提升了124%,TPU 8i 提升了117%。谷歌在整个技术栈中优化了能效,并集成动态功耗管理系统,可根据实时需求调整用电量。

谷歌的自研模型现在通过直接面向客户的API调用,每分钟处理超过1600亿个token,而上一季度为1000亿。如今,AI 在谷歌生成的所有新代码中占比达到75%,而去年秋季为50%。谷歌的企业级产品 Gemini Enterprise,其按付费月度活跃用户口径的季度环比增长为40%。公司预计,到2026年将投入略多于其机器学习计算预算的一半用于云服务,以更好地服务云客户与合作伙伴。谷歌也在扩大全面与博通(Broadcom)的合作,以为未来代次开发并供应定制TPU芯片,因为大型科技公司正在寻求对英伟达(NVIDIA)和AMD提供的昂贵且供给受限GPU的替代方案。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明
评论
0/400
暂无评论