Google推出了新芯片,以削减主要的隐藏AI成本

在Google Cloud Next 25活动中,Google发布了其最新一代张量处理单元(TPU),名为Ironwood。这一新芯片标志着Google的重点发生重大转变,强调用于推理而非训练。传统上,TPU主要用于训练神经网络,这一过程由AI专家和数据科学家主导。然而,Ironwood的目标是满足数百万甚至数十亿用户的实时预测需求。
Ironwood TPU
Ironwood TPU的推出正值AI行业关键时刻,焦点从实验项目转向企业对AI模型的实际应用。像Google的Gemini这样的高级AI模型提升了推理能力,导致推理期间对计算能力的需求激增。这一转变正在推高成本,正如Google在描述Ironwood时所强调:“推理和多步骤推理正将计算需求的增量——以及成本——从训练转向推理时间(测试时扩展)。”Ironwood代表了Google在优化性能和效率方面的承诺,特别是在推理这一日益昂贵的领域。
推理芯片
Google与TPU的历程超过十年,Ironwood之前已有六代。虽然训练芯片产量较低,但推理芯片面向需要从训练模型中进行日常预测的更广泛受众,属于高产量市场。此前,Google的第六代TPU Trillium被定位为兼具训练和推理能力。然而,Ironwood主要聚焦于推理,标志着与这种双用途方法的显著背离。
必要投资
这一重点转变可能预示着Google对Intel、AMD和Nvidia等外部芯片制造商依赖的改变。据KeyBanc Capital Markets统计,这些供应商历来主导Google的云计算业务,占用了99%的处理器。通过投资自有TPU,Google可能旨在减少对这些供应商的依赖,并可能节省AI基础设施不断上升的成本。股票分析师如DA Davidson的Gil Luria估计,如果Google直接向Nvidia的客户销售TPU,去年可能产生高达240亿美元的收入。
Ironwood vs. Trillium
Google在活动中展示了Ironwood相较Trillium的技术优势。Ironwood的每瓦性能是Trillium的两倍,达到每秒29.3万亿次浮点运算。它还配备192GB高带宽内存(HBM),是Trillium的六倍,内存带宽达到每秒7.2太比特,是Trillium的4.5倍。这些增强旨在促进更大的数据移动并减少芯片上张量操作时的延迟,正如Google所述:“Ironwood旨在最小化芯片上的数据移动和延迟,同时进行大规模张量操作。”
扩展AI基础设施
内存和带宽的进步是Google扩展AI基础设施战略的核心。扩展涉及高效利用分组芯片并行解决问题,提升性能和利用率。这对经济原因至关重要,因为更高的利用率意味着减少昂贵资源的浪费。Google此前强调Trillium能够扩展到数十万芯片,同样,他们也强调Ironwood能够组成“数十万Ironwood芯片,以快速推进GenAI计算的前沿。”
除了硬件发布,Google还推出了Pathways on Cloud,这是一个将AI计算任务分配到不同机器上的软件解决方案。此前仅限内部使用,该软件现已向公众开放,进一步增强了Google的AI基础设施能力。
相关文章
苹果智能眼镜或将在WWDC27上首次亮相,重点突出隐私保护
彭博社的马克·古尔曼报道,苹果智能眼镜(内部代号 N50)计划于 2027 年 6 月的全球开发者大会(WWDC27)上首次亮相,零售版预计将于 2027 年秋季上市。该设备原定于今年晚些时候及 2027 年初发布,但现已推迟,以便进行进一步的产品完善并加强隐私保护协议。隐私仍是苹果智能眼镜战略的核心支柱。从 Meta 等竞争对手的隐私争议中吸取教训,苹果正在实施强有力的功能与政策。目前考虑的方案包括:完全移除摄像头,专注于人工智能交互、音频播放和通话;或保留摄像头但禁用照片和视频录制功能,仅
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧
报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展
针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
相关专题推荐
评论 (18)
0/500
Wow, Google's Ironwood TPU sounds like a game-changer for AI inference! Focusing on efficiency could really shake up the cost dynamics. Curious how this stacks against NVIDIA’s offerings—any bets on who’ll dominate the market? 😎
Whoa, Google's Ironwood TPU sounds like a game-changer for AI inference! Cutting costs like that could really shake up the cloud market. Anyone else curious how this stacks up against Nvidia’s gear? 🤔
Google's new Ironwood chip sounds like a game-changer for AI inference! 🚀 Excited to see how it cuts costs and boosts efficiency.
Googleの新しいIronwood TPUはAIコストを変えるものですね!今は推論に重点を置いているのがかっこいいけど、トレーニングの側面も気になります。でも、隠れたコストを削減できるなら賛成です。トレーニング部分も改善し続けてほしいですね!🤞

在Google Cloud Next 25活动中,Google发布了其最新一代张量处理单元(TPU),名为Ironwood。这一新芯片标志着Google的重点发生重大转变,强调用于推理而非训练。传统上,TPU主要用于训练神经网络,这一过程由AI专家和数据科学家主导。然而,Ironwood的目标是满足数百万甚至数十亿用户的实时预测需求。
Ironwood TPU
Ironwood TPU的推出正值AI行业关键时刻,焦点从实验项目转向企业对AI模型的实际应用。像Google的Gemini这样的高级AI模型提升了推理能力,导致推理期间对计算能力的需求激增。这一转变正在推高成本,正如Google在描述Ironwood时所强调:“推理和多步骤推理正将计算需求的增量——以及成本——从训练转向推理时间(测试时扩展)。”Ironwood代表了Google在优化性能和效率方面的承诺,特别是在推理这一日益昂贵的领域。
推理芯片
Google与TPU的历程超过十年,Ironwood之前已有六代。虽然训练芯片产量较低,但推理芯片面向需要从训练模型中进行日常预测的更广泛受众,属于高产量市场。此前,Google的第六代TPU Trillium被定位为兼具训练和推理能力。然而,Ironwood主要聚焦于推理,标志着与这种双用途方法的显著背离。
必要投资
这一重点转变可能预示着Google对Intel、AMD和Nvidia等外部芯片制造商依赖的改变。据KeyBanc Capital Markets统计,这些供应商历来主导Google的云计算业务,占用了99%的处理器。通过投资自有TPU,Google可能旨在减少对这些供应商的依赖,并可能节省AI基础设施不断上升的成本。股票分析师如DA Davidson的Gil Luria估计,如果Google直接向Nvidia的客户销售TPU,去年可能产生高达240亿美元的收入。
Ironwood vs. Trillium
Google在活动中展示了Ironwood相较Trillium的技术优势。Ironwood的每瓦性能是Trillium的两倍,达到每秒29.3万亿次浮点运算。它还配备192GB高带宽内存(HBM),是Trillium的六倍,内存带宽达到每秒7.2太比特,是Trillium的4.5倍。这些增强旨在促进更大的数据移动并减少芯片上张量操作时的延迟,正如Google所述:“Ironwood旨在最小化芯片上的数据移动和延迟,同时进行大规模张量操作。”
扩展AI基础设施
内存和带宽的进步是Google扩展AI基础设施战略的核心。扩展涉及高效利用分组芯片并行解决问题,提升性能和利用率。这对经济原因至关重要,因为更高的利用率意味着减少昂贵资源的浪费。Google此前强调Trillium能够扩展到数十万芯片,同样,他们也强调Ironwood能够组成“数十万Ironwood芯片,以快速推进GenAI计算的前沿。”
除了硬件发布,Google还推出了Pathways on Cloud,这是一个将AI计算任务分配到不同机器上的软件解决方案。此前仅限内部使用,该软件现已向公众开放,进一步增强了Google的AI基础设施能力。
苹果智能眼镜或将在WWDC27上首次亮相,重点突出隐私保护
彭博社的马克·古尔曼报道,苹果智能眼镜(内部代号 N50)计划于 2027 年 6 月的全球开发者大会(WWDC27)上首次亮相,零售版预计将于 2027 年秋季上市。该设备原定于今年晚些时候及 2027 年初发布,但现已推迟,以便进行进一步的产品完善并加强隐私保护协议。隐私仍是苹果智能眼镜战略的核心支柱。从 Meta 等竞争对手的隐私争议中吸取教训,苹果正在实施强有力的功能与政策。目前考虑的方案包括:完全移除摄像头,专注于人工智能交互、音频播放和通话;或保留摄像头但禁用照片和视频录制功能,仅
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧
报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展
针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
Wow, Google's Ironwood TPU sounds like a game-changer for AI inference! Focusing on efficiency could really shake up the cost dynamics. Curious how this stacks against NVIDIA’s offerings—any bets on who’ll dominate the market? 😎
Whoa, Google's Ironwood TPU sounds like a game-changer for AI inference! Cutting costs like that could really shake up the cloud market. Anyone else curious how this stacks up against Nvidia’s gear? 🤔
Google's new Ironwood chip sounds like a game-changer for AI inference! 🚀 Excited to see how it cuts costs and boosts efficiency.
Googleの新しいIronwood TPUはAIコストを変えるものですね!今は推論に重点を置いているのがかっこいいけど、トレーニングの側面も気になります。でも、隠れたコストを削減できるなら賛成です。トレーニング部分も改善し続けてほしいですね!🤞





首页






