您现在的位置是:首页 > 快讯快讯

英伟达发布Dynamo,号称“AI工厂的操作系统”

zhoucl 2025-03-19 06:39:32 快讯 已有人查阅

导读英伟达(NVDA.O)正式发布Dynamo,号称是“AI工厂的操作系统”。Dynamo是一个“分布式推理服务库”。本质上,它是一个针对用户需求token而无法生产足够token之间问题的开源解决方案。黄仁勋展示了一张关于推理的图表,X轴显示用户每秒的Token数,Y轴显示工厂每秒的Token数。在Dynamo、Grace Blackwell NVLink72超级芯片的加持下,Blackwell相比Hopper可实现25倍的性能提升。而在推理模型中,Blackwell的性能是Hopper的40倍。黄仁勋还打

英伟达正式发布Dynamo,定位为“AI工厂的操作系统”。Dynamo是一个开源的分布式推理服务库,旨在解决用户需求与生成Token能力之间的不平衡问题。 黄仁勋展示了一张推理图表,X轴为用户每秒Token数,Y轴为工厂每秒Token数。借助Dynamo及Grace Blackwell NVLink72超级芯片,Blackwell相比Hopper性能提升25倍,在推理模型中更是达到40倍。黄仁勋表示,新技术将帮助构建AI工厂的企业实现“买得越多、省得越多”。

本文标签:

很赞哦! ()