跳到正文
IT之家 AI·· 7 天前评分70

英伟达发布 CUDA Toolkit 13.5:正式支持 Vera Rubin,升级多 GPU 通信

摘要

IT之家 11 月 5 日消息,英伟达于当地时间 11 月 4 日正式发布了最新的 CUDA Toolkit 13.5,为下一代 AI 计算平台 Vera Rubin 提供正式可用(GA)支持,标志着相关架构从早期开发者预览阶段进入面向企业生产环境的部署阶段。 据英伟达官方介绍,此次更新不仅完善了 Vera Rubin 平台的底层软件支持,还针对 GPU 资源调度、多 GPU 通信、数学计算库及性能分析工具进行了多项升级,重点面向大规模 AI 训练和推理场景。 在计算性能方面,CUDA 13.5 更新了 cuBLAS 的矩阵乘法启发式策略和内核调优机制,针对 Vera Rubin 架构上的 NVFP4、MXFP8 低精度矩阵运算进行了优化,覆盖混合专家模型(MoE)等训练场景。英伟达表示,这些改进能够在无需针对每种计算形状单独进行自动调优的情况下,提高训练和推理吞吐量。 在 GPU 调度方面,CUDA 13.5 对 NVIDIA...

推荐理由

来自IT之家 AI的《英伟达发布 CUDA Toolkit 13.5:正式支持 Vera Rubin,升级多 GPU 通信》。重点看模型能力与工程、产品发布。摘要提到:IT之家 11 月 5 日消息,英伟达于当地时间 11 月 4 日正式发布了最新的 CUDA Toolkit 13.5,为下一代 AI 计算平台 Vera Rubin 提供正式可用(GA)支持,标志着相关架构从早期开发者预览阶段进入面向企业生产环境的部署阶段。 据英伟达官方介绍,此次更新不仅完善了 Vera Rubin 平台的底层软件支持,还针对 GPU 资源调度、多 GPU 通信、数学计算库及性能分析工具进行了多项升级,重点面向大规模 AI 训练和推理场景。 在计算性能方面,CUDA 13.5 更新了 cuBLAS 的矩阵乘法启发式策略和内核调优机制,针对 Vera Rubin 架构上的 NVFP4、MXFP8 低精度矩阵运算进行了优化,覆盖混合专家模型(MoE)等训练场景。英伟达表示,这些改进能够在无需针对每种计算形状单独进行自动调优的情况下,提高训练和推理吞吐量。 在 GPU 调度方面,CUDA 13.5 对 NVIDIA...

本站只提供摘要与原文入口。完整内容请阅读原文。

来源:IT之家 AI · ithome.com