NVIDIA人工智能开讲|揭开训练大语言模型算力系统的网络之谜-观察
面包芯语 2023-04-25 04:00:02
【资料图】
构建超大算力平台离不开计算、通信和基础设施。因此,由 NVIDIA GPU、NVIDIA InfiniBand 网络和 NVIDIA BlueField-3 DPU 组成的 NVIDIA 计算和网络解决方案成为了构建超大算力平台的支柱。
本期节目邀请到 NVIDIA 网络亚太区高级总监宋庆春,为听众以 ChatGPT 和 GPT-4 为例,讲解了支撑大语言模型超大算力的关键技术,并详细介绍了 NVIDIA 计算和网络解决方案。最后,宋庆春也分享了对未来超大算力平台发展方向的看法。
点击 “阅读原文”,查看 NVIDIA 全栈式网络和计算的解决方案并了解构建 LLM 超大规模训练平台的技术。