加速一切!NVIDIACEO黄仁勋COMPUTEX演讲揭秘AI平台未来发展
NVIDIA 加速平台引领 AI 发展浪潮
“生成式 AI 正在重塑各行各业,为创新和增长开辟了新的机遇,”NVIDIA 创始人兼首席执行官黄仁勋在本周台北 COMPUTEX 科技大会前夕的演讲中激情洋溢地说道。“今天,我们正处于计算领域重大转变的风口浪尖,”身穿标志性黑色皮夹克的他向台下超过 6500 名观众宣布:“人工智能和加速计算的结合将重新定义未来。”
此次 COMPUTEX 科技大会以“加速一切”为主题,黄仁勋在演讲中宣布 NVIDIA 加速平台已全面投产,无论是面向个人用户的 AI PC 和消费类设备,还是面向企业的 AI 工厂,NVIDIA 都做好了充分准备。
“计算的未来是加速的,”黄仁勋强调道。“凭借我们在人工智能和加速计算方面的创新,我们正在突破可能的界限,推动下一波技术进步。”
一年一迭代:全新 Rubin 平台引领芯片未来
为了满足日益增长的 AI 算力需求,黄仁勋公布了以一年为周期推出新型半导体的路线图,并首次展示了全新 Rubin 平台。Rubin 平台将接替即将推出的 Blackwell 平台,采用新的 GPU、新的基于 Arm 架构的 CPU Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600 融合 InfiniBand/以太网交换机的先进网络,将 AI 算力推向新的高度。
“NVIDIA 的产品更新节奏是一年一迭代。我们的理念非常简单:构建数据中心级完整解决方案,并在一年内将分解后的先进部件交付给客户,持续推动技术边界,”黄仁勋解释道。
加速计算:绿色环保的可持续计算
在降低 AI 应用成本方面,黄仁勋强调:“加速计算就是可持续计算”。他指出,与单独使用 CPU 相比,GPU 和 CPU 的组合可以实现高达 100 倍的速度提升,而功耗仅增加三倍,这意味着每瓦性能提升了 25 倍。
“你买得越多,省得越多,”黄仁勋风趣地解释了这种方案在成本和能源效率方面的优势。
携手行业巨头,共建 AI 工厂新生态
全球领先的计算机制造商,尤其是来自全球 IT 中心台湾的厂商,已经将 NVIDIA 的 GPU 和网络解决方案融入其产品线。华擎机架、华硕、技嘉、英业达、研华、和硕、QCT、超微、纬创和纬颖等合作伙伴正在利用 NVIDIA 的技术构建云端、本地和边缘 AI 系统,共同打造 AI 工厂新生态。
NVIDIA MGX 模块化参考设计平台现已支持 Blackwell,其中包括面向大型语言模型推理、检索增强生成和数据处理的 GB200 NVL2 平台。此外,AMD 和英特尔也宣布支持 MGX 架构,并计划推出基于自身 CPU 的主机处理器模块设计。
Spectrum-X:为 AI 打造的下一代网络
为了解决 AI 应用对网络带宽日益增长的需求,黄仁勋公布了 NVIDIA Spectrum-X 产品的年度发布计划。作为首个专为 AI 构建的以太网结构,NVIDIA Spectrum-X 的网络性能比传统以太网结构提高了 1.6 倍,可以有效加速 AI 工作负载的处理、分析和执行,进而推动 AI 解决方案的快速开发和部署。目前,CoreWeave、GMO 互联网集团、Lambda、Scaleway、STPX Global 和 Yotta 等 AI 云服务提供商已率先采用 Spectrum-X。
NVIDIA NIM:赋能 2800 万开发者,开启生成式 AI 应用新时代
NVIDIA NIM 的推出,让全球 2800 万开发者能够轻松创建生成式 AI 应用程序。作为推理微服务,NIM 将模型封装为优化的容器,可以轻松部署在云端、数据中心或工作站上。
NIM 还可以帮助企业最大限度地利用现有基础设施投资。例如,在 NIM 中运行 Meta Llama 3-8B,在加速基础设施上生成的生成式 AI 令牌比没有 NIM 时多达 3 倍。
目前,包括 Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和 Synopsys 在内的近 200 家技术合作伙伴正在将 NIM 集成到其平台中,以加速特定领域应用程序的生成式 AI 部署,例如 copilot、代码助手、数字虚拟人等等。Hugging Face 也已开始提供基于 NIM 的 Meta Llama 3 服务。
“今天,我们刚刚在 Hugging Face 上发布了完全优化的 Llama 3,您可以下载并亲身体验,”黄仁勋说道。“你可以在任何云平台上运行它,也可以下载到自己的数据中心,为客户提供服务。”
GeForce RTX AI PC:AI 助手走进现实
NVIDIA 的 RTX AI PC 由 RTX 技术提供支持,将通过 200 多款 RTX AI 笔记本电脑和 500 多个 AI 驱动的应用程序和游戏,为消费者带来前所未有的 AI 体验。
RTX AI 工具包和新推出的用于 NVIDIA ACE 数字虚拟人平台的基于 PC 的 NIM 推理微服务,彰显了 NVIDIA 致力于让 AI 更易于使用的决心。
此外,NVIDIA 还发布了 Project G-Assist,一个由 RTX 提供支持的 AI 助手技术演示,展示了针对 PC 游戏和应用程序的上下文感知帮助。同时,微软和 NVIDIA 正在合作,帮助开发者通过简单的 API 访问 RTX 加速的 SLM,为 Windows 原生和 Web 应用程序带来新的生成式 AI 功能。
NVIDIA Robotics:助力企业实现数字化转型
NVIDIA 正引领着价值 50 万亿美元的工业数字化转型浪潮,越来越多的企业开始采用自主运营和数字孪生技术,以提高效率并降低成本。NVIDIA 通过其开发者计划提供对 NIM 的访问,进一步推动 AI 创新。
在台湾,富士康等制造商正在使用 NVIDIA 的技术改造工厂。例如,富士康正在使用 NVIDIA Omniverse、Isaac 和 Metropolis 来创建数字孪生,将视觉 AI 和机器人开发工具结合起来,以增强机器人设施的能力。
“下一波 AI 浪潮是物理 AI,即能够理解物理定律并在我们身边工作的 AI,”黄仁勋强调了机器人技术和 AI 在未来发展中的重要性。
NVIDIA Isaac 平台为开发者提供了强大的工具包,用于构建由 AI 模型和 Jetson Orin、Thor 等超级计算机驱动的 AI 机器人,包括 AMR、工业机械臂和人形机器人。
“机器人技术和物理 AI 已经到来,这不再是科幻小说,而是正在台湾各地发生的现实,”黄仁勋兴奋地说道。
全球电子巨头正在将 NVIDIA 的自主机器人技术集成到其工厂中,并利用 Omniverse 中的仿真功能来测试和验证面向物理世界的新一代 AI。目前,全球已有超过 500 万台预编程机器人在使用 NVIDIA 的技术。
“未来的工厂将全面实现机器人化。工厂将协调机器人,而这些机器人将制造机器人化的产品,”黄仁勋展望道。
黄仁勋还强调了 NVIDIA Isaac 在提高工厂和仓库效率方面的作用,目前比亚迪电子、西门子、泰瑞达机器人和 Intrinsic 等全球领先企业已采用 Isaac 平台的先进库和 AI 模型。
此外,NVIDIA AI Enterprise 在 IGX 平台上与凌华科技、研华科技和安勤科技等合作伙伴一起,提供符合严格监管标准的边缘 AI 解决方案,满足医疗技术和其他行业的需求。
在演讲的最后,黄仁勋向台湾和 NVIDIA 在那里的众多合作伙伴表示感谢。“谢谢,”黄仁勋动情地说。“我爱你们。”