APP下载

能沟通两组NVLink并实现更多GPU串接的NVSwitch为何会出现、其运作特性又是如何

消息来源:baojiabao.com 作者: 发布时间:2026-07-09

报价宝综合消息能沟通两组NVLink并实现更多GPU串接的NVSwitch为何会出现、其运作特性又是如何

随首场海外 NVIDAI 年度盛会 GTC 将在五月下旬于台湾举办, NVIDIA 也再度与媒体介绍与整理今年美国 GTC 所发表的重大技术,其中也进一步为 NVIDIA 新一代超级电脑 DGX-2 连接两组 NVLink GPU 群组、带来更高性能的关键元件 NVSwitch 芯片进行介绍。

当初 NVIDIA 为了打破过往运算由 CPU 主导、以及 GPU 与 GPU 之间需要透过 CPU 进行沟通的传统运算框架,同时还有解决通用的 PCIe 带宽不足问题,发表基于光纤的 NVLink 通道技术,此项技术能够使支援此通道的 CPU 与 GPU 直接双向沟通,以及 GPU 与 GPU ,使 CPU 与 GPU 具对等地位,同时共享连接在 NVLink 上的 CPU 与 GPU 的内存。

一套 NVLink 最多可连接 8 组 GPU (对系统来说更是将此 8 颗 CPU 视为单一大型 GPU 阵列),或是一颗 IBM Power CPU 搭配 4 张 NVIDIA GPU ,这项技术也用于 NVIDIA 首款超级电脑套装 DGX-1 上。

 

到了 DGX-2 后, NVIDIA 为了进一步扩充 GPU 的数量,但又需考虑难以在现行规划的 NVLink 框架加入更多通道,毕竟虽带宽充裕,不过在 GPU 增加更多通道会使芯片设计更困难并增加 GPU 晶圆面积与复杂度,同时也需考虑与现行 NVLink 架构相容问题, NVIDIA 所提出的解决方案就是 NVSwitch 交换器芯片。

 

NVSwitch 并非作为取代 NVLink 的技术,而是使两组 NVLink 共 16 颗 GPU 能够互相具备全速沟通通道的手段;在设计上, NVLink 被加在每两组 GPU 之间,两组 NVLink 则在透过高速通道连接。此时 NVSwitch 就扮演每个 GPU 相互沟通时的通道切换角色,分属两个 NVLink 群组当中的 GPU 在相互沟通时,仍能借由 NVSwitch 的通道切换维持 NVLink 提供的最大带宽进行资料交换,仿佛两组 NVLink 如同一套可达 16 颗 GPU 的阵列之内。

 

延伸阅读:

  • GTC 2018首站在台湾,现在报名享早鸟优惠,抢下通往未来 AI 的门票
2018-05-08 21:32:00

相关文章