随首场海外 NVIDAI 年度盛会 GTC 将在五月下旬于台湾举办, NVIDIA 也再度与媒体介绍与整理今年美国 GTC 所发表的重大技术,其中也进一步为 NVIDIA 新一代超级电脑 DGX-2 连接两组 NVLink GPU 群组、带来更高性能的关键元件 NVSwitch 芯片进行介绍。
当初 NVIDIA 为了打破过往运算由 CPU 主导、以及 GPU 与 GPU 之间需要透过 CPU 进行沟通的传统运算框架,同时还有解决通用的 PCIe 带宽不足问题,发表基于光纤的 NVLink 通道技术,此项技术能够使支援此通道的 CPU 与 GPU 直接双向沟通,以及 GPU 与 GPU ,使 CPU 与 GPU 具对等地位,同时共享连接在 NVLink 上的 CPU 与 GPU 的内存。
一套 NVLink 最多可连接 8 组 GPU (对系统来说更是将此 8 颗 CPU 视为单一大型 GPU 阵列),或是一颗 IBM Power CPU 搭配 4 张 NVIDIA GPU ,这项技术也用于 NVIDIA 首款超级电脑套装 DGX-1 上。
到了 DGX-2 后, NVIDIA 为了进一步扩充 GPU 的数量,但又需考虑难以在现行规划的 NVLink 框架加入更多通道,毕竟虽带宽充裕,不过在 GPU 增加更多通道会使芯片设计更困难并增加 GPU 晶圆面积与复杂度,同时也需考虑与现行 NVLink 架构相容问题, NVIDIA 所提出的解决方案就是 NVSwitch 交换器芯片。
NVSwitch 并非作为取代 NVLink 的技术,而是使两组 NVLink 共 16 颗 GPU 能够互相具备全速沟通通道的手段;在设计上, NVLink 被加在每两组 GPU 之间,两组 NVLink 则在透过高速通道连接。此时 NVSwitch 就扮演每个 GPU 相互沟通时的通道切换角色,分属两个 NVLink 群组当中的 GPU 在相互沟通时,仍能借由 NVSwitch 的通道切换维持 NVLink 提供的最大带宽进行资料交换,仿佛两组 NVLink 如同一套可达 16 颗 GPU 的阵列之内。
延伸阅读:
- GTC 2018首站在台湾,现在报名享早鸟优惠,抢下通往未来 AI 的门票





























