【5G、智慧城市、延伸实境】针对3大产业应用，Nvidia提供专属SDK

在今年举行的世界行动通讯大会洛杉矶站（MWC Los Angeles），Nvidia力推他们发展的EGX边缘运算超级电脑平台，支援AI、5G、IoT应用场景，并宣布多家企业采用EGX，像是零售业有沃尔玛（Wallmart），制造业有BMW、宝侨（P&G）、三星电子、富士康，电信业有东日本电信电话（NTT East），而在公部门的部分，有旧金山和拉斯维加斯采用。

而Nvidia在这个边缘运算平台的组成上，除了运用他们持续发展的高性能GPU，以及与OEM硬件厂商、系统软件厂商合作，推出经过认证的EGX服务器，更特别的是，Nvidia也根据5G、智慧城市、延伸实境（XR）等领域，推出了专属的应用程序框架与软件开发套件（SDK），它们分别是Aerial、Metropolis，以及CloudXR。

这几款开发软件的命名，相当直觉。例如，Aerial让人联想到迪士尼动画电影小美人鱼Ariel，而5G网络应用就跟沟通有关；Metropolis就是大都市，Nvidia在这个物联网应用框架当中，涵盖了城市管理、商品零售、生产制造等场景；CloudXR能让使用者透过低延迟的5G网络、视讯串流技术，以及位于云端或资料中心的服务器，而能建立与提供高品质的扩增实境（AR），以及虚拟实境（VR）体验。

Nvidia Aerial的技术架构

针对软件定义5G无线存取网络的应用，Nvidia提供名为Aerial的软件开发套件，当中包含了cuVNF和cuBB等两套软件开发套件，从图中的组成架构来看，绿色部分是Nvidia提供的技术，而cuVNF和cuBB（cuPHY、cuMAC Scheduler）均属于应用程序层级的软件，蓝色的部分是Intel提供的技术，紫色则是Mellanox的技术。摄影／李宗翰

电信业：建构软件定义式5G网络，提供支援GPU加速的方案

电信基础设施的两种运算架构比较

目前电信业在建置IT基础架构时，通常会采用标准商用化的硬件设备（COTS）（左上图），运算架构大多是CPU搭配FPGA硬件加速器，但在延展性上会受到限制，例如，在CPU连至内存，以及FPGA时，会受限于I/O带宽。

相较之下，Nvidia认为，支援大规模平行运算的GPU（右下图），更能适应4G、5G网络的前向误差更正（Forward Error Correction，FEC）处理，可支援线上的5G实体层处理速度，以及软件定义的加速方式。摄影／李宗翰

在电信业者发展5G网络的过程中，由于延迟更低、带宽更大、连接的设备更多，在网络切割（Network Slicing）的作业上，势必要做到更精细、更能动态处理的程度，因此，虚拟化无线接取网络（vRAN）的作法也开始受到重视，而这当中也需要搭配硬件加速技术，以便降低成本、改善效率。

相较于现行使用CPU搭配FPGA来加速vRAN的方式，很可能会受限于内存存取的部分，而无法扩展执行规模，Nvidia认为，若能改用擅长大量平行处理的GPU，可以提供最大的处理容量，以及最好的耗电效率，能做到“线上（In-line）”的5G讯号实体处理，并且透过他们首创的软件定义式基频单元（Software Defined BBU），以软件搭配GPU加速的作法，支援5G网络扩展规模的需求。

若电信业有意采用上述软件定义5G RAN的架构，可在EGX平台这类搭配Nvidia GPU的服务器上，使用Aerial里面的两个软件开发套件：cuBB（CUDA Baseband）、cuVNF（CUDA Virtual Network Function），它们皆属于应用程序层级的元件，而在这个层级之下，则有硬件（CPU、GPU、NIC）、操作系统核心（GPU驱动程式、内存存取模组、网络卡驱动程式）、程式库（CUDA、GPUDirect RDMA、DPDK）。

值得注意的是，由于Nvidia Aerial支援EGX平台的缘故，这意味着它可相容于现行的企业级Kubernetes基础架构。

这两套SDK各自提供了哪些功能？cuBB针对的部分，在于以GPU加速5G讯号处理的流程，可将所有网络通讯实体层的作业（L1 5G Phy），在GPU内建的高效能内存当中处理，而得以大幅提升网络吞吐能力与传输效率。

对于5G网络实体层的讯号处理工作，cuBB提供卸载到CPU和GPU的流程，在中央单元（Central Unit，CU），以及分散式单元（Distributed Unit，DU）的处理上，可运用CPU和GPU来加快执行速度。从GPU的角度而言，可透过cuBB当中包含的另一套cuPHY SDK，处理复杂的无线射频讯号上传与下载流程。

除此之外，cuBB也提供了cu_MACScheduler的软件开发套件，它和cuPHY同属虚拟化网络功能（VNF）的层级。

至于cuVNF，负责调校网络的输出入与封包处理，能将5G网络的封包经由支援GPUDirect的网络卡，像是Mellanox CX-5系列和CX-6系列，直接送至GPU内存。这套软件开发套件当中，也包含了多种功能，像是支援GPU I/O的资料层开发套件（Data Plane Development Kit，DPDK）、通用公共射频界面（evolved Common Public Radio Interfacee，CPRI）。

地方-、零售业：因应交通、零售应用需求，提供AI软件框架

Nvidia Metropolis的架构

Nvidia提供的Metropolis，是专攻智慧视讯影像分析（Intelligent Video Analytics）的应用程序框架，能用于智慧城市相关的多种领域，像是零售分析、公共运输、生产制造、仓储后勤，而在EGX平台当中，我们可以透过Metropolis来管理与汇整感测器与摄影机撷取的资料，执行资料即时分析、使用智能索引与储存、套用规则引擎，以及使用视觉化处理工具包。摄影／李宗翰

在不同产业的应用上，Nvidia先前针对制造业和医疗产业，分别推出了Isacc和Clara，而此次MWC Los Angeles大会期间，他们也正式跨足电信业，提供上述的Aerial，并且在智慧城市相关的公共与商业使用需求当中，提供Metropolis的物联网应用程序框架，并在大会展区示范在EGX平台执行的使用场景。

以城市管理的交通运输而言，Nvidia找来Esri公司，展示他们运用了Metropolis、DeepStream SDK，以及HPE的EGX服务器，侦测与警示行人与交通异状。

EGX的智慧交通应用

以人工智能来改善道路交通的管理，是建置智慧城市时的重点项目，以提供地理资讯系统产品闻名的Esri公司，在Nvidia展区示范AI辅助的交通监控系统，可同时处理多个路口的视讯画面，若发生意外的车辆行驶异状，系统将会侦测出来。该公司在这里的情境展示，所应用的软硬件环境，主要有Nvidia的Metropolis框架、Red Hat的系统软件、HPE的服务器与Nvidia T4推论加速卡。摄影／李宗翰

用于商品零售的部分，AiFi示范了无人商店这类智慧零售的应用，线上系统的购物车项目内容，可以根据消费者自货架取出商品或放回的动作，而有所变化，当中采用了Metropolis的软件框架，而硬件运算设备则有Supermicro的EGX服务器、Nvidia单板电脑Jetson Nano。目前这套自动结账解决方案，已有实际用户，例如，家乐福、Ahold、Zobka、Valora等4家业者，皆开始导入。

在AI帮忙的消费者自助服务类型当中，Nvidia也展出合作厂商码隆科技（Malong）的解决方案RetailAI。这套系统本身设置了摄影机与磅秤，可同时辨识生鲜蔬果的外观（装进塑料袋也能辨识）与秤重，待消费者确认无误后，即可印出标价贴纸，供其黏贴到商品本体或置入的透明塑料袋上。在软硬件架构上，他们也采用了Metropolis软件，以及Dell EMC的EGX服务器。

特别的是，码隆科技也在现场展区播放AI自助收银示范影片，也可看出此类系统具有防弊作用。例如，若消费者在结账设备的自行处理扫描商品条码时，故意用其他条码标签置于想要购买的商品条码之前，企图让收银系统误认这是该商品的条码，由于商家结合商品外观辨识的机制，能让系统在核对消费者购买的商品项目时，多了一项判断依据，而跳出异常警示画面，并在当下暂停结账程序，提示消费者找现场人员处理。

另一家展示相关应用的AnyVision，则是透过Metropolis软件与联想的EGX服务器，分析顾客在卖场的行为活动，像是进出流量（Footfalls、来客性别、满意度），以及经常伫足的热区。

EGX的智慧零售应用

关于无人商店的建置，是当前零售业最关注的创新应用，Nvidia找来美国新创公司AiFi在MWC Los Angeles大会，现场展出他们的自动商店平台Autonomous Store platform，背后搭配的边缘运算平台，包含了Nvidia的Metropolis应用程序框架、Jetson Nano单板电脑，以及T4推论加速卡（搭配的服务器厂牌是Supermicro）。摄影／李宗翰

关于智慧零售的应用，Nvidia创办人暨首席执行官黄仁勋也在MWC Los Angeles期间举办的主题演讲过程当中，也特别介绍并展示Metropolis的应用，同时，也提及多型态人工智能（Multi-modal）的软件开发套件Jarvis──他透过两段影片示范Jarvis应用场景，首先是一对男女在车上讨论天气和餐厅，Jarvis根据他们的对话做出各种适当的反应，另一段影片则是在商店现场，根据顾客口中说出的问题与指引的手势，以输出语音内容来回答商品的相关资讯，协助购买店内陈设的各种产品。

制造业：观看延伸实境不需专属设备，能以各种装置呈现高清内容

EGX可支援延伸实境

检视3D产品设计图稿的内容，属于制造业的应用范围，Nvidia在MWC Los Angeles大会期间，以智能手机与5G宽频无线网络的技术，展现他们即将推出的延伸实境应用，透过CloudXR软件开发套件所设计的用户端应用程序，一般使用者只需透过手机与头戴式显示装置，就能随时随地检视远处资料中心虚拟机器执行的3D内容，大大降低这类应用的用户端环境门槛。摄影／李宗翰

黄仁勋在演讲的最后，还展示Nvidia最新推出的CloudXR软件开发套件，能让扩增实境和虚拟实境体验，借由5G网络与各种连网装置呈现。

这项解决方案架构在Nvidia的GPU技术、CloudXR SDK，企业可开发与提供AR与VR体验，而且，这些内容的呈现，都是基于OpenVR软硬件通用界面的应用程序而成的，同时，用户端不需要高效能工作站或个人电脑，也能透过智能手机享受丰富的延伸实境体验。

目前，这套SDK是由几个部分所构成。首先，是执行在服务器的驱动程式；第二，是易于使用的个人端装置程式库，能在Android与Windows连网设备上，支援大量OpenVR应用程序的VR与AR内容串流；第三，则是针对行动装置环境的软件开发套件，能让开发人员以简单的方式，以串流传输的方式，从云端取得经渲染处理的数位内容。

在这样的架构下，企业可以将内部的资料中心当中，利用Cloud XR与5G网络，透过串流方式来呈现延伸实境的应用。而对于电信业者、软件开发商、设备制造商而言，也能将延伸实境体验，传递到更多用户与地点。

此外，Cloud XR还能用于许多场合，例如，设计师呈现绘制完成的3D模型、救灾演练情境模拟，而且能让更多设备支援延伸实境应用，像是Windows电脑、Android装置、平板电脑、VR头戴式装置、AR眼镜。