Intel首次在台大秀VPU视觉运算应用，能让单主机4K影片分析能力变成8倍

Intel在台湾的资料中心论坛中（Data Centric Symposium），展示了4个今年上线的解决方案，分别应用了自家的视觉运算处理器（VPU）、持续性内存、基本频率调整技术（Speed Select Technology Base Frequency，SST-BF）及边缘服务器，从运算、储存、网络、边缘服务器四类应用。

运用VPU的解决方案，是为影音串流平台业者所设计。一般用户在看Youtube、Netflix等平台的影片时，可能被突然插入的广告打断观影体验，不过对于平台业者来说，广告是不可或缺的收入来源，如何在两者间达成平衡？广告的嵌入形式就很重要。

比如说，若观影过程中出现吉普车行进的画面，在不中断观影体验的情况下，系统将自动在该画面的次要位置（如地面、天空），显示相关吉普车品牌的浮水印，想在降低广告存在感的同时，无形中形塑消费者的品牌印象。而要做到这个功能，就必须运用影像辨识技术来侦测物体的种类及位置。

为此，Intel结合自家Movidius VPU系列的加速卡（Visual Compute Accelerator Card，VCAC），来加速影像辨识功能，若原本的服务器仅能分析一支4K的影片，那插上VCAC加速卡后，将AI推论工作卸载到加速卡上，服务器改为处理其他编码、解码、插广告的功能，就能同时分析8支4K的影片，运算量扩增为原本的8倍；若用来处理非4K画质的影片，还能同时运算20支片。

（图／Intel）

搭载了VCAC加速卡后，运算效能可以提升8倍。（摄影／李宗翰）

而搭载持续性内存的解决方案，则是与CDN服务供应商Qwilt合作，目标客群也是影音串流平台。因为影音串流平台透过云端传送音乐、图片、影片给使用者时，若档案储存的位置距用户太远，用户存取影片的速度就会变慢，这时，平台业者通常会选择租用CDN的服务，用一台主要服务器搭配多台边缘服务器，来指定离用户更近的边缘服务器提供用户服务。

而边缘服务器提供服务的方式，是在接收到用户观影请求后，会快取（cache）该档案并将档案传回给原始请求者，不过，快取速度的快慢，会影响使用者能否顺畅播放影片，若一次有太多请求导致服务器难以负荷，用户在观看影片时就可能会有断断续续、或停格的情形。

因此，Intel推出搭载了Optane DC持续性内存的服务器，来加快CDN服务中，边缘服务器快取影片的速度。现场以一般传统搭载DRAM的服务器，与搭载了持续性内存的服务器相比，在一般工作负载需求的情况下，用户端播放影片的流畅度差不多，但观影需求增加时，从DRAM快取内容的速度不够，影片播放就会延迟，必须用更多边缘服务器来舒缓爆量需求；但搭载持续性内存的服务器，除了具备一般DRAM储存的功能，还能增加影片快取速度，在观影需求爆增2倍时，还能继续顺畅播放影片，来维持用户观影体验。

左边是一般传统搭载DRAM的服务器，右边是搭载了持续性内存的服务器，在一般工作负载需求的情况下，影片播放的流畅度差不多。（摄影／翁芊儒）

但观影需求增加时，从图上可见，搭载持续性内存的服务器，能处理2倍的观影需求的情况下，还能顺畅的播放影片。（摄影／翁芊儒）

Optane DC持续性内存。（摄影／翁芊儒）

此外，Intel也提出内含基本频率调整技术（SST-BF）的解决方案，要让企业能应付突如其来的网络流量。该解决方案搭载的处理器，是Intel Cascade Lake第二代Xeon中，3款以N结尾的型号，代表具有网络最佳化（Network-optimized）的功能。

现场先展示了Cascade Lake系列处理器，对比前一代Skylake的网络流量处理成效。可以看到，再还未调高基本频率（Base Frequency）之前，Cascade Lake系列处理器的表现就已经是Skylake的1.57倍，调高基础频率后，其表现更提高到1.75倍。也就是说，系统能判断工作负载情况并调整处理器的基本频率，借此来处理更多的网络流量、回应更多封包的请求，达到企业服务不中断的目的。

而且，Intel也表示，相较于Intel的涡轮加速技术（Turbo Boost Technology），是透过提升温度来增加频率，因有降温需求所以无法长期维持高频率状态，但搭载SST-BF技术的处理器，则没有这个问题，Intel表示，可以一年365天、一天24小时都稳定高频运作。

未调高基本频率之前，Cascade Lake系列处理器的表现就已经是Skylake的1.57倍。（摄影／李宗翰）

调高基础频率后，Cascade Lake系列处理器的表现更提高到1.75倍。（摄影／李宗翰）

最后，则是Intel与百度合作，提出了车联网V2X（Vehicle to Everything）边缘服务器解决方案，已经在今年的9月展开实际应用。V2X是要透过车间、道路与基础建设之间的资料传输，来提升自驾车行车安全，比如侦测到交通事故发生时，能通知车辆减速或暂停。

因此，百度为了让V2X的运算更即时，今年９月开始在中国长沙的自驾车试营运场地中，每100-200米的电线杆或路灯上，就装设一台边缘服务器，要即时在边缘端进行运算，降低传输延迟性。

Intel推出的边缘服务器，同时具备通讯与运算的功能，内含GPS、雷达、天线、处理器、网络等硬件，还能外接16支以上的摄影机，在搜集到资料后即时进行数据分析，再与其他车辆或设施沟通讯息。而且，相对于自驾车内部的边缘运算设计，户外边缘服务器的建置则更有挑战性，为了让服务器维持运作，Intel还设计了防水防尘功能，不仅有引流道能排放雨水，服务器外壳也能防尘，以免灰尘腐蚀内部设备。

除了V2X车联网的分析运算，Intel目前也正在与大型零售商洽谈合作，要在无人商店中设置边缘服务器，来分析特定区域连锁无人店中的进货需求，来辅助后勤调度工作更智慧化。

左侧为边缘服务器。（图／Intel）

让V2X的运算更即时，百度今年９月开始在中国长沙的自驾车试营运场地中，每100-200米的电线杆或路灯上，就装设一台边缘服务器。（摄影／李宗翰）