APP下载

快速运用人工智能技术高通倾向以CPU、GPU等软硬协同学习框架达成更高机器学习运算

消息来源:baojiabao.com 作者: 发布时间:2024-05-13

报价宝综合消息快速运用人工智能技术高通倾向以CPU、GPU等软硬协同学习框架达成更高机器学习运算

并非Qualcomm不重视以独立学习算子件达成加速效果的优势,而是考量其背后所面临风险,因此将发展重心放在以软件、学习框架驱动既有硬件的人工智能应用模式,借此拥抱更具弹性的人工智能技术布署。

相比华为、苹果与联发科对于端点学习运算加速的想法不同,虽然Qualcomm认为采用独立学习算子件提高效率的作法也很重要,但目前主要还是着重于以既有CPU、GPU与其他算子件,配合软件与学习框架达成等同,甚至更高的机器学习运算能力,同时也较不受限于独立算子件版本能力限制,借此能让更多基于Snapdragon运算平台装置均可快速布署人工智能应用。

在与Qualcomm人工智能暨机器学习产品管理总监Gary Brotman访谈里,除了进一步说明目前Qualcomm在装置端的机器学习应用,乃至于在行动装置的人工智能技术布署看法,Gary Brotman更表示装置端的人工智能应用、深度学习将成为未来趋势,除了强化装置端的运算效率,降低大幅仰赖云端协同运算的限制,同时也能确保装置端的个人隐私安全,并且可让装置端有更具效率的运作表现,以及更低的电力损耗表现。

以目前Qualcomm在装置端的人工智能技术布署,主要聚焦在客制化核心架构设计的Kryo CPU、Adreno GPU,以及Hexagan DSP三大硬件结构,并且配合软件衔接Snapdragon NPE (类神经网络运算引擎)SDK、Android NN API、Hexagan NN API,同时也相容支援既有常见学习框架,例如Facebook主导的Caffe、Caffe 2,或是Google的TensorFlow、TensorFlow Lite,以及微软等厂商共同推动的ONNX (Open Neural Networking Exchange),借此推动装置端的学习运算应用,进而可发挥更具运算效率的效能表现。

同时,Qualcomm也与包含商汤科技、Face++等服务厂商合作,在云端应用也与腾讯 (QQ)、百度 (Duer OS,语音识别)、亚马逊与微软 (ONNX)、Google (TensorFlow Lite、物件识别)、Facebook (Caffe 2、扩增实境应用)等应用项目合作,借此扩展、落实装置端学习运算的具体应用。

Qualcomm在终端装置上的人工智能暨应用,主要聚焦既有CPU、GPU、DSP等既有硬件架构,搭配软件定义与学习框架应用推动人工智能运算能力,并且预期能发挥相同或更高的运算效果

而针对Qualcomm本身对于装置端学习运算应用模式,与华为、苹果及联发科等厂商采取模式明显不同,Gary Brotman表示并非代表Qualcomm不看好独立学习算子件的重要性,只是基于技术扩展与更多合作机会发展面向,认为借由运算平台内既有Kryo CPU、Adreno GPU与Hexagan DSP,搭配软件及学习框架所建构的端点学习运算模式更具发展弹性,同时也能在更广泛硬件设备上呈现高度相容表现,并且确保资料互通性与效能最佳化。

Gary Brotman认为借由独立学习算子件达成加速效果并非不好,只是就长远发展来看,一旦面临硬件版本更新就可能产生额外研发时间、费用等成本,同时还需要考量是否产生相容问题,相较Qualcomm目前采用设计仅需在软件、学习框架做调整,即可借由现有硬件资源达成相近或更高的学习运算效能,纵使运算平台版本更新,原本人工智能运算服务也不会因为硬件版本因素产生无法相容问题。

对于Qualcomm而言,如何协助更多合作伙伴打造更多衔接人工智能技术应用的产品才是当前重要方向,因此Gary Brotman认为并非Qualcomm不重视以独立学习算子件达成加速效果的优势,而是考量其背后所面临风险,因此将发展重心放在以软件、学习框架驱动既有硬件的人工智能应用模式,借此拥抱更具弹性的人工智能技术布署,但其实本身也不排斥在特定应用需求导入独立学习算子件的设计模式。

Qualcomm人工智能暨机器学习产品管理总监Gary Brotman

新增Snapdragon 700系列是为了让更多装置也能有人工智能运算能力

至于针对此次宣布在Snapdrafgon 800系列与600系列之间,新增结合人工智能运算能力的全新Snapdragon 700系列运算平台,Qualcomm除了希望能在产品应用进一步细分之外,同时也期望能让更多应用产品都能导入人工智能运算效能,特别在中国市场需求也希望连接更多应用模式。

而在目前Snapdragon 600系列也开始导入人工智能应用,是否意味未来也会持续下放到400系列或200系列运算平台?Gary Brotman对此表示其实Snapdragon全系列运算平台架构设计,都能相容使用Snapdragon NPE、Hexagan NN API,未来若Google进一步释出原生整合Android NN API的Android P (9.0),同样可让不同运算平台装置能以人工智能运算模式驱动。

只是其中较明显差异在于400系列、200系列并未导入Hexagan DSP设计,因此在整体学习运算效能表现终究会有落差,但主要还是看终端装置实际应用而定,并非每一种学习运算都必须搭配即时的反应效率。此外,Qualcomm未来也可能不排除将Hexagan DSP等元件加入400系列、200系列运算平台,进而产生不同学习运算应用模式。

即便Snapdragon 400系列、200系列依然可使用Snapdragon NPE等运算资源,只是在执行效率、效能表现可能会因为缺乏Hexagan等DSP辅助运算,以及在CPU、GPU运算效能表现不同而产生学习运算效果落差

未来将推出可公平评比装置端人工智能运算能力的评测工具

另外,针对许多人对于不同人工智能技术应用所产生效益有所质疑,Gary Brotman透露Qualcomm目前已经着手打造可公平评比的测试工具,让合作伙伴能以此判断不同人工智能运算平台所能呈现效率、精准度、电力损耗表现,以及可支援学习框架模式等数据,借此决定针对不同应用需求采用个别合适的运算平台。

而类似的评测工具,日前Futuremark也曾表示计划推出可依据深度学习效能评断其人工智能技术应用表现的测试工具,但如何在诸多学习框架、运算加速模式,以及硬件差异间找到合适评测基准,并且制定统一计分标准,其实是相当庞大且费时工程。

不过,Gary Brotman并未说明Qualcomm针对装置端学习运算效能表现所打造的评测工具预计推出时程,同时也未说明进一步细节内容。

2018-05-13 20:33:00

相关文章