APP下载

类比讯号用于AI预测更快也更省电,神盾研发类比运算AI芯片瞄准超高速感测市场

2019-08-13 13:46

全世界指纹辨识芯片出货量第二的神盾,投入类比AI芯片的研发,并且将研究成果初步运用在自家指纹辨识芯片中。

图片来源: 

图/取自神盾官网

随着AI走向边缘运算,越来越多人投入AI推论芯片的研发,目的要即时分析终端装置接收到的资讯,来减少资料上云可能造成的延迟。然而,终端装置搜集到类比讯号后,需要透过类比数位转换器(ADC,Analog-to-Digital Converter),以0与1的形式存成数位资讯,再来执行AI运算,换句话说,若要做到即时的资料分析,更直观的做法,是在接收到类比资讯的同时就进行运算,不但能省下类比转数位的时间,也能省下芯片内建ADC元件的成本。

然而,这么做可能吗?在台湾,有一家公司投入类比AI芯片的研发,已经将研究成果初步运用在自家指纹辨识芯片中,正是全世界指纹辨识芯片出货量第二的神盾。神盾首席运营官林功艺表示,目前全球在研发类比AI芯片的厂商非常少,IBM是其中一家,在去年4月推出了一款类比AI芯片,运用相变内存(Phase-change memory,PCM)来打造内存内运算架构,来执行类比资料的AI运算;此外,也有一家美国研发AI芯片的公司Mythic,从去年开始投入类比AI运算芯片的研究,试图将这款芯片应用在云端运算中,“神盾采用的技术与Mythic相似,但聚焦在边缘运算。”

在近期一场活动上,林功艺也揭露类比AI运算的优势与应用。现在的电脑架构,是70年前定下的范纽曼型架构(Von Neumann architecture),把内存跟运算(CPU)分开,中间用总线(Bus)传输资料。然而,将CPU与内存分开的架构,对于运算量动辄几亿次的AI运算中,光是在内存与CPU之间搬运资料的过程,就会产生严重的功耗;且因资料传输带宽(Memory Bandwidth)的局限,资料搬运速度往往比不上CPU执行AI平行运算的速度,导致CPU部分乘加器(MAC)闲置,运算资源无法利被完全利用。

林功艺表示,如果用类比资料来做AI运算,是直接在终端分析即时且连续的类比资料,由于不需要转存成数位资讯到内存,也就能省去内存与CPU之间资料传输的庞大功耗,因此,在类比AI芯片的架构上,需要的晶体管(transistors)数量会少很多。举例来说,要执行8位元的平行化运算,若用数位资料做乘法运算,需要约3000个晶体管,做加法运算,需要300个晶体管;然而,用类比资料来做乘加运算,总共只需30个晶体管,功耗大约为原先执行数位运算的1%。

“类比跟数位在图形理论、类神经网络架构、数学基础一模一样,唯一不同的是我用类比的方式做乘加器,只要1%的晶体管。”换句话说,在能得到相同AI辨识结果的情况下,类比AI运算消耗的功耗更少,对于现有硬件架构来说是一种很大的突破。

林功艺引述IBM研究院AI硬件中心一份研究,来说明未来几年执行浮点运算硬件效能(Giga FLOPS/Watt)的局限,从图中可以看见,若现有深度运算的技术并无革命性的发展,数位AI运算效能将在2021年达到巅峰,而类比AI运算还能继续突破运算限制,可能成为未来的发展趋势。

若现有深度运算的技术并无革命性的发展,数位AI运算效能将在2021年达到巅峰。

应用类型一:结合摄录影机进行影像辨识,来降低资料储存、传输的内存与带宽

由于储存到云端的资料都已经数字化,因此,类比AI芯片更适用于边缘运算。林功艺也表示,神盾主要是做手机上各式各样的感应器(Sensor),“我们的好处在于,是站在sensor前端,本质上非常类比的IC设计公司。”也因此,将类比AI芯片与各式终端感应器结合,就是神盾要开发的市场。

林功艺也以摄录影机结合影像辨识功能,来说明类比运算AI芯片的应用方式。当镜头接收到的类比影像后,不同于一般边缘运算,是把类比转数位之后再进行影像辨识,运算过程会产生庞大功耗;类比AI运算是在感应器不断接收到类比资料时,就直接影像辨识并撷取其特征值,压缩存成数位资讯再后送云端,最后,以生成对抗网络(GAN)在云端重建影像。

比如说,将类比AI芯片与监控摄影机结合,只有在镜头侦测到有机车、行人、猫狗经过,或任何风吹草动使画面转变时,才会开始撷取特征值、后送云端重建资料,换句话说,其他没有动静的画面就无储存纪录。如此一来,就能大幅降低资料储存、传输的成本。尤其中国的监控摄影机,直到2019年设置将近2亿支,在晚上8小时且无人车行经的场域,还是必须不断的摄录影并储存,更别提往后要传输到云端或搜寻资料,都会花费很多成本去执行。

也就是说,用类比运算进行AI分析,不仅可以达到侦测异常画面来报警的目的,更能减少大量数位资料储存、传输上云所耗费的带宽与内存空间。根据史丹佛大学Meltem & Ahmad的研究,若一张未压缩的人脸图像资料大小有26,966 bytes,尽管压缩后只剩478 bytes,仍然可以用生成对抗网络还原成几乎相同的图像。林功艺以此说明,以压缩后的影像与特征值,来重建原始影像的可行性。

史丹佛大学学者Meltem & Ahmad用生成对抗网络,可将478位元的资料还原成足够清楚的人脸影像。

对此,林功艺也表示,无论用类比或数位资料进行AI分析,撷取特征值并压缩影像后,都会有些微失真,但以GAN重建过后,并不会有哪张影像比较精准的问题,因为使用的算法一样,而类比运算的优势,是在于更低的运算功耗与芯片成本。

此外,除了结合监控录影机,类比AI结合影像辨识的应用还很多。例如,侦测一间教室的人数来决定冷气温度,或是人造卫星拍摄的卫星影像,尤其人造卫星数量从1960年代至今已经将近5,000个,一天24小时中,还必需不间断拍摄高分辨率的影像并回传到地面,每日储存传输的资料量非常庞大,这都是类比AI技术有潜力的市场。

应用类型二:结合自驾车进行影像辨识,来降低有线传输造成的判读延迟

另一个可行的应用,则是自驾车针对路况影像来即时辨识。相较于摄录影机影像辨识的应用,着重在降低资料储存、传输所占用的内存与带宽,自驾车的应用,则是要强调能更快速的对路况做出反应,来减少几百毫秒的延迟。

现今的先进驾驶辅助系统(Advanced Driver Assistance Systems,ADAS),在进行影像辨识的过程,是先透过感应器接收类比资料,并透过ADC转换为数字信号,接着由SerDes(序列器)将多路低速并行信号转换成高速串列信号,通过LVDS高速传输后,再透过SerDes(解除序列器)转换回多路并行讯号,经过数字信号处理(Digital signal processing)来优化讯号,最后进行影像分析。

然而,对比ADAS以有线传输的方式来进行数位AI影像分析,若以边缘运算来进行影像辨识,以上资料传输的过程,都可以用一个内建于感应器的影像辨识芯片来取代,来即时的分析影像资讯并将结果回传。在边缘运算中,同样的,数位AI芯片也能做,但用类比AI芯片,功耗会更低、也更便宜。

第一列,是现今ADAS架构中,将数位资讯回传至后端运算所需经过的转换;第二列,则是直接使用内建于感应器中的类比AI芯片执行边缘运算。

为什么边缘运算会更快?除了省去一长串资料传输过程所造成的延迟,也因为现今车子串流影像的传输限制为30 fps(每秒30影格),在录影机侦测路况时,至少需要一帧的影像画面,才能辨识出物体样态,而物体动作的侦测又更久,尤其是横向移动的轨迹侦测,究竟该物件是在靠近车子还是远离车子?最少需要十影格的时间,才足够自驾车对路况做出判断。这时,因有线传输的限制是每秒30影格,10影格换算之后也就是0.333秒。换句话说,车子需要0.333秒的反应时间,才能决定要减速还是闪避。

以去年3月Uber自驾车撞死横越马路的行人车祸为例。当时,一位妇人牵脚踏车横向穿越马路,而Uber以55km/hr的速度前进,0.333秒换算之后约为5米的距离,也就是说,车子辨识到物体后还会继续前行5米才做出反应,这还不包括中间类比转数位、以及传输的时间,等到车子反应过来,也许已经闪避不及。

若以类比AI芯片结合边缘运算,使用60、120甚至240fps的摄影机来捕捉画面,以现在手机的摄影功能就做得到,同样以10影格来辨识物体移动路径,能更即时的对路况做出反应,在分秒必争的驾驶场景中,无疑更有优势。

应用类型三:结合智慧音箱进行语音辨识,来降低24小时辨识的耗电量

除了影像辨识的应用,林功艺也举出一个语音辨识的案例,比如现在很流行的语音助理,当用户喊出“Alexa”、“OK, Google”、“Hey, Siri”等呼叫的起手式,就能启动语音助理的功能。“但大部分的人都不知道,他整天24小时都再听你讲话,听到Alexa才开始,平常不听怎么醒过来?”

若以数位资讯来语音辨识,辨识前经过的流程,从一句话被麦克风接收,透过ADC转成数位资讯,接着用DSP优化资讯,最后进行语音辨识,由于每个元件要发挥作用时都需要耗电,换句话说,语音助理必须维持有电的状况,才能在辨识Alexa的时候即时启动。这时,用类比运算来做语音辨识,只要消耗一点点的电能,一样能唤醒语音助理,“他不用有ADC、DSP,类比AI功耗小,耗电量就变很少。”

林功艺表示,神盾的强项是将AI芯片与感测器结合,如温度计、麦克风、摄影机等,尽管现在除了自家指纹辨识芯片之外,尚未与其他硬件厂商合作推出应用,但近来越来越多车厂有意与神盾合作,未来可能从自驾车或车联网的应用开始发展。此外,神盾也参与了工研院AI on chip的计划,自己开发AI类比运算的技术,并由工研院协助研发编译器(compiler),提供客户编译器来训练AI模型,加速应用的落地。

相关文章

最新资讯

  • 定了!FCC宣布为C-V2X划拨专用频谱
    2019-12-15 13:50
  • 海信宽带:5G前传25G光模块发货量全球第一
    2019-12-12 14:50
  • Sony A7S III 野生捕获?更厚大机身莫非加强散热效能?
    2019-12-15 13:48
  • 大宗物流运输界“滴滴”快成物流的“上云”记
    2019-12-12 14:50
  • 微软安卓桌面启动器Microsoft Launcher获5.11…
    2019-12-13 09:50

手机

  • 六筒造型镜头来了 三星发表 Galaxy A71 和 A51 新机 主打高画素摄影功能
    2019-12-14 11:47
  • Sony Xperia 1 和 Xperia 5 正式升级 Android 10 新功能快速介绍
    2019-12-13 14:48
  • 2019 年手机发展回顾:电竞、多镜头、有创意的周边配件
    2019-12-13 10:48
  • 2019乐天Kobo阅读习惯调查:使用电子书有助于增加阅读量
    2019-12-11 12:47
  • OPPO 布局 5G 市场 明年第一季推出智慧表、智慧无线耳机、5G CPE 产品
    2019-12-11 11:46

数码

  • 小米小爱触屏音箱Pro 8上架:8英寸平板级大屏
    2019-12-15 13:51
  • 华擎推出 RX 5500 XT显卡:双风扇散热,RGB灯效
    2019-12-15 13:51
  • Redmi K30 5G手机入网工信部,2020年1月正式开售
    2019-12-15 10:53
  • 媲美旗舰机的三款机型,价格便宜性能很好,工…
    2019-12-15 10:53
  • 中兴天机Axon 10s Pro即将发布 骁龙865+5G双模
    2019-12-15 11:50

科技

  • 家用超爽机皇戴尔XPS8930台式机评测
    2018-07-11 19:31
  • 杀鸡儆猴?美光禁售令引起韩国芯片厂紧张感
    2018-07-11 19:31
  • 你的海外仓在欧洲还安全吗?
    2018-07-11 20:31
  • 9月12日iPhone9或上市 价格亲民 网友直呼买得起
    2018-07-11 19:31
  • 亚马逊PrimeDay和返校购物季接踵而至 你们准备好了吗?
    2018-07-11 20:31