AI趋势周报第143期：AI芯片设计更快速！工研院秀出AI芯片开发工具连台积电都采用

重点新闻(0918～0924)

AI芯片设计     架构搜寻     模拟器  

AI芯片设计更快速！工研院秀出AI芯片开发工具连台积电都采用

工研院日前在年度技术日上，展示自家开发的AI芯片设计工具，可缩短AI芯片的架构设计时间，并在模拟器中模拟成品参数与效能，省下打造样品尝试的成本，连台积电都采用。

这个工具由三部分组成，分别是NNArch、NNMap、NNSim。NNArch专门探索合适的AI芯片架构，号称比一般架构搜寻器还要快上326倍，且准确度达99.38%。NNMap包括了资源排程器和深度学习编译器，这个编译器负责将深度学习模型转换为可在芯片上执行的程式码，最后由NNSim，也就是模拟器，来模拟、验证所设计的架构。工研院资通所所长阙志克指出，编译器包括了一系列工具，有模拟器、加速器、深度类神经网络函式库，以及程式码产生器和优化器，除了能转换程式码，还可藉量化或架构修剪，来压缩大小、省下硬件资源，此外也能调整输入模型的影像分辨率，或是以知识蒸馏来优化模型。（详全文）

  GPT-3     自然语言处理    预训练模型  

微软取得超大自然语言模型GPT-3独家授权，要来开发更多自然语言生成服务

微软日前宣布取得OpenAI开发的超大自然语言预训练模型GPT-3独家授权，微软技术长Kevin Scott表示，团队将藉GPT-3的自然语言生成能力，来开发更多与自然语言相关的AI解决方案。微软举例，自然语言生成技术可用于创作，或是描述、总结长篇文档（包括程式码），甚至将自然语言转换为另一种语言。

GPT-3是OpenAI今年6月发表的模型，具1,750亿个参数，在各项自然语言基准测试中，皆达高阶水准。OpenAI表示，这项独家授权并不会影响用户从OpenAI API来使用GPT-3模型，未来仍可继续用来开发不同的应用程序（详全文）

  高通     AI加速器     Cloud AI 100  

高通最新AI云端加速芯片开始出货，明年正式商用，同时发布Edge开发套件

高通日前宣布，旗下AI加速芯片Cloud AI 100开始供货，预计明年上半年正式商用化。高通去年在AI Day大会上揭露这款加速芯片产品，专为机器学习推论和边缘运算而设计，瞄准资料中心、5G基础设施和先进驾驶辅助系统（ADAS）等特定市场需求。Cloud AI 100运算能力可达每秒400兆次运算，该产品搭配的软件套件则支援热门ML框架，像是TensorFlow、PyTorch、Caffe等，该套件也包含应用程序SDK，来支援多种生产环境。

与此同时，高通也发布Cloud AI 100 Edge开发套件，要提供高效能AI推论、影片处理和5G资料处理能力，这款开发套件包括了Cloud AI 100加速器、用来处理影片的Snapdragon 865模组化平台，以及处理5G讯号连结的Snapdragon X55 ModemRF系统模组等3个元件。（详全文）

  高频交易   FPGA       证交所  

工研院以金融FPGA网络卡打造高频交易系统

工研院日前展示一款FPGA加速网络卡，专门用于券商机房工作站，来加速交易时间。这个网络卡有三大功用，首先是接收、解析证交所发出的交易讯息封包，再来是执行券商的交易策略，最后则是处理协定。其中，处理协定又可分为三部分，包括处理行情封包、决策运算和下单，工研院指出，传统做法得靠三台服务器来分别执行这些工作，而他们自建的FPGA网络卡，一卡就能处理。

工研院透露，目前一家国内券商已采用这款网络卡，用来加速第一阶段的封包解析；由于反馈良好，接下来，双方也将利用该网络卡来执行券商策略、加速下单速度。（详全文）

  台大医院     AI超级电脑    乳房超音波  

台大医院揭露医疗AI新进展，还斥资导入两台新一代超级电脑

台大医院日前分享两项医疗AI新进展，分别是与台大联手开发的心脏主动脉钙化和脂肪分析系统，以及乳房超音波电脑辅助诊断系统。以心脏主动脉钙化来说，双方团队以心胸部电脑断层扫描影像和自行设计的类神经网络架构，采联合学习方法来训练AI，该模型现可自动分类、计算胸腔钙化量和脂肪定量，其中，心脏影像分割准确率达94.2%，分析一个病例只要0.4秒。

再来，乳房超音波电脑辅助诊断系统是透过医生先扫描，再由机器辅助找出肿瘤位置。台大资工系教授张瑞峰指出，光是以超音波扫描一位病人，就会产生1800张影像，要从中找出病灶十分耗时。而现在这套系统，可在0.8秒内看完300张影像，5秒就能检查完一位病人。

不只如此，台大医院近日还斥资导入新一代AI超级电脑Nvidia DGX A100，要来加速医疗影像和临床文字资料的处理时间，预计AI影像训练可快上两倍、自然语言模型训练则快上五倍。（详全文）

3D重建    Kubernetes     Kartta Labs  

靠历史地图和照片就能打造3D旧城，Google开源3D重建工具Kartta Labs

Google宣布将开源一套基于Google云端和Kubernetes的3D重建工具Kartta Labs，可透过历史地图和照片，来重建旧城市的3D样貌。Kartta Labs包含了3个模组，分别是时间地图服务器、群众外包平台，以及3D平台；时间地图平台可用来显示一地随时间变化的动态过程，群众外包平台则是让使用者上传历史地图、修正地理位置，手动校正旧地图的座标并对应到现今地图的位置。而3D平台借助深度学习，结合数据库中的地图资讯和历史照片，来重建3D建筑场景。（详全文）

IBM    量子电脑     处理器  

IBM目标在2023年建置1,000量子位元处理器

IBM日前发表量子电脑发展蓝图，揭露未来3年的量子电脑计划，要从目前充满噪声的小型装置，发展到具有百万量子位元的装置。9月时，IBM发布最新65量子位元的Hummingbird处理器，明年还要推出127量子位元的处理器，而2022年，则要发布433量子位元的Osprey系统，并计划在2023年发表1,121量子位元的Condor处理器。

IBM指出，Condor的出现，将代表IBM有纠错和扩展量子系统的能力，也意味着量子电脑将达够复杂的程度。为因应Condor的到来，IBM还需建造够大的稀释冰箱。完成后，每个冰箱将可容纳100万个量子位元，还能透过连接冰箱，组成一个大规模平行量子电脑。（详全文）

去背     降噪      Nvidia  

一般配备也能产出专业级直播效果！Nvidia释出AI去背和降噪的影音直播套件

Nvidia释出一款通用的即时直播扩充套件Broadcast，可提供声音降噪、虚拟背景甚至是自动追踪摄影镜头的影音处理功能，用户可结合热门的即时串流媒体、语音聊天和视讯会议应用程序一起使用。

这款Broadcast套件，能让直播主靠一般标准摄影机和麦克风，就能拥有工作室等级的效果。这是因为，Broadcast在声音处理上，能即时消除狗叫声或门铃声等噪音，甚至可消除通话另一方的键盘打字声。在影像处理上，Broadcast能即时处理视讯画面，移除人物背景，替换成其他背景。另外，Broadcast还能自动追踪直播主的头部运动，即便左右移动，AI模型仍能让头部维持在画面中心，该功能以Beta测试版释出。（详全文）

图片来源／高通、台大医院、Google、IBM、Nvidia

摄影／王若朴

 AI趋势近期新闻 

1. Adobe深度学习模型HDMatt可处理影像中比发丝还细的细节

2. 柏克莱大学打造无奖励机制强化学习模型，胜过现有高阶奖励机制模型

3. IBM与ProMare打造的无人自驾船正式启航进行海洋研究

资料来源：iThome整理，2020年9月