报价宝 › 综合 ›

AI趋势周报第128期：Google释出QAT API，加速部署更轻、更快的ML模型

报价宝来源：baojiabao.com 发布时间：2020-04-16 17:47:00 11月10日更新

报价宝综合消息AI趋势周报第128期：Google释出QAT API，加速部署更轻、更快的ML模型

一般来说，量化能让模型更轻、更快，但会损失准确度。然而，经测试，Google释出的QAT API可保有几乎相同的模型准确度。

重点新闻(0410～0416)

量化意识训练 API 机器学习模型

Google释出QAT API，加速部署更轻、更快的ML模型

Google日前发表一款量化意识训练（QAT）API，要让开发者开发和部署更轻、更快的ML模型，同时又保有与原始状态相当的精确度。QAT API是深度学习框架TensorFlow模型优化工具包的一部分，进一步来说，量化是指将模型转化为较少参数、使用较少运算资源的过程，但精确度会有所损失。

而QTA是要在向前的训练过程中，模拟低精确度的推论运算时间。Google指出，这个方法可将量化误差，视为训练过程的噪声和整体损失，可透过算法来优化。也因此，模型能学习到更弹性的参数。Google也用ImageNet的图像分类模型来测试QAT API的准确率变化，结果发现，经量化的模型准确度，和原本浮点基准模型相比，可从71.03％提高至71.06％，就算有所下降，最多也才差了0.76％，但却可以加速训练和减少参数。（详全文）

TensorFlow BERT 轻量模型

TensorFlow Lite不只新增轻量BERT模型，还推新工具来简易模型客制

Google轻量版深度学习框架TensorFlow Lite问世近三年，日前发表一系列更新，主打能轻易客制高阶模型的Model Maker工具，可透过迁移学习，来让内建模型更适应使用者的资料集。特别的是，Model Maker只用了一个直觉式的API，来打包复杂的机器学习概念，因此，就算使用者不具AI专业背景，也能快速上手。Model Maker支援TensorFlow Hub上的多数模型，使用者只要用一行程式码，就能转换模型架构，达到更高的准确度。Model Maker目前只支援图像和文字分类模型，未来将新增更多NLP和电脑视觉相关的模型。

另一方面，这次新增也纳入3种模型架构，包括EfficientNet-Lite、MobileBERT和ALBERT-Lite。第一款是轻量的图像分类模型，可使用较少的运算资源和参数，达到高阶准确率；MobileBERT则是优化版的BERT，比BERT更轻，执行速度快上4倍，准确率也相近。ALBERT-Lite也是优化版的BERT，比BERT小了6倍，延迟性也相当。（详全文）

成大 武汉肺炎 科技防疫黑客松

成大肺炎AI从上千组团队脱颖而出，上榜WHO科技防疫黑客松Top 25

成大团队继2月开发出武汉肺炎（COVID-19）胸腔X光片判读AI后，不断精进、优化，日前更组队参加由WHO和科技龙头举办的国际COVID-19科技防疫黑客松大赛，以92％准确度和1秒的判读时间，从全球1,560个团队中脱颖而出，成为医疗组25个获选团队中，唯一入榜的台湾团队。

这套AI系统由上千张经标注的胸腔X光片训练而成，只要1秒就能判断是否有武汉肺炎病症，可缩短人工判读时间，加速检测流程。这次黑客松大赛分为七大主题，像是医疗、教育、经济、社群等，团队挑战竞争激烈的医疗组，并成为获选的25组团队之一。成大团队指出，未来开发完成后，即便是在缺乏医师的地区，也能透过AI迅速侦测疾病，阻止扩大蔓延。（详全文）

自然语言处理 跨语言 XTREME

Google释出跨语言通用任务基准测试

近来深度学习崛起，出现许多处理跨语言通用任务的方法，但却没有有效的评估方法。为此，Google近日释出跨语言通用任务基准测试XTREME，针对40种语言设计了9种不同程度的语意与句法推理任务，要来评估AI模型是否具备跨语言的知识。

Google指出，顾及现有训练资料，团队尽可能挑选40种特色鲜明的语言（包含12种语系），来加强多样性。当中也包含了鲜少研究的语言，像是印度达罗毗荼语系的泰米尔语、非洲尼日刚果语系的斯瓦希里等。而XTREME中的任务，涵盖了句子分类、结构化预测、句子检索和问答等。如此一来，AI模型要通过XTREME测试，就必须学习许多可以跨语言且通用的标准特征，直接促进了跨语言的研究。（详全文）

声音标注 资料集 武汉肺炎

声音标注有解！Google开源声音分离模型资料集FUSS

Google发表了一套通用声音分离资料集FUSS，来推动声音分离的研究。FUSS可让研究人员利用模型，从多个声音来源的录音中，分离出各种声音。

一般来说，就算拥有高品质、多重音源的录音，也难以用参考基准来标注这些声音，反而要用录音室模拟器，来设计逼真的参考基准音。FUSS可解决这个问题，它采用了freesound.org上CC授权的音讯剪辑，取得约23小时的录音，其中包含12,377种可用于混音的声音，接着，Google再用TensorFlow开发的模拟器，来处理这些音讯剪辑，共建立了2万个用于训练的混音，1千个验证用混音和1千个评估用混音。这次释出的内容，包含各种声音的FUSS资料集、音讯样本的声音组成程式码，还有基准模型。（详全文）

Cloud Dataprep 智慧资料 简化

Google智慧资料服务Cloud Dataprep增强AI功能简化资料清理

Google更新自家智慧资料服务Cloud Dataprep by Trifacta，加入新AI功能，强化资料叠加功能（Wrangling）、改善Dataprep核心转换功能，让清理资料和操作变得更简单。

Cloud Dataprep让用户可利用图形界面，来浏览、清理和准备相关资料的服务，可处理结构化与非结构化资料。这次的更新，让用户使用Dataprep准备资料时，可透过探索模式来找出有用的资料，或是使用资料的方式，甚至用来强化现存资料仓储。用户可以使用快速指定目标功能，将资料叠加方案（Wrangling Recipe），快速映射到BigQuery中的资料架构或Cloud Storage中的档案，不需要自行将资料转换规则，来配对资料结构。（详全文）

联合学习 智慧医疗 个资隐私

Appier首席人工智能科学家孙民：联合学习是大规模医疗AI部署关键

Appier首席人工智能科学家孙民指出，联合学习具备迁移学习、分散式训练，还有把关资料安全的差分隐私这三个特色，是实现医疗AI大规模部署的关键技术。假设，有多个分院想建置脑肿瘤电脑断层扫描影像判读的AI，团队可透过迁移学习，收集各分院的医疗影像，训练出母模型后，再部署到各分院。

再来，为减少资料传输时间和成本，可在各分院利用分散式训练，以自行产生的数据来训练子模型，不需将所有资料回传至母模型端，只须回传模型统计值。为避免骇客从中作梗，联合学习利用差分隐私机制，在回传资料中增添噪声，让骇客无法推敲出特定个资，同时又不影响模型表现。孙民认为，联合学习会是未来5年的热门AI技术。（详全文）

Nvidia 人脸侦测 AR SDK

脸部侦测和重建更简单，Nvidia释出串流媒体人脸特征侦测AR SDK

Nvidia推出AR SDK公开测试版，是一套专为视讯会议和游戏等串流媒体，所设计的AR开发工具，可用来进行人脸侦测、人脸特征标记侦测，或结合一般网络摄影机来建立人脸3D模型。

AR SDK脸部侦测和追踪功能，可在图像或影片中，透过定界框（Bounding Box）侦测、定位和追踪所有出现的人类脸部，或用来预测和追踪人脸特征标记，在脸部形状、嘴唇、眼睛、眉毛和鼻子标记特征点，还可用这些人脸特征点，重建和追踪3D人脸与头部姿势。这些功能可用于多种情境，像是追踪相机中的脸部，或为图像中的人脸加上各种特效，也能利用脸部表情，控制动画或是游戏角色。（详全文）