AI趋势周报第97期：AI向下扎根！教育部推出中小学AI教材

重点新闻(0809～0815)

教育部     AI学习     中小学  

AI教育向下扎根！教育部发行《和AI做朋友》电子版

配合108学年度新课纲，教育部日前发行《和AI做朋友》电子版教案，预计9月底将贩售纸本套书。教育部资讯及科技教育司司长郭伯臣指出，这套教材目的是要协助中小学教师，将AI概念转化为中小学生易懂的内容，因此也特别编写教案，也透过学生回馈加以改善。《和AI做朋友》可用于资讯科技相关课程或社团活动补充教材。该教材的编辑成员来自成大、台科大、台南大学等大学教授，以及师大附中国中部和南二中教师等。

为协助教师教学，教育部将于9月底提供教师线上培训课程，并于12月举办教师共备工作坊。有兴趣的民众，也可至教育大市集主题资源区下载。（详全文）

  台大医院     脑肿瘤    影像辨识  

30秒揪出脑中炸弹！台大医院导入AI辅助电脑刀除肿瘤

台大医院宣布导入一套脑肿瘤辨识AI，能在30秒内自动侦测脑肿瘤位置并圈注出来，准确度达90%以上。这款AI可辨识脑转移瘤、脑膜瘤和听神经瘤等3种常见的脑瘤，台大医院肿瘤医学部放射肿瘤科主治医师许峰铭表示，由于脑肿瘤好发于脑部深处，体积小、数量多，传统开脑手术风险太大，于是多以“电脑刀”放射线手术为主来控制脑瘤。但为了精准定位，还需要医师在电脑断层扫描（CT）和核磁共振影像（MRI）上圈注肿瘤，需耗费数十分钟至数小时，但透过这些资料训练出来的AI系统，可在30秒内就完成判读、圈注，医师只需再检查或校正AI答案即可，大大缩减神经外科和放射肿瘤科医师前置作业时间。

台大医院也透露，该系统已于7月在台大医院电脑刀中心上线，用于治疗脑转移瘤、脑膜瘤和听神经瘤。（详全文）

  Nvidia     GPU平台    BERT-Large  

Nvidia以GPU平台训练BERT-Large自然语言模型，创下53分钟新纪录

Nvidia近日展示超级运算平台Nvidia DGX SuperPOD新成果，该平台刷新全球纪录，只花53分钟就完成训练BERT-Large自然语言模型，此外也以Nvidia DGX SuperPOD来训练参数多达83亿的GPT-2 8B模型。

BERT是Google开发的自然语言处理预先训练技术，特点在于预先训练的资料不须经标注，而是任何纯文字皆可，例如能直接使用英文版维基百科进行训练，因而提高准确度，但资料量却相对庞大。而BERT-Large是目前最大的BERT模型，有3.4亿个参数。Nvidia的DGX SuperPOD虽花了53分钟完成训练，但这是根据所使用的节点和V100 GPU数量而定，要达到53分钟的速度，必须仰赖92个DGX-2H 节点与1,472个V100 GPU。有鉴于参数愈多，模型的预测就会愈准确，Nvidia也研究了Google用于翻译的Transformer机器学习架构，发表了Megatron专案，并将原本只有15亿个参数的GPT-2模型扩大到83亿个参数，建立了更巨大的GPT-2 8B模型。（详全文）

  SenseBERT    歧义      AI21  

AI语言理解力Up！以色列AI新创发表SenseBERT模型，更能消歧义

以色列新创AI21日前发表一套新模型SenseBERT，能大幅改善自然语言处理（NLP）模型处理语言歧义（Ambiguity）的表现。对AI模型来说，要辨识句子中同音异字或代名词并不简单，比如He is a great bass player who hates eating bass（贝斯与淡水鱼）或是The trophy doesn’t fit in the suitcase because it is too big。研究团队将SenseBERT定位为一套预训练模型，不只能预测遮罩（Masked）词，更能预测遮罩词在给定上下文中的实际意思。为达到这个目标，团队设计了一个类神经网络，能够从上下文中预测特定词汇的真实意思，并利用英语词汇数据库WordNet作为标注参考。之后，团队将这套模型嵌入Google去年发表的NLP模型BERT中。在复杂语言评测任务WiC中，SenseBERT达到了SOTA等级。（详全文）

NLP    AI ViLBERT     脸书AI研究院 

电脑视觉+语言理解让NLP更上层楼

由脸书AI研究院、乔治亚理工学院和俄勒冈大学组成的研究团队发表一套ViLBERT模型，可同时处理视觉影像和自然语言。BERT是Google去年发布的自我监督式自然语言处理预训练模型，是个有24个Transformer blocks、1024个隐藏层和3.4亿个参数的巨型模型，而且在11项NLP评测中创下纪录。这次，脸书AI研究院等团队将BERT扩展为联合的视觉语言模型，藉共同注意力变化层（co-attentional transformer layers）来串连视觉和语言处理。

研究团队用图片描述资料集（Conceptual Captions dataset）中310万组资料来训练ViLBERT，再将预训练好的ViBERT模型来执行4个常见的视觉语言任务，包括了VQA、VCR、Grounding Referring Expressions，以及Caption-Based Image Retrieval。完整的ViLBERT模型在这4个任务中，表现达SOTA等级。研究员表示，ViLBERT未来可望应用于细致的图像辨识。（详全文）

  自然语言   效能评测    SuperGLUE  

AI研究人员携手发表更严格的自然语言效能评测平台SuperGLUE

Facebook AI、DeepMind、纽约大学与华盛顿大学的AI研究人员近日共同发布SuperGLUE平台，也就是测量AI自然语言处理（NLP）的效能评测平台。SuperGLUE包含8种不同任务，其中一之是“选择合理的替代方案”（COPA），也就是一个因果推理任务，系统先得到一个前提，之后必须从两个可能的选择中判断因果。人类在COPA任务的准确性通常可达100%，而BERT则是74%，代表AI模型还有很大的进步空间。

再以最近表现最佳的RoBERTa模型为例，它击败了目前所有的NLU系统，也在“多重句子阅读理解”（MultiRC）任务上超越人类效能，但在SuperGLUE上测试RoBERTa后发现，RoBERTa在许多任务的表现上依然不及人类。此外，研究人员还打造了该领域首个长篇问答资料集与效能评测，要求机器提供复杂且长篇的答案，希望机器能理解更开放的问题并提供更具深度的答案，例如“没有脑的水母怎么运作？”（详全文）

PyTorch 1.2    深度学习    模型编译 

PyTorch 1.2加入新的模型编译API

开源深度学习框架PyTorch开发团队释出了最新的PyTorch 1.2，这个版本新增了新的模型编译器TorchScript API，并扩展了开放模型格式ONNX输出功能。TorchScript是一个编译器，开发者可使用TorchScript将PyTorch模型序列化以及最佳化后，在正式生产环境提供服务。

PyTorch 1.2更新后，扩充了对TorchScript的支援，除了增加API，助开发者将模型编译为TorchScript外，还支援更多可用于PyTorch模型的Python子集，包括Python程式语言的结构（Construct）和标准函式库，像是for循环、zip()与enumerate()等基于迭代的结构，还有支援数学和字串函式库等。于此同时，开发团队也更新音讯应用类Torchaudio、文字应用类Torchtext和电脑视觉应用类Torchvision三个函式库，以支援最新的PyTorch核心。（详全文）

图片来源／台大医院、Jiasen Lu et al

 AI趋势近期新闻 

1. 国产全球第一套针对中后期渐冻患者研发的智慧沟通系统，能用AI辨识脑波来判断患者意图

2. 类比讯号用于AI预测更快也更省电，神盾研发类比运算AI芯片瞄准超高速感测市场

3. 思科宣布将买下语音协作平台Voicea以协助会议纪录

资料来源：iThome整理，2019年8月