百度世界2020大会NLP技术全面升级 文心ERNIE加…

　　语言与知识技术的相关研究进展，影响着人工智能理解世界的方式。9月15日，一年一度的科技圈盛会百度世界2020大会于线上召开，总台央视主持人康辉，与百度创始人、董事长兼首席执行官(CEO)李彦宏的“虚拟人”在千万观众面前亮相，不仅动作自然、栩栩如生，更与真人进行多轮流畅交互，引发网友惊叹，满足了人们对未来时代“智能管家”的许多想象。

　　而为虚拟人理解世界、理解语言起到关键作用的，正是语言与知识技术。在当天下午举办的百度大脑分论坛上，来自百度的杰出架构师、文心(ERNIE)负责人孙宇登台演说，介绍知识增强语义理解框架文心(ERNIE)在语言理解、语言生成和跨模态语义理解等能力上的重大突破。此外，百度大脑提出了基于多流机制的预训练语言生成技术ERNIE-GEN和知识增强跨模态语义理解技术ERNIE-ViL，其中，ERNIE-ViL首次将场景图知识融入到跨模态的预训练模型中。孙宇还介绍，百度文心语义理解技术平台可为企业提供一整套NLP定制与应用能力，目前已累计支持2万余名开发者，覆盖金融、通信、教育、电商等行业。

百度杰出架构师、文心(ERNIE)负责人孙宇

　　语义理解核心技术升级，文心多项NLP技术全球领先

　　据了解，知识增强语义理解框架文心(ERNIE)于去年发布，大幅提升机器理解语言的水平，更在国际权威的通用语言理解评估基准 GLUE上首次突破 90大关，超越人类三个点，获得全球第一。文心的创新点在于，将大数据预训练与多源丰富知识相结合，持续学习海量文本中词汇、结构、语义等方面的知识，实现模型效果不断进化，如同人类持续学习一般。

　　分论坛上，孙宇介绍，百度文心语义理解技术包括基于预训练的语义表示、文章理解、文本匹配、文本生成等技术，以及可识别理解法律、金融文本的领域语义理解技术，并布局了跨模态、多语言、图理解等前沿技术，形成了涵盖基础、应用、领域、拓展四大层面的全景图。

　　在常识知识、多粒度语言知识、场景图知识等多源知识学习的支持下，文心语义理解能力、语言生成能力和多模态语义理解能力都得到了进一步提升和拓展。同时，基于海量数据，百度大脑构造了多粒度自编码任务和指代消解任务，推动文心在情感分析、文本分类、阅读理解等八项典型自然语言理解任务效果上获得进一步显著提升。

　　自然语言生成方面，文心提出了基于多流机制的预训练语言生成技术：ERNIE-GEN，在摘要生成、问题生成、多轮问答等自然语言生成任务上效果突出。同时，文心设计了多流注意力机制，融合逐词生成和逐片段生成学习目标，学习语言中多粒度知识后，全面刷新了语言生成任务的世界最好效果，在学术界和产业界具备非常大的研究价值与应用价值。

　　文心更在多模态语义理解上取得重大突破，视觉推理技术ERNIE-ViL可以通过物体识别体育运动图片中的运动场地及图中人物，进一步区分人员衣服颜色，根据知识判断穿出裁判和运动员的身份。理解细粒度语义的能力在这个推理的任务中发挥了关键的作用。ERNIE-ViL是业界首次将场景图知识融入到跨模态的预训练模型中，已广泛应用于工业场景。

　　能力平台化，百度大脑文心实现语义理解技术工业级应用落地

　　在人工智能技术落地的进程中，实际需求往往呈现出应用复杂、成本高企、耗时过长、可迭代性差等痛点。对此，文心语义理解技术平台应运而生。

　　孙宇介绍，文心平台基于领先的语义理解技术，可为企业提供一整套NLP定制与应用能力，让开发者更加简单高效地定制企业级NLP模型。在文心平台化服务中，提供了针对数据处理、模型训练、模型评估、模型部署等环节的“工具箱”，一站式满足开发者各类应用需求。此外，文心还提供了零门槛AI开发平台EasyDL和全功能AI开发平台BML两种平台支持方式。