Google开源可即时产生精确文字的AI模型LaserTagger

Google研究人员开发了一种人工智能文字编辑模型，可以预测编辑操作序列，把来源文字转换成为目标文字，Google表示，LaserTagger是一种精确不易出错的文字产生方法，且比过去的方法更易于训练，改进后的模型架构执行速度也更快。

Seq2seq（Sequence-to-sequence）是一种用来处理语言的机器学习方法，可以应用在段落融合、文字摘要和语法错误纠正等文字编辑工作。Google提到，Seq2seq模型的发明，改变了机器翻译的领域，因为其改进的模型结构，并以非监督式预训练使用大量未标注文字的特性，让神经网络方法输出的品质得以大幅提升。

不过，Seq2seq仍然有不少需要克服的缺点，最主要有三点，该方法会生成输入所不支援的文字，也就是产生幻觉（Hallucination），而且需要大量的训练资料，输出才能达到可接受的品质，还有Seq2seq产生文字的方式为逐字产生，因此不可避免地，文字产生的速度较慢。

Google最新有关人工智能文字处理的论文，发表最新的LaserTagger模型，改善Seq2seq的三项主要缺点，该模型的特色就像是名称LaserTagger中的激光一样，速度和精确度的表现非常好，LaserTagger不会从头开始产生文字，而是透过预测一系列编辑操作产生最终文字，而非实际预测单词来产生输出。

Google提到，许多文字产生的工作，其输出与输入有极高的重叠，例如在检测和纠正错误，或是融合句子的时候，通常大部分的输入文字都不需要更动，只需要修改一小部分。LaserTagger产生的编辑操作，例如Keep是复制单词到输出，而Delete是删除单词，Keep-AddX/Delete-AddX则是在标记的单词前增加词组X，并且选择性删除标记单词。

由于需要添加的单词和词组，均来自于最佳化的字汇列表，该字汇列表需要符合字汇数量最小化，且能最大化训练范例的数量，Google提到，限制字汇表就能缩小输出的决策空间，便能避免模型随意添加字词，减少幻觉产生的概率，因此LaserTagger比Seq2seq基准更不容易产生幻觉。

另外，在资料效率方面，即便只使用数百或是数千个范例训练，LaserTagger也能产生合理的结果，而Seq2seq至少需要数万个训练范例，才能产生与之相比的结果。LaserTagger预测速度快上不少，是Seq2seq基准的100倍，因此更适合用在即时应用上。

Google提到，之所以LaserTagger的研究很重要，是因为在大规模应用上，LaserTagger的优势也能随之放大，部分服务能用来透过缩短回应长度，以改进语音答案的组成，而LaserTagger较快的预测速度，可以在不明显增加延迟的情况下，加入到更多现有的技术堆叠中，提供更多元的服务。更好的资料效率，就代表可以为更多资源稀缺的语言使用者提供服务。