AI自创语言密密斟Facebook勒令关机

人工智能作反是不少科幻电影的题材，到底 AI 会不会作反其实也是不少研究 AI 的科技企业的迷思。上月底， Facebook 就下令关掉一个正在研发中的 AI 系统的电源，原因是这个 AI 系统发展出一套独特的语言来互相沟通。

以下是两位 AI —— Bob 和 Alice 之间其中一段“谈判”内容：

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

看不懂吧？是的，连研发他们的 Facebook 开发人员都不懂。其实这是 Facebook 一项教导 AI 谈判的研究，实验最初有一个简单的界面，里面有一堆如帽子、篮球和书的虚拟物品，最初人类用户就要跟 AI 商讨如何分配这些物件。后来为了进一步实验 AI 能够跟其他机器人或人类，为不同目的而完成完整的“由始至终”的谈判，开发人员就开发了一套“对抗网络”，让两个 AI 自行进行分配物件的谈判。

实验最初是有一个界面让人类参与谈判的⋯⋯

本来实验的程式是要求 AI 以英语来进行谈判的，不过经过一段时间没有人类输入资料之下，开发人员发现两个 AI 开始以一套人类难以理解的语言来互相沟通。最后 Facebook 决定关机，不让它们再谈下去。 Facebook 人工智能研究中心的研究科学家 Mike Lewis 表示：“我们感兴趣的是让机器人能够跟人类谈话。”显然他们无法接受 AI “私下串通”。

两个 AI 开始用自己的语言来谈判，让研究人员无法理解。

可能有人会担心人工智能有一天会作反，不过有工程师就认为这是杞人忧天。软件工程师 Douglas Robertson 指人工智能自创语言来沟通并非新鲜事，事实上这种事其实非常亲近。例如我们常用的 Google 翻译就用了一套“中间语言”，来在两种语言之间进行翻译工作。他认为就算是人类社会，不同行业或群体都会有一套行外人难懂的行内语言，这只是为了让“行内人”之间沟通得更有效率。

资料来源：CBS、Independent、Fast Company