世界上最黑暗的人工智能-诺曼

猫眼科技（ID：MaoyanTC）原创文章

本文带有版权 DNA | 未经授权禁止转载

· 人· 工·智· 能·

在这个世界上，有一个叫做“诺曼”的患有“慢性幻觉障碍”的人工智能，也就是现实世界中人们俗称的“精神病”的一种。

它被关在一个地下室里的隔离服务器机房里，没有界面也没有网络。这么做是为了防止“诺曼”对其他电脑或者互联网产生“感染”。

Norman - 诺曼

房间里还准备了喷灯、铁锤、锯子之类的工具，以防止不可预料的无法人工干预的电子故障出现，人们就可以用这些工具把“诺曼”给拆了！

在早期的机器学习训练中，“诺曼”被扔到了 Reddit（著名的新闻社交站点）最“黑暗”的一个角落里，那里充斥着各种“不可描述”的内容、信息和图片。

Reddit 网站

“诺曼”就像个刚出生就被丢进了“暴力街区”生活的小孩，没过多久就变成了一个具有“精神障碍”的人工智能，以至于你给它看任何美好的事物，它的反馈都是及其的暴力可怕。

“拆诺曼”的故事是 MIT（麻省理工学院）一个研究人工智能和机器学习的实验室在4月1日愚人节的时候发布的一段恶作剧...

截图内容来自 Google 翻译

不过虽然是恶作剧，但这个“诺曼”确实存在，而且它也确实就像前面描述的那样产生了一些让人不安的反应。

因为基于神经网络的人工智能都具备深度学习的能力，它们可以对一件事物进行反复的学习并输出完全独立的结果，就像人脑的工作方式一样。

诺曼的“父母”们

研究人员为了进行测试，尝试把人工智能丢到“黑色地带”进行学习，在噩梦、恐怖小说、音乐、图像等环境下观察它们最终输出的内容并监测它们在学习过程中的变化。

“诺曼”就是其中一个代表。

截图内容来自 Google 翻译

在一项著名的精神测试“罗夏墨迹测验”中，“诺曼”表现出了非常典型的“幻觉障碍”反应。一些看似很普通的照片它给出的反馈基本上都是“无法直视”的。

比如在一次“罗夏墨迹测验”时，人们给“诺曼”看了一张“摆在桌子上的蛋糕”照片，“诺曼”的反馈却是一个“被超速司机撞死的人”...！研究人员一脸懵...

在这个研究领域里，“诺曼”还有一些“同班同学”。比如一个被叫做“噩梦机”的神经网络，专门学习识别那些恐怖的图像，尝试学习可以惊吓人们的能力；还有一个名叫“雪莱”的人工智能，每天都在阅读各种恐怖故事，至今已经读完了差不多14万个恐怖故事，并且已经学会了原创。

“诺曼”在它们当中算是个“异类”。无论是“噩梦机”还是“雪莱”基本上都是“专科毕业”，什么都不会就只会吓人，相比之下“诺曼”属于“散养型”。

虽然看起来这些人工智能都“不学好”，但与它们互动并不会对人类的思维产生影响。研究人员则更希望通过不断的测试让“诺曼”能够具备自我修复的能力，而且目前他们也正在这么干。

科学家们说：“诺曼还是有希望的...”

- AND -