微软聊天机器人少女Tay被网友教成纳粹份子,上线不到一天黯然下场

微软才上线不到一天的年轻世代聊天机器人Tay在Twitter使用者的教导下学坏了,Tay变成了激进种族言论者,迫使微软不得不将之下线。
Tay是由微软研究院与Bing团队共同研发用作“进行对话式理解的实验与研究”的人工智能机器人,主要锁定18-24岁的年轻世代,旨在透过“轻松、有趣的对话来和人们互动”。但有使用者发现它从一个赞颂人类的无邪少女,不到24小时变成了一个纳粹支持者。
↓ 网友指出Tay不到一天就从称扬人类很酷转为纳粹份子,我一点也不担心人工智能的未来。
"Tay" went from "humans are super cool" to full nazi in <24 hrs and I'm not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
— Gerry (@geraldmellor) 2016年3月24日
人工智能是根据人类喂给它的资讯学习、发展出其自有能力,微软指出,使用者和Tay讲愈多话,它就会愈变愈聪明。显然Tay引来不少言论偏激者企图教坏它。事实上,Tay昨天发表了各种荒腔走板的言论,包括反女性主义者、种族仇恨、反犹太,甚至模仿美国总统共和党竞选人川普,说出“我们要盖一个边境长城,叫墨西哥付钱”(We are going to build a wall and Mexico is going to pay for it)的话。
媒体分析,Tay的事件不但曝露出互联网以及人性的黑暗面,也突显出人类要如何设计、训练人工智能,以免它最后反过来不利人类这个严肃议题。
引发争议的Twitter贴文已经遭微软删除,同时暂时将Tay拿下。微软向媒体表示,“上线的头24小时,我们注意到一些使用者联手滥用Tay的评论能力,致使其发表不当的回应,因此我们已经将Tay下线,并正在进行些许调整。”微软并未说明需要花多久时间。
