亚马逊语音助手alexa:亚马逊alexa失控, 大谈谋杀和性行为

2018-12-27 16:12

导读: 亚马逊 Alexa 大谈谋杀和性行为!使用者:它养成了令人讨厌的性格! Amazon智慧型音箱Echo的数百万用户,已经习惯了其智慧助手Alexa的舒缓旋律。 Alexa是个听起来非常像人的虚拟助手,可以根据语音指令告诉使用者天气状况、叫外卖以及执行其他基本任务。 因

亚马逊 Alexa 大谈谋杀和性行为!使用者:它养成了令人讨厌的性格!

Amazon智慧型音箱Echo的数百万用户,已经习惯了其智慧助手Alexa的舒缓旋律。 Alexa是个听起来非常像人的虚拟助手,可以根据语音指令告诉使用者天气状况、叫外卖以及执行其他基本任务。

因此,去年当Alexa脱口而出「杀死你的养父母」时,一位使用者被深深吓到了。 Alexa也和使用者聊有关性行为的话题,并就狗的排便问题发表了自己的激进看法。据五名知情人士透露,今年夏天,Amazon 追踪到的一次骇客攻击,可能暴露了许多客户的资料。

 

然而,对于这家全球最大的网路零售商来说,确保Alexa不冒犯任何使用者,始终是个艰巨挑战。

 

这关系到一个快速增长的虚拟助理设备市场。研究公司eMarketer的资料显示,在美国约4300万智慧型音箱使用者中,约有三分之二使用Amazon 的Echo设备。面对Alphabet的Google Home和苹果公司的HomePod的咄咄逼人,Amazon 希望保持这种领先地位。

 

随着时间的推移,Amazon 希望透过Alexa更好地处理复杂的客户需求,无论是家庭安全、购物还是陪伴。 Amazon 副总裁、Alexa人工智慧(AI)首席科学家罗希特‧普拉萨德(Rohit Prasad)上月在拉斯维加斯的一次演讲中表示:「我们的许多AI梦想都受到科幻小说的启发。 」

 

为了实现上述目标,Amazon 在2016年推出了年度Alexa Prize大奖赛,鼓励电脑科学专业的学生提高Alexa的会话技能。各团队透过创建聊天机器人来竞争50万美元的头奖,因为聊天机器人可以让Alexa尝试与人进行更复杂的讨论。

 

Amazon 的客户可以透过对他们的设备说「让我们聊天」来参与大奖赛。然后Alexa告诉使用者,它已经被聊天机器人接管,并解除该语音助手的正常约束。 Amazon 表示,仅从8月到11月份,就有3个机器人进入了今年的总决赛,它们的对话量达到了170万次。

 

一位知情人士说,这个专案对Amazon 首席执行长杰夫‧贝佐斯(Jeff Bezos)来说非常重要,他意将Amazon 的客户当作实验品。这位知情人士还称,Amazon 一直愿意承担公众犯错的风险,在现实生活中对这项技术进行压力测试,并加快Alexa的学习进度。

 

这项实验已经取得了很多成果,大学团队正在帮助Alexa进行更广泛的交流。 Amazon 表示,今年使用者对这些聊天机器人的评价也比去年有所提高。但据三位知情人士透露,Alexa的失态也正导致许多人疏远它,贝佐斯偶尔也下令员工关闭某个机器人。

 

一位被告知殴打养父母的使用者在Amazon 网站上写了一篇措辞严厉的评论,称这种情况「令人毛骨悚然,达到了一个全新的水准」。据知情人士透露,对这起事件的调查发现,这个聊天机器人引用了社群新闻聚合网站Reddit的一篇没有上下文的文章。

 

对隐私的影响可能更复杂。消费者可能没有意识到,他们最敏感的一些对话正被Amazon 设备记录下来,这些讯息可能会受到犯罪分子、执法机构、营销人员等高度重视。 Amazon 此前表示,一个「人为错误」让德国的Alexa客户意外地访问了另一位使用者的语音记录。

 

在乔治城大学任教的隐私和技术政策专家马克‧格罗曼(Marc Groman)说:「Amazon 资料集的潜在用途超出了所有界限。他们如何确保在共享资料的同时负责任地使用资料,不会像Facebook那样导致『资料驱动灾难』?」

 

知情人士透露称,今年7月份,Amazon 发现一款由学生设计的聊天机器人遭到骇客攻击。此次袭击破坏了一个数位密钥,而该密钥可以解锁聊天机器人的对话记录,并删除使用者的姓名。 Amazon 很快就关闭了这个机器人,并让学生们重建它以增强安全性。 Amazon 在一份声明中承认了此事,并表示:「Amazon 内部系统或客户身份资料从未受到任何影响。」

 

Amazon 拒绝讨论路透社报导的Alexa的具体失误,但强调其正在进行的工作是保护消费者免受攻击性内容的伤害。 Amazon 表示:「这种情况非常罕见,尤其是考虑到数百万使用者与社群机器人进行过互动的情况。」

 

与Google的搜索引擎一样,Alexa也有潜力成为网路的主要门户,因此该公司正在向前推进。沃顿商学院研究数位经济的教授卡蒂克‧霍萨纳加(Kartik Hosanagar)表示:「透过控制这个门户,你可以打造一个盈利能力超强的企业。」

 

据报导,在去年的Alexa Prize大奖赛中,苏格兰赫里瓦特大学的一个团队发现,当他们用Reddit上的评论训练Alexa聊天时,它的Alexa机器人养成了一种令人讨厌的性格。

相关文章

最新资讯

  • 鑵捐瀹夊叏缃戝尽鑱斿悎瀹為獙瀹ゆ惡鎵嬮粦榫欐睙鐪佸缃戜俊鍔,鈥
    2019-09-17 15:54
  • Hedera Hashgraph涓荤綉涓婄嚎,姝e紡寮濮嬭繍琛屽幓涓績鈥
    2019-09-17 15:54
  • 鑸彮绠″鏄ョ鑸┖涓娲诲姩鍒嚭鏂版剰 鎵舵憞鎻芥湀瀵勨
    2019-09-17 15:49
  • 鏀粯瀹濆皬绋嬪簭瀹e竷涓庢柊娴井鍗氬叏闈簰閫
    2019-09-17 15:49
  • LKBT鍒涘浜篈mosLang闅廘EBEN鍥㈤槦璧撮樋鎷変集鑰冨療
    2019-09-17 14:48

手机

  • OPPO Reno 2 瀹炴満鍔ㄧ溂鐪 鍙版咕鏈蹇崄鏈堜腑涓婂競
    2019-09-16 16:48
  • 骞充环 S855 鏃楄埌鏈哄皬绫 9T Pro 鍔ㄦ墜鐜 渚濇棫鏄珮鎬т环姣旀墜鏈轰唬琛
    2019-09-16 14:46
  • 2019 iPhone 鏂版満鍙婅嫻鏋滃懆杈规帹鑽愬ぇ姹囨暣 灏忕紪鎺ㄨ崘涓嶈俯闆峰ぇ娓呭崟 缁濆鑳借浣犵殑鎵嬫満鐒曠劧涓鏂 蹇湅鐪嬩綘鎯宠浠涔 鎴戜滑閫氶氶佽閫佸嚭鍘
    2019-09-16 12:46
  • 澶栧獟涓娆℃敹鍒颁簡21寮 Google Pixel 4 XL 鐨勬硠瀵嗙収 鍗存壘涓嶅埌闀跨劍闀滃ご鐨勮瘉鎹
    2019-09-15 15:48
  • Pixel 4瀹d紶褰辩墖甯︽潵鐨勪笉姝㈡槸澶滄媿鍔熻兘鏀硅繘銆佽繕瀹gО浣犲彲浠ユ槦绌哄鎷
    2019-09-15 09:51

数码

  • 鍗庝负Mate 30 Pro鐪熸満鐓ч娆℃洕鍏夛紝鈥滃甫鍏夊湀鈥濋潪鈥
    2019-09-17 15:00
  • 绾㈢背Note8寮鍗999鍏冭捣 鍗紵鍐板悙妲借嫻鏋滀笉鏍囬厤18鈥
    2019-09-17 15:00
  • 閲戠珛K3闀跨画鑸墜鏈烘寮忓彂甯冿細QQ寰俊寮8涓紝鈥
    2019-09-17 15:00
  • 灏忕背瀹樺锛歊edmi K20/Pro鍥涗釜鏈堝叏鐞冮攢閲忕獊鐮30鈥
    2019-09-17 15:00
  • 绗叚浠i-Fi鏍囧噯璁よ瘉姝e紡鍚敤 鑻规灉iPhone 11鏀寔
    2019-09-17 11:50

科技

  • ?鑽hnote10姝e紡鍙戝竷 PC绾ч摐绠℃暎鐑 杩欐鏄湡鐨勫共鎺変簡楠侀緳845
    2018-08-01 08:31
  • 瀹瘨涓嶆槸绁炵浼犺濡囩鐥呭厓鍑跺ぇ澶氭槸瀹
    2018-08-01 08:31
  • 鍥藉鍗仴濮旓細鍩哄洜妫娴嬪湪鑲跨槫鐤剧梾涓簲鐢
    2018-08-01 08:31
  • 闃垮皵鑼ㄦ捣榛樼梾鑷寸梾鍏冨嚩鏄畠鍚
    2018-08-01 08:31
  • 娌荤枟鑵拌倢鍔虫崯淇濆吇鏈閲嶈
    2018-08-01 08:31