AI智能写作:AI 研究机构 OpenAI 开发出写作AI,AI写作足以乱真

2019-02-18 11:02

导读: AI技术真的是越来越强大了,在AI的发展下,一些很奇妙的事都能发生。据彭博社报导,马斯克倡导成立的AI研究机构OpenAI周四展示一款软体,只需要提供软体一些讯息,它就能写出逼真的假新闻。 OpenAI公布了软体编写新闻的过程。研究人员为软体提供如下讯息:「

AI技术真的是越来越强大了,在AI的发展下,一些很奇妙的事都能发生。据彭博社报导,马斯克倡导成立的AI研究机构OpenAI周四展示一款软体,只需要提供软体一些讯息,它就能写出逼真的假新闻。

OpenAI公布了软体编写新闻的过程。研究人员为软体提供如下讯息:「一节装载受控核材料的火车车厢今天在Cincinnati被盗,下落不明。」以此作为基础,软体编写出由7个段落组成的新闻,软体还引述政府官员的谈话,只不过这些讯息全是假的。

假新闻引起人们的担忧,OpenAI对此心知肚明,OpenAI政策主管杰克‧克拉克(Jack Clark)说:「它可以产生连贯但不准确的假讯息,其目的并不是很好。」

正因如此,OpenAI不会披露或者发布软体的复杂版本。它只是一个工具,让政策制定者、记者、作家、艺术家用演算法做实验,看看能编写什么出文本讯息,或者能否做其它事情。

目前假讯息正在蔓延,威胁全球科技产业,而软体能够编写逼真的虚假新闻不是一个好消息。欧洲监管机关已经向科技企业发出警告,如果科技公司不采取强有力措施,防止产品影响选民意愿,它们就会采取行动,自2016年美国大选以来,Facebook一直在努力,希望控制假讯息。

克拉克和鲍曼都认为,系统虽然很强大,但其能力没有强到可以马上带来威胁。克拉克说:「这不是一项马上能投入使用的技术,这是好事。」

OpenAI的工具是为了所谓的「语言建模」任务创造的,它要根据所有之前的单词预测接下来的文本会是怎样的,有点类似于我们在手机上写邮件时自动补充文本讯息。它还可以用来执行翻译、开放式问答任务。

OpenAI研究人员杰夫‧吴(Jeff Wu)举例说,我们也许可以用工具帮助作家寻找创意或者产生对话。又例如,也许可以用工具检查语法错误,查看软体程式码是否有漏洞。最佳化软体之后,未来也许还能为企业或者政府决策者提炼总结性文字。

在过去一年里,研究人员在语言处理方面取得巨大进步。去年11月,Google开发出一个强大的演算法BERT,它可以理解并回答问题。早些时候,艾伦人工智慧研究所也在自然语言方面取得突破,开发出一种名叫Elmo的演算法。

鲍曼认为,BERT和Elmo可以说是过去5年该领域最重大的突破,相比来说,虽然OpenAI演算法也很重要,但是革命性没有BERT那么强。