AI研究机构OpenAI开发出写作AI:编写假新闻足以乱真

作者: 佚名 2019-02-15 10:42:08

 北京时间2月15日早间消息,据彭博社报道,马斯克倡导成立的AI研究机构OpenAI周四展示一款软件,只需要给软件提供一些信息,它就能编写逼真的假新闻。

OpenAI公布了软件编写新闻的过程。研究人员给软件提供如下信息:“一节装载受控核材料的火车车厢今天在Cincinnati被盗,下落不明。”以此作为基础,软件编写出由7个段落组成的新闻,软件还引述政府官员的话语,只是这些信息全是假的。

纽约大学计算机科学家山姆·鲍曼(Sam Bowman)认为:“软件根据提示生成的文本相当惊人,从品质上讲,它所做的事比之前我们看到的复杂很多。”

假新闻引起人们的担忧,OpenAI对此心知肚明,OpenAI政策主管杰克·克拉克(Jack Clark)说:“它可以生成连贯但不准确的虚假信息,其目的并不是很好。”

正因如此,OpenAI不会披露或者发布软件的复杂版本。它只是开发一个工具,让政策制定者、记者、作家、艺术家用算法做实验,看看能编写什么文本信息,或者能否做其它事情。

目前虚假信息正在蔓延,威胁全球科技产业,而软件能够编写逼真的虚假新闻不是一个好消息。欧洲监管机构已经向科技企业发出警告,如果科技公司不采取强有力措施,防止产品影响选民意愿,它们就会采取行动,自2016年美国大选以来,Facebook一直在努力,希望控制虚假信息。

克拉克和鲍曼都认为,系统虽然很强大,但其能力没有强到可以马上带来威胁。克拉克说:“这不是一项马上能投入使用的技术,这是好事。”

OpenAI的工具是为了所谓的“语言建模”任务创造的,它要根据所有之前的单词预测接下来的文本会是怎样的,有点类似于我们在手机上写邮件时自动补充文本信息。它还可以用来执行翻译、开放式问答任务。

OpenAI研究人员杰夫·吴(Jeff Wu)举例说,我们也许可以用工具帮助作家寻找创意或者生成对话。又例如,也许可以用工具检查语法错误,查看软件代码是否有漏洞。优化软件之后,未来也许还能为企业或者政府决策者提炼总结性文本。

在过去一年里,研究人员在语言处理方面取得巨大进步。去年11月,谷歌开发出一个强大的算法BERT,它可以理解并回答问题。早些时候,艾伦人工智能研究所也在自然语言方面取得突破,开发出一种名叫Elmo的算法。

鲍曼认为,BERT和Elmo可以说是过去5年该领域最重大的突破,相比来说,虽然OpenAI算法也很重要,但是革命性没有BERT那么强。

马斯克是OpenAI的联合创始人,不过去年他已经退出董事会。(德克)

AI 数据 科技
上一篇:为人工智能和自动化革命做好准备的十种方法 下一篇:逆天的语言AI模型来了!编故事以假乱真,问答翻译写摘要都行
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

人工智能影响制造业的四种方式

这些年来,人工智能取得了很大的进步。它可以影响许多不同的行业,这主要是因为它改进了处理、算法和它所保存的数据量。

Cassie ·  1天前
教AI开发软件:IBM开源数据集Project CodeNet,含有1400万个代码示例

IBM已组建了一个庞大的源代码库,用于教机器学习程序学习编程。

小云 ·  1天前
借助AI,IOT,VR,AR,区块链和云计算重塑建筑行业

如今,建筑数字化技术的引入将永远改变建筑行业。AI、物联网、区块链、AR、VR和云计算技术正在重塑建筑行业。

Cassie ·  1天前
当BI遇到AI,看"最强大脑"如何帮我们做出决策?

人工智能和机器学习增强了商业智能系统和战略,为整个企业提供了决策背景和建议。

计算机世界 ·  1天前
超胆侠来了!「蝙蝠感知」AI让智能手机听声生成3D图像

格拉斯哥大学的计算机科学家和物理学家在《物理评论快报》杂志上发表的一篇论文中概述了这项研究,它可以应用于安全和医疗保健领域。

佚名 ·  1天前
Gartner 最新魔力象限报告显示 IBM 为全球企业级 AI 技术领导者

IBM 在 Gartner 2021年“云 AI 开发者服务魔力象限“和“数据科学与机器学习平台魔力象限”报告中均被评为领导者。

佚名 ·  1天前
处理人工智能任务必须知道的11个Python库

Python对数据科学如此重要的原因之一是它海量的数据分析和可视化库。在本文中,我们讨论了最受欢迎的一些。

Huangwei AI ·  2天前
Deepfake被玩出圈!有人用它模仿俄罗斯反对派人物,在Zoom上“调戏”欧洲议员

最近几天,一些欧洲高级议员懵了。他们收到了一些“俄罗斯反对派人物”的视频会议邀请,还煞有其事地讨论了克里米亚问题之类的政治事务,结果发现在这些所谓的“俄罗斯反对派人物”都是别人用Deepfake换脸假冒的。

大数据文摘 ·  2天前
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载