1秒揭穿假新闻,阿里正式推出“AI谣言粉碎机”

作者: 51CTO 2019-04-02 09:57:29

愚人节,对我们而言只是开心一乐。对父母而言,网络谣言可能让他们每天深受其害。

4 月 1 日这个特殊日子,阿里正式推出达摩院研发的“AI 谣言粉碎机”技术,最快能在 1 秒内识别假新闻,希望帮助社交平台和新闻网站从源头锁住谣言,让父母不再每天都过愚人节。

对于此举,网友都堪称良心之作,并纷纷发表了看法:

那么,这个 AI 谣言粉碎机究竟有哪些黑科技?下面跟着小编一起来深入了解。

阿里开发 AI 谣言粉碎机,谣言识别准确率达 81%

阿里巴巴达摩院的科学家,造了一个谣言粉碎机,这是一个算法模型,可以识别真假新闻,未来也能应用在各大领域。

这是怎样一种算法?准确率高吗?真的可以终结谣言?“谣言粉碎机”的创造者李泉志做了解释。

①“粉碎机”的前生功能是为记者提供可靠线索

《速转!科学家发现:一味中药 48 小时可杀死 60% 癌细胞!》《晚上喝白开水的朋友,再不看就晚了!》《专家说了,这样东西千万别吃!》……

你有没有收到过父母发来的这些“关怀”?又有多少次是抱着“算了算了,你开心就好”的心态结束话题?“不能保证***准确,但基本可以判断是否为谣言。”

李泉志,达摩院 NLP 团队的核心成员之一,毕业于清华大学,后在美国获得自然语言理解方向的博士学位,目前在达摩院的西雅图办公室工作。

在加入达摩院前,他曾是路透社重要的“情报官”:通过机器筛选成千上万的网络信息,为数千位一线记者提供可靠线索。

“AI 谣言粉碎机”就是借助自然语言实现的。在刚刚结束的 SemEval(自然语言处理领域的国际权威比赛,由国际计算语言学学会举办)全球语义测试中,“AI 谣言粉碎机”创造了假新闻识别准确率的新纪录,达到了***的 81%。

②判断一个新闻真假要分三个步骤

“AI 谣言粉碎机”要怎么去判断是否为谣言呢?李泉志说,分三步:

首先,该模型会找到最初的信息源,分析用户画像,包括:专业领域,此前传播或转发过什么,是个人还是机构,注册时间,活跃规律等,来判断发布者是否“可靠”。

然后根据不同态度的人群比例、各自的信誉度等信息,计算出此新闻的可信度。

第二步,寻找网上所有的信息源,看看链接的域名,是否来自可信网站,比如新华社、政府医药管理局等。

第三步,将正文里关键的论证提炼为知识点,与知识图谱里的权威知识库做匹配验证。

如果毫无联系、自相矛盾,减分。李泉志解释,“AI 谣言粉碎机”会考虑一部分人类的想法,更多的则是 AI 的运用。

人工智能有很多人类比不了的地方,比如当一个流言在社交网站上传播很快的时候,我们很难去判断真假,不知道谁接收到了,是出于什么原因转发,不同的人对此的评价是什么,而这些 AI 可以做到。

“假如来一个流言,人可以通过网站去查证,但是 AI 可以快速把科学研究、新闻拉出来,加上后台知识库的对比,做一个验证。人脑中有基本判断,但是没有大型的知识库。”李泉志说。

就拿“AI 谣言粉碎机”的训练样本来说,就要分至少两个层面:

  • 首先拿底层的 2 亿条信息,几百万条新闻,训练语言样本。
  • 再将模型进行谣言的真实性训练。

“是一个复杂且费时的过程。”李泉志表示。

③谁制造谣言?论文是否抄袭?未来粉碎机还有更多功能

其实,要建这样一个数据模型,并不容易。李泉志坦言,他在前一家公司就开始研究,到如今,也还需继续完善。

他们有一个小团队专门在研究这一技术,因为,总体来说这不是一个单独能列出来的技术,是自然语言所有技术的综合。

目前,该模型也并未应用于阿里巴巴的任何业务中,李泉志坦言,数据模型需要不断被“训练”,也需要得到社会的认同,而这些,都不是短时间内能解决的。

可以想象的是,“AI 谣言粉碎机”未来将被应用的多个场合。比如,可以识别论文是否为抄袭,用技术从个人的写作风格、方法论、主题等多维度去判断是否为抄袭。

过去有人说某年轻作家后期的作品由人代笔,以后用 AI 就能分析得出结论。

另一方面,可以协助警方找到真正谣言的制造者。通过 AI 去追踪传播路径,从传播路径中,将传播分解,可以发现规律。

比如传播了哪些用户,用户是什么反应,是简单的转发,还是赞成、反对,还是进行了二次加工。

“当然,该模型也还是需要更多的语言训练。比如有些用户转发时,说的是反话、讽刺,有些是隐喻,不知是否是真实的情绪表达,这些作为机器很难对此做出判断,但是通过大量的训练,是可以实现的。”李泉志表示,他和团队会继续研究该模型。

您如何看待阿里推摩院推出的“AI 谣言粉碎机”技术?欢迎底部留言分享。

阿里 AI 自然语言
上一篇:AI与机器学习:大忽悠还是大希望? 下一篇:5G、AI强强联合将带来何种新机遇?
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

AI技术将如何推动制药行业发展?

从目前来看,AI技术的应用范围已经非常广泛,各个行业可谓概莫能外——制药行业自然也在其中。这一切,将给制药这一历史悠久且至关重要的行业带来前所未有的变革。

佚名 ·  8h前
2020年搞深度学习需要什么样的GPU:请上48G显存

在 lambda 最新的一篇显卡横向测评文章中,开发者们探讨了哪些 GPU 可以再不出现内存错误的情况下训练模型。当然,还有这些 GPU 的 AI 性能。

机器之心 ·  13h前
独家下载!阿里如何用 AI 写代码?

作为今年阿里经济体前端委员会的四大技术方向之一,前端智能化方向一被提及,就不免有人好奇:前端结合 AI 能做些什么,怎么做,未来会不会对前端产生很大的冲击等等。本篇文章将围绕这些问题,以「设计稿自动生成代码」场景为例,从背景分析、竞品分析、问题拆解、技术方案等几个角度切入,细述相关思考及过程实践。

妙净、波本 ·  15h前
与时间赛跑!AI是疾病基因分析和诊断的加速器

最快速的了解新的病毒带来的病例成因早日实现对症下药,成为打赢“抗疫”的关键。今天AI等新技术在积极发挥着作用。

佚名 ·  18h前
如何避免又一个AI寒冬?

尽管过去几年中,人工智能取得了长足的进步,但相信很多人都还记得20世纪90年代,由于开发者过分夸大承诺以及最终用户不切合实际的期望所导致的AI寒冬。

佚名 ·  1天前
人工智能技术快速识别人流中个体感染者风险,同济研发疫情防控识别系统

在摆放于校门口的摄像头前站定,系统马上通过人脸识别技术,结合现场体温检测,对同济大学教职员工、学生的基本情况进行自动分析查询。如果体温正常、满足外地返沪大于14天隔离和上海的相关要求,校门将予以放行;如有发热现象或不满足相关要求,系统将自动报警,不予放行,对相关人员实现......

彭德倩 ·  1天前
加速算力的迭代优化 AI芯片需破解落地难题

AI芯片怎样支撑多姿多彩的人工智能应用落地?评测标准进展如何?今年的亮点、看点又在哪?科技日报记者采访了相关专家。

唐 芳 ·  2天前
人工智能如何赋能经济高质量发展

继第一、第二、第三次工业革命之后,人工智能可能引发人类的第四次工业革命,并且其对人类经济社会文化的影响深度远远超过前三次革命。如何看待人工智能对我经济社会发展的影响?如何形成人工智能产业新生态?记者专访了中国科学技术发展战略研究院研究员李修全。

佚名 ·  2天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载