这是阴谋论?AI,你怎么看?

作者: 大数据文摘 2021-03-04 14:40:11

大数据文摘出品

来源:iflscience

编译:在赤道的熊猫

晃动的人体摄像机镜头上的音频异常清晰。当警察搜查一名之前在比萨店的客厅里开了一枪的已戴上手铐的男子时,警官问他为什么在那儿。该男子说要调查恋童癖的戒指。对于令人难以置信的回答,军官再次询问。另一名军官说到“Pizzagate。他在谈论Pizzagate。”

在2016年短暂而令人毛骨悚然的互动中,很明显,长期以来一直笼罩在社会边缘的阴谋理论以一种非常危险的方式进入了现实世界。

可能会造成重大伤害的阴谋论在社交媒体上极受欢迎。在社交媒体上,不受限制的论坛允许志趣相投的人进行交流。在这里,他们可以发展自己的理论并提出应对措施,以应对他们“发现”的威胁。

但是,如何判断社交媒体上新兴的叙述是否是毫无根据的阴谋论呢?事实证明,可以通过使用机器学习工具绘制叙事元素和联系来区分阴谋论和真实阴谋。这些工具可以构成预警系统的基础,来提醒相关部门注意对现实世界构成威胁的在线叙述。

由我和Vwani Roychowdhury带领的加利福尼亚大学文化分析小组开发出一种自动方法。它可以确定社交媒体上的对话何时反映出阴谋论的典型迹象。我们已成功地将这些方法应用于Pizzagate,COVID-19大流行和反抗疫苗接种运动的研究。

协作构建,快速形成

真正的阴谋论是刻意隐藏的,在现实生活中的人们为了自己的恶性目的而共同努力的行为。相反,阴谋理论是公开合作构建和发展成的。

阴谋论是刻意的复杂的,反映了无所不包的世界观。阴谋论不是试图解释一件事,而是试图解释一切, 发现人类交互作用域之间被隐藏的联系-主要是因为它们不存在。

人们天生就容易受到阴谋论的影响,不确定的时期和焦虑的加剧会增加这种易感性。

虽然阴谋理论家的流行形象是一头孤独的狼将照片和红色细绳之间令人费解的联系拼凑在一起,但这种形象在社交媒体时代已不再适用。阴谋论的理论已经发展到网上,它现在已成为集体叙事的最终产物。参与者确定叙述框架的参数:故事的人物,地点和事物及其关系。阴谋理论的在线性质为研究人员提供了一个机会,可以从这些理论的起源(从一系列经常相互分离的谣言和故事片段到综合叙述)中追溯这些理论的发展。在我们的工作中,Pizzagate是一个完美的主题。

Pizzagate于2016年10月下旬在总统大选前夕开始发展。在一个月内,它就完全形成了,并从一系列其他没有联系的领域中提取了完整的角色:民主政治,Podesta兄弟的私生活,休闲家庭用餐和撒旦的恋童癖交易。这些原本截然不同的领域之间的联系叙事线索是对WikiLeaks在2016年10月最后一周抛弃的民主党全国委员会泄漏的电子邮件的幻想性解释。

AI叙事分析

我们开发了一个模型- 一套机器学习工具。它可以根据人物,地点和事物及其关系识别叙事。机器学习算法处理了大量数据,来确定数据中事物的类别,然后确定特定事物属于哪些类别。 我们分析了2016年4月至2018年2月在Reddit和4chan论坛上讨论过Pizzagate的17498条帖子。该模型将每个帖子视为隐藏的故事的片段,并开始发现叙述。该软件可以识别帖子中的人物,地点和事物,并确定哪些是主要元素,哪些是次要元素以及它们是如何联系起来的。 该模型确定了叙事的主要层次(在Pizzagate的事例中,民主政治,波德斯塔兄弟,休闲餐饮,撒旦教义和WikiLeaks),以及这些层次如何共同构成整个叙事。 为确保我们的方法产生准确的输出,我们将模型产生的叙述性框架图与《纽约时报》上发表的插图进行了比较。我们的图表与这些插图一致,并且还提供了有关人员,地点和事物及其关系的详细信息。

坚固的事实,虚构的小说

为了了解我们是否能够区分阴谋理论和实际阴谋,我们研究了Bridgegate, Chris Christie政府针对新泽西州的李堡市市长的工作人员发起的一项政治偿还行动。

当我们使用两个单独的集合比较我们的机器学习系统的结果时,阴谋论叙事框架的两个显着特征脱颖而出。

首先,虽然Bridgegate的叙述图从2013年到2020年得到发展,Pizzagate的图在一个月内就完全形成并稳定了。其次,Bridgegate的图表在删除元素后仍然存在,这意味着即使删除了丑闻中的关键人物和关系,新泽西州的政治也将继续作为一个单独的连接网络。

相反,Pizzagate图很容易分解成较小的子图。当我们删除直接来自WikiLeaks电子邮件解释的人员,地点,事物和关系时,该图就会分解为现实中政治,休闲餐饮,Podestas的私生活和奇异世界之间相互联系的领域撒旦主义。

在下图中,绿色平面是叙述的主要层,点是叙述的主要元素,蓝线是图层中元素之间的连接,红线是图层中元素之间的连接。紫色平面显示所有组合的图层,显示所有点如何连接。删除WikiLeaks平面会产生一个紫色平面,其点仅以小组形式连接。

Pizzagate阴谋论的各个层面相结合,形成了一个叙事的右上角。删除一层,WikiLeaks发布的对电子邮件的奇特解释,整个故事将散布在右下角。

预警系统?

我们的工作明显的挑战了道德准则。比如,我们的方法可为阴谋论的讨论生成更多帖子,这些帖子适用于讨论的叙述框架。同样,在给定任何领域的情况下,任何人都可以使用这个工具来提出新的阴谋论。

但是,正如我们对社交媒体论坛的研究所表明的,这种叙事武器化已经在没有自动方法的情况下发生了。研究界可以发挥作用,帮助其他人了解武器化是如何发生的,并为保护公共安全和民主机构的个人和组织开发工具。

开发一个追踪阴谋理论叙述的出现和调整的预警系统,可以使研究人员和当局对人们根据这些叙述采取的行动有所警惕。也许有了这样的系统,当问到为何枪手装备着AR-15步枪出现在比萨店时,Pizzagate案的逮捕官并不会为枪手的回应所困扰。

相关报道:

https://www.iflscience.com/technology/an-ai-tool-can-distinguish-between-a-conspiracy-theory-and-a-true-conspiracy/

【本文是51CTO专栏机构大数据文摘的原创译文,微信公众号“大数据文摘( id: BigDataDigest)”】

戳这里,看该作者更多好文

人工智能 AI 阴谋论
上一篇:人工智能模型中的3种偏见以及如何解决 下一篇:浙大机器鱼登Nature:深入万米马里亚纳海沟,里程碑式突破
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

人脸识别进社区:“刷脸”背后的隐私安全之问

近年来,作为智慧社区建设中的重要组成部分,人脸识别门禁系统正在广泛进入城市社区,但在推行过程中也向人们提出了一个新问题:如何在提供便捷性的同时守住个人隐私安全?技术与伦理的边界在哪?

新京报 ·  1天前
干货分享 | 人机交互中的情境认知

在第一次世界大战期间,Oswald Boelke提出了这样的观点“在敌人意识到我们之前获得对敌人意图的意识是非常重要得,因此我们迫切地需要找到实现这个目的的方法”,这就是情境意识概念的雏形定义。

人机与认知实验室 ·  1天前
人脸识别黑产:真人认证视频百元一套,能通过App验证

3月30日至4月5日,新京报记者调查发现,这种地下黑产交易大多藏匿在QQ群中和境外网站中,其中QQ群名称多包含“过脸”“识别技术”等关键词,从而方便买家检索到相关信息。

新京报 ·  1天前
Research and Markets:到2025年,全球医疗保健市场人工智能规模将达272亿美元

据市场研究机构Research and Markets近日发布的一份报告预测,到2025年,全球医疗保健市场人工智能规模将达到272亿美元。

Yu ·  2天前
到2025年,全球医疗保健市场人工智能规模将达272亿美元

全球医疗保健市场的人工智能规模预计将从2020年的42亿美元增长到2025年的272亿美元;预计在预测期内,将以45.3%的年复合增长率增长。

Yu ·  2天前
人工智能正影响司法审判!“人机合作”或将成为常态

据科技日报消息,《中国法院信息化发展报告No.5(2021)》近日正式发布。报告指出,人工智能(AI)正深刻影响着司法审判领域,“人机合作”的审判模式或将成为常态。

手机中国 ·  2天前
图森未来正式登陆纳斯达克,专注AI与自动驾驶,市值超84亿美元

据外媒报道,人工智能(AI)和自动驾驶公司图森未来(TuSimple)正式在纳斯达克挂牌上市,股票代码为“TSP”。

潇冷 ·  2天前
人工智能是应对气候变化的新时代解决方案

气候变化是我们这个星球面临的最大挑战,人工智能可以帮助我们应对不断上升的全球气温。

Cassie ·  2天前
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载