面对疫情下的人类行为,AI迷惑!数据变化引起的工作“异常”需人为调控

作者: 大数据文摘 2020-05-28 08:34:38

大数据文摘出品

作者:刘俊寰

你还记得,半年前,你打开淘宝,是在看衣服?化妆品?还是准备换一个手机壳?

疫情打乱了人们的生活计划,随着年初疫情逐渐升温,各大电商平台的口罩上架后往往秒售罄,有人也因此养成了囤货的习惯。

当疫情向国外扩散,这个变化也在欧美各国开始出现。总部位于伦敦的咨询公司Nozzle专门为亚马逊卖家做算法广告,他们敏锐地注意到了这个变化,疫情之前,手机壳、充电器、乐高在亚马逊销售榜上从来没有跌出过前十,但如今,这些在短短几天内就被挤出榜单,取而代之的是口罩、消毒液等。

他们还绘制了疫情相关产品的变化曲线图:

4月12日至18日,亚马逊网站上的十大搜索词分别是:卫生纸、口罩、口罩、洗手液、纸巾、来苏尔喷雾剂、科乐士湿巾、口罩、来苏尔、防菌口罩和N95口罩。

从这些商品内容也可以追踪新冠病毒的传播轨迹,相关商品的销售量在意大利率先达到峰值,其次是西班牙、法国、加拿大和美国,英国和德国紧随其后。

“短短几天时间就发生了如此不可思议的转变。”Nozzle的CEO Rael Cline说道。这种涟漪效应在整个零售供应链中也现出真身,同时,AI也受到了影响,在库存管理、欺诈检测、营销等算法中已经出现了造成了“打嗝”(hiccups)现象,也就是说,如今,以正常人类行为为基础的机器学习模型已经不能适应社会的变化了。

根据全球AI咨询公司Pactera Edge,“自动化正在走下坡路”,一些工作人员表示,他们正在谨慎地关注着那些硬撑着的自动系统,以便在需要的时候介入人工修正。

从疫情中,也可以看出,我们的生活与AI交织得多么紧密,但也暴露出了一种微妙的依赖关系,我们的行为改变会改变AI的工作方式,而AI的工作方式的改变,反过来会再次影响到我们的行为。

“当身处这样与往常不同的环境时,你永远不能坐而忘之。”Cline说。

世界变了,数据也会变

最开始,机器模型的设计就是为了应对变化,但即使是现在,大多数模型仍然相当脆弱,尤其当输入数据与训练过的数据差距过大,它们的表现就会很糟糕。Pactera Edge副总裁Rajeev Sharma表示,你以为在建立一个AI系统后就能一走了之?这是错误的做法,“AI是一个有生命的、会呼吸的系统”。

根据Sharma与几家公司的交流结果,不少公司因AI无法及时得到修正正在苦苦挣扎。

一家向印度零售商供应酱料和调味品的公司表示,此前公司一直依靠AI的预测准备订购库存,目前销售预测与实际销售情况存在较大出入。当这种情况发生,自动库存管理系统就亟需被修复,但“AI从未经过这样极端的训练”。

在新闻领域,也发生了相关问题。一家新闻网站使用AI评估文章情感偏向,再根据结果提供每日投资建议,但目前新闻比平时都更阴沉,AI给出的建议偏差也较大。

机器模型出现问题很大原因在于,越来越多的企业虽然购入了相关系统,但缺乏维护系统所需的内部知识,而如果想要重新培训一个模型,可能需要专家级的人员重新建设。

当前的危机下,即使是与训练集中的最坏情况相比,现实随时都有可能变得更糟糕。

在Sharma看来,要训练更多AI,除此之外,训练内容应该包括过去的“怪胎事件”,比如20世纪30年代经济大萧条、1987年黑色星期一股市暴跌、2008年金融危机,“这些大灾变是建立更好的机器学习模型的基础”。

但即便如此,也很难做到万全准备。一般来说,如果机器学习系统没有看到它所期望看到的东西,那么就会出现问题。

用AI检测信用卡诈骗的行为分析公司Featurespace创始人David Excell表示,令人惊讶的是,Featurespace没有看到自家AI系统受到太大打击,在他们看来,人们仍然像以前那样在亚马逊上买东西、订阅Netflix,不过,人们不再购买大件商品,也不在新地方消费,这些行为还是足以引起怀疑。

Excell说,公司的工程师们只需要介入调整,以应对购买园艺设备和电动工具的人激增的情况,这些属于欺诈检测算法可能会发现的那种中间价格异常的购买行为。

“世界变了,数据也变了。”Excell说。

AI亟需修正,亚马逊也逃不出这个命运

伦敦的Phrasee正在动手修改他们的AI系统,该公司使用自然语言处理和机器学习技术代表客户生成电子邮件营销文案或Facebook广告,保证文案语气的正确是工作中相当重要的一部分。在工作时,AI能生成大量短语,通过神经网络运行后挑选出最佳结果。

但是,鉴于生成的语言可能出错,在平时,Phrasee也保持让人类来检查其输入和输出的习惯。疫情爆发后,Phrasee意识到,在语言的使用上需要比平时更敏感准确,于是他们开始着手过滤额外语言,禁止了一些特定的短语如“going viral”,不允许涉及被叫停的活动如“party wear”,甚至删除了可能会被解读为高兴或惊险的表情符号,以及可能引发焦虑的词,如“OMG”“be prepared”“stock up”“brace yourself”等。

然而,作为整个零售行业的一个小小的分支,很多企业无法与亚马逊抗衡,但这也是最微妙的地方。随着亚马逊和其250万第三方卖家努力满足市场需求,亚马逊正对其算法进行细微的调整,以帮助分担卖家的负担。

毕竟,大多数亚马逊上的第三方卖家都是依靠亚马逊的算法创造收入,卖家将商品存放在亚马逊仓库里,亚马逊负责所有的物流,包括送货到家、处理退货等。交易完成后,亚马逊会推广完成订单的卖家。

例如,你在亚马逊上搜索Switch后,顶部显眼的“添加到购物篮”按钮旁边的结果更有可能是使用亚马逊物流的供应商,否则就会被排到更后面的位置。

但在过去几周里,亚马逊上这一情况出现了180度扭转,为了缓解库存压力,亚马逊的算法现在似乎更倾向于推广能自己发货的卖家。

市场动荡,人为干预不可少

如果没有人工干预,要实现这种调整是很难的,“情况太不稳定了,上周算法工程师还在努力优化卫生纸,这周大家突然就都想买拼图或健身器材了”。

亚马逊对算法进行的调整随后影响到在线广告上的投入,这些算法决定花在广告上的金额取决于无数变量,但最终决定是基于用户对其有多少价值的估计,这其中,有许多方法可以预测客户的行为,包括有关过去购买的数据,以及广告公司根据不同人的在线活动进行的推荐。

但是现在,Cline说,想要预测点击广告的人是否会购买产品,最佳的参考因素之一就是送达时间,这也是Nozzle在和客户讨论调整算法时提出的意见。例如,如果你认为你不能比竞争对手更快地交付产品,那么想在广告拍卖中超过他们,所进行的花费可能就是无效的。

这一切只有专业团队才能做到。Cline认为,目前的情况让很多人大开眼界,很多人以为自动化系统都可以自己运行,“但实际上,你需要一个数据科学团队,从而把社会事件和算法事件联系起来。一个算法永远也不会主动挑选出这些东西”。

现在已经步入了万物相连的时代,从疫情中已经可以广泛地感受到,这也触动了在更典型的时代仍然隐藏着的机制。如果要寻找一线生机,那么现在正是时候对新暴露出来的系统进行盘点,同时弄清楚如何设计得更好,使系统更有弹性。

如果要信任机器,我们就需要对它们进行监督。

【本文是51CTO专栏机构大数据文摘的原创译文,微信公众号“大数据文摘( id: BigDataDigest)”】

     大数据文摘二维码

戳这里,看该作者更多好文

疫情 人工智能 AI
上一篇:从演电影到开车,细数人工智能的五大落地方向 下一篇:了解AI背后的引擎,4个技术爱好者应该知道的机器学习算法
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

高通公司总裁安蒙:5G+AI开启智能互联未来

7月9日,2020世界人工智能大会(WAIC)云端峰会正式开幕,高通公司总裁安蒙(Cristiano Amon)在产业发展全体会议上发表了主题为“5G+AI开启智能互联未来”的演讲。

佚名 ·  1天前
人工智能中常见的误区

在一个大数据、自动化和神经网络已经成为日常用语的世界里,对人工智能及其背后过程的误解正在像野火一样蔓延。

Cassie ·  1天前
李开复:从“AI+”到“+AI”,技术正在重构中国经济

 在 2020 世界人工智能大会上,创新工场创始人兼 CEO 李开复以《从“AI+”到“+AI”:以技术重构中国经济》为题发表演讲。

芦依 ·  1天前
世界人工智能大会开幕,马云、李彦宏、马斯克等都说了啥?

话说,疫情迫使本届世界人工智能大会改在云端举办,改变得了办会形式,但改变不了大会全程高能、让人受益匪浅的固有属性。我整理了这些有头有脸的大人物的演讲精华,干货满满,与君共享。

龚进辉 ·  1天前
5G+AI共赢共生 人工智能大有可为!

不论是唱衰还是看好,关于人工智能的讨论从来就没有间断过,并且在各种争议声中,利用人工智能技术的行业新应用不断涌现,尽管离预期的效果还有很大差距,但不得不承认人工智能已经开始在各行各业发挥价值。

易欢 ·  1天前
5G+AI:影响未来的新趋势

7月9日,2020世界人工智能大会云端峰会正式开幕。AI,这个带有科幻色彩的名词,总能在行业大会上激起各界的思考、争论。在AI产业起起伏伏的过程中,有期待有失落,但前行需要循序渐进,回头看,我们会发现AI一直在波浪式上升,尤其是进入到2020年,以自动驾驶为首的AI大业正在升温。

21世纪经济报道 ·  1天前
这些“黑科技”让防汛更智慧

  当前,我国南北方全面进入主汛期,强降雨天气频发,防汛抗洪已到关键阶段。在防汛抗洪中,创新科技成为利器。从气象和水情预报到防汛监测与预警;从上天入地的科技设备到大数据、人工智能等前沿技术,多种“黑科技”的应用让防汛抗洪更智慧。

刘峣 ·  1天前
经济寒冬之后,是人工智能的春天

一家公司选择的经济发展道路往往是依照时代背景来决定的,在不同的经济时局之下选择正确的经济策略, 往往可以成为公司逆转腾飞的转折点。

学术头条 ·  1天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载