机器学习转化为生产力,警惕这4个常见陷阱!

作者: 大数据文摘 2019-10-13 16:53:51

大数据文摘出品

来源:topbots

编译:武帅

在一场科技会议上,演讲者询问观众,“有谁为自己的业务开发过机器学习或者人工智能模型?”80%到90%的人都举起了手。

“那么,你们当中有谁将它投入生产了呢?”演讲者继续发问。几乎所有的人都放下了手。显而易见,几乎每个人都想在他们的业务中引入机器学习,但是这些人也遇到了一个大问题:让模型可持续发展十分困难,尤其是在云架构的基础上。

medium上一位博主也指出了这个问题,并提出了将机器学习模型投入生产的4个常见陷阱。

不要重新造轮子

大家对这句话早已耳熟能详,却并没有什么改进,我们可以看到过太多因为拒绝使用已有的解决方案而失败的案例。

比如,Amazon Web Services(AWS)和Google Cloud有着性能强大的机器学习套件和产品,且简单易用,虽然他们不适用于每个案例,但是它们绝对是很好的一个入门平台,特别是当公司员工没有丰富的机器学习经验的时候。

使用Google Vision API进行情感检测,图片来自TheNextWeb

上面就是可以利用Google Cloud的Vision API提取信息的一个示例。假设有顾客对产品的反映的图片或者视频的数据,并且想根据他们的面部表情来了解他们对产品的态度。那么就可以简单地将图片或者视频作为数据提交给Google Vision进行处理,从而得到每张脸所呈现的大致情绪。

通常,AWS和Google Cloud上的产品的性价比就已经不错了。此外,由于平台会处理版本更新,功能添加等问题,因此维护工作也十分简单。

解决方案不是一成不变的

对于较小的项目,这种简单易行的方法可能足矣。但是对于更大的项目而言,要么成本过于昂贵,要么需要更多的自定义功能。

这种项目通常需要定制解决方案。就像之前提到的,有许多项目因为做得太多而失败,同样地,也有许多项目因为做得太少而失败。我们需要保持“增量收益”的心态,即在不牺牲长期目标的前提下从我的产品中尽可能多地提取短期价值,但有时这种行为会破坏产品设计。

可以通过下述途径来解决这个难题:

  • 确保足够了解当前问题以及期望的业务价值
  • 进行必要的研究。

对于第一种途径,如果团队一开始就在技术细节上陷入困境,那么很可能见树不见林。你必须时刻提醒自己“我真正想要完成的是什么?”

第二种途径稍微有点复杂。可以先在谷歌学术上进行研究,梳理一下相关的学术出版物或博客文章,看看别人是如何解决我遇到的问题的。如果没有满意的结果,那么接下来试着找下相似的问题(可能是不同领域),直到找到一个不错的线索。届时,再寻找现成的解决方案,看看它们能否满足需求。

如果满足的话就实施该方案。如果不能,就需要构建更多的自定义项。

没有适当地确定风险

在开发出一个很棒的解决方案之后,很多时候我们忘了这些模型固有的风险。当人们说“我们并不真正理解模型是如何工作的”,某种程度上来说确实如此。可解释的AI是一个快速发展的领域,致力于确切地回答这类问题:“为什么这个模型是这样运行的?”

但是当我们能够确切解释模型是怎样运行这个问题之前,我们不得不采取一些必要的预防措施。

1. 了解模型之间的特征和相关性

通常,我们不希望我们的模型基于种族、性别、收入水平等因素进行决策,所以我们不将它们作为输入。这样就万事大吉了吧?不一定。我们必须确保这些因素不会渗入到我们正在使用的其他特征中。例如,邮政编码是一个很强的人口统计指标,据此可以推断其所在区域。因此,在每个项目开始之前,我们必须花大力气来探索数据。

2. 是否允许模型在生产中不断发展?

当我向一些人提到“机器学习”时,他们通常认为那就是说模型会随着人机交互而实时变动。虽然有些模型做到了这一点(改天撰文详谈),但是也有很多模型并没有做到,而且理由很充分。即使缺少必要的检查和监控,在输入数据急剧变化的情况下,模型也不会失控。

但事实并非如此。假设你有一个根据市场趋势动态更新的股票交易模型。在正常的市场中,它的效果很好,但是如果发生了某些不可预测的事(通常会在最糟糕的时候发生),模型可能会为了适应新环境而过度补偿,从而完全放弃了原先训练的策略。

3. 你打算多久重新训练或更新一次模型?

这个问题并没有标准答案。它完全取决于你的问题和建模技术,但是尽早弄清这一点还是很重要的。你应该有一个标准的更新方法和策略,原因很简单:你怎么知道你的模型是在提升还是在下滑?

假设我有一个75%准确率的模型投入了生产。我怎么确定准确率是75%呢?通常,我会使用部分历史数据作为验证集(通常是20%)进行验证。

现在假设我一个月后更新了模型,发现我的准确率居然达到了85%(多棒,快夸夸我)!于是我很开心地将更新推送到了平台上。但是,我突然发现结果大幅度下降了,我的客户也不停地抱怨。到底啥情况?

原因很简单:如果我没有保存我的验证集(用来测试准确率的原始数据),那么我就不是拿苹果和苹果进行对比了。我不能确定更新后的模型性能是否比初始模型要好,这就会引起很多麻烦。

刚开始时并不需要用到机器学习

尽管这么说有点伤人,但是这很可能是你阅读本文后的最大收获。尽管机器学习被认为是当今计算机科学最酷的领域之一,但人们往往会忽略这样一个事实:它只是皮带上的工具,并不是皮带本身。

你不会用手提钻来钉钉子,所以当你能用基本的Python脚本完成任务时,不要使用机器学习。能够使用尖端技术对我们来说诱惑力太大了,我也深知这一点,但是如果没有必要的专业知识,你可能会造成不必要的失败。

我见过太多这样的例子了,人们在设计产品之前往往进行这样的头脑风暴:“我们怎样使用一个聊天机器人?”,“你认为我们可以用面部识别做些什么?”……但是事实是,这些想法基本上都没啥用。

链接:https://www.topbots.com/pitfalls-in-putting-ml-model-in-production/

【本文是51CTO专栏机构大数据文摘的原创译文,微信公众号“大数据文摘( id: BigDataDigest)”】

     大数据文摘二维码

戳这里,看该作者更多好文

机器学习 模型 数据
上一篇:500亿参数,支持103种语言:谷歌推出「全球文字翻译」模型 下一篇:2019年度十大Web开发趋势
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

MIT提出Liquid机器学习系统,可像液体一样适应动态变化

麻省理工学院(MIT)的研究者开发出了一种新型的神经网络,其不仅能在训练阶段学习,而且还能持续不断地适应。

机器之心 ·  2021-02-21 15:47:47
规划智慧城市时,别忘了无障碍通行

要想成为一个智慧城市甚至一个智慧世界,虽然可能需要时间和有针对性的规划,但我们必须以人为本。

蒙光伟 ·  2021-02-21 10:26:41
华人博士生首次尝试用两个Transformer构建一个GAN

最近,CV 研究者对 transformer 产生了极大的兴趣并取得了不少突破。这表明,transformer 有可能成为计算机视觉任务(如分类、检测和分割)的强大通用模型。

Yifan Jiang ·  2021-02-20 21:04:53
我用90年代的古董电脑训练CNN

最近,一位日本小哥武田广正(音译)就在1990年的电脑PC-9801上实现了CNN来识别手写字符。

杨净 ·  2021-02-20 12:21:16
留意2021年比较热门的5种AI工作技能

尽管经历了艰难的一年,但世界各地的许多公司已经开始加速使用人工智能(AI)来最大化业务的方法。

bookfoxers ·  2021-02-20 12:00:19
2021年,AI有潜力改善农业的十种路径

普华永道指出,基于物联网的农业(IoTAg)监控已经成为联网智能农业领域发展最快的技术领域,市场总额到2025年预计将增长至45亿美元。

科技行者 ·  2021-02-19 23:45:36
2021年排名前20位的AI平台

许多人认为,如果我们的时代是下一次工业革命,那么,人工智能无疑是其推动力之一。

bookfoxers ·  2021-02-19 13:10:27
谷歌Robotics研究科学家:记住5个问题,快速理解ML论文要点

机器学习领域非常火热,新的模型、技术不断更新非常快,要求我们在平时的工作和学习过程中,会需要去阅读一些论文,跟踪某个领域的最新动态。

大数据文摘 ·  2021-02-19 11:15:47
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载