自然语言处理(nlp)比计算机视觉(cv)发展缓慢,而且更难!

作者: 霍华德 2018-11-07 09:25:07

1. 抢跑的nlp

nlp发展的历史非常早,因为人从计算机发明开始,就有对语言处理的需求。各种字符串算法都贯穿于计算机的发展历史中。伟大的乔姆斯基提出了生成文法,人类拥有的处理语言的最基本框架,自动机(正则表达式),随机上下文无关分析树,字符串匹配算法KMP,动态规划。

nlp任务里如文本分类,成熟的非常早,如垃圾邮件分类等,用朴素贝叶斯就能有不错的效果。20年前通过纯统计和规则都可以做机器翻译了。相比,在cv领域,那时候mnist分类还没搞好呢。

90年代,信息检索的发展提出BM25等一系列文本匹配算法,Google等搜索引擎的发展将nlp推向了高峰。相比CV领域暗淡的一些。

2. 特征抽取困难的cv

cv的前身就有一个领域叫图像处理,研究图片的压缩、滤波、边缘提取,天天摆弄着一个叫lenna的美女。

早期的计算机视觉领域受困于特征提取的困难,无论是HOG还是各种手工特征提取,都没办法取得非常好的效果。

大规模商业化应用比较困难。而同期nlp里手工特征➕svm已经搞的风生水起了。

3. 深度学习的崛起- 自动特征提取

近些年,非常火爆的深度学习模型简单可以概括为:

深度学习 = 特征提取器➕分类器

一下子解决cv难于手工提取特征的难题,所以给cv带来了爆发性的进展。深度学习的思路就是让模型自动从数据中学习特征提取,从而生成了很多人工很难提取的特征:

4. nlp的知识困境

不是说nlp在这波深度学习浪潮下没有进展,而是说突破并没有cv那么巨大。很多文本分类任务,你用一个巨复杂的双向LTSM的效果,不见得比好好做手工feature + svm好多少,而svm速度快、小巧、不需要大量数据、不需要gpu,很多场景真不见得深度学习的模型就比svm、gbdt等传统模型就好用。

而nlp更大的难题在于知识困境。不同于cv的感知智能,nlp是认知智能,认知就必然涉及到知识的问题,而知识却又是最离散最难于表示的。

自然语言处理 计算机视觉 深度学习
上一篇:马云野心终于暴露!刚刚,阿里无人酒店开业!没有一个服务员、收银员……又一场颠覆 下一篇:解决现实世界问题的四大机器学习策略
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

DeepMind新模型自动生成CAD草图,网友:建筑设计要起飞了

在最近的一项研究中,DeepMind 提出了一种机器学习模型,能够自动生成此类草图,且结合了通用语言建模技术以及现成的数据序列化协议,具有足够的灵活性来适应各领域的复杂性,并且对于无条件合成和图像到草图的转换都表现良好。

力元 ·  1天前
人工智能影响制造业的四种方式

这些年来,人工智能取得了很大的进步。它可以影响许多不同的行业,这主要是因为它改进了处理、算法和它所保存的数据量。

Cassie ·  4天前
动态图上的深度学习-时间图网络建模

许多涉及各种性质的交易网络以及社连接边动,以及与现实世界问题相关问题都是动态的,可以建模为图结构,其中节点和边随着时间的推移而变化。在这篇文章中,我们描述了时间图网络,这是用于在动态图上进行深度学习建模的通用框架。

佚名 ·  2021-05-13 15:23:31
人工智能这5大趋势将给世界带来哪些影响?

GPU和海量的数据增强了计算和处理能力,为现代算法和深度学习带来了显著的变化。在未来几年,我们可以期待看到人工智能技术的重大变化。以下是人工智能正在塑造世界的5个趋势。

Yu ·  2021-05-12 20:57:54
人工智能加速改变生产生活

在移动互联网、大数据等新技术的驱动下,人工智能迎来新一轮发展热潮,真正进入落地实践阶段,正在加速改变人们生产生活。

彭训文 ·  2021-05-12 09:40:39
新的深度学习模型如何将图像分割引入边缘设备?

据报道,人工智能初创厂商DarwinAI公司和加拿大滑铁卢大学的人工智能研究人员开发和设计了一种新的神经网络结构,使在低功耗和低计算能力的边缘计算设备上进行图像分割成为可能。

李睿 ·  2021-05-12 08:00:00
从“几何深度学习”看深度学习江湖的统一

通过对称性和的变换,可以提炼出覆盖CNNs, GNNs, LSTMs, Transformers, DeepSets, mesh CNN等一切你所需构建的架构吗?

水木番 ·  2021-05-06 09:05:11
深度学习与机器视觉的重要性解析!推动机器人摆脱束缚?

深度学习是工业机器人的核心技术,能够推动机器人摆脱束缚,根据环境的变化,自主的进行工业操作,并且能够自主学习,充实自己,以适应不断变化的工业环境。

时尚小马甲 ·  2021-05-05 21:00:22
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载