超越谷歌MobileNet!华为提出端侧神经网络架构GhostNet|已开源

作者: 乾明 2020-03-02 11:04:19

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

 同样精度,速度和计算量均少于此前SOTA算法。这就是华为诺亚方舟实验室提出的新型端侧神经网络架构GhostNet。

GhostNet的核心是Ghost模块,与普通卷积神经网络相比,在不更改输出特征图大小的情况下,其所需的参数总数和计算复杂度均已降低,而且即插即用。

在ImageNet分类任务中,GhostNet在各种计算复杂度级别上始终优于其他竞争对手,比如谷歌的MobileNet系列、旷视的ShuffleNet系列、IGCV3、ProxylessNAS、FBNet、MnasNet等等。

关于GhostNet的论文已经被CVPR 2020收录,模型与代码也已经在GitHub上开源。华为诺亚方舟实验室是如何做到的?我们根据作者团队的解读,一一看来。

核心理念:用更少的参数来生成更多特征图

通常情况下,为了保证模型对输入数据有全面的理解,训练好的深度神经网络中,会包含丰富甚至冗余的特征图。

如下图所示,ResNet-50中,将经过第一个残差块处理后的特征图,会有出现很多相似的“特征图对”——它们用相同颜色的框注释。

这样操作,虽然能实现较好的性能,但要更多的计算资源驱动大量的卷积层,来处理这些特征图。

超越<span><span><span><i text-align: center;超越<span><span><span><i text-align: center;超越<span><span><span><i text-align: center;超越<span><span><span><i text-align: center;超越<span><span><span><i text-align: center;超越<span><span><span><i text-align: center;超越<span><span><span><i right
人工智能 机器学习 技术
上一篇:2020年,AI技术的环保水平将更上一层楼 下一篇:他用波士顿动力机器狗拉人力车!网友:这是我见过最蒸汽朋克的事
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

中国AI专利申请量占全球74%,腾讯、百度、OPPO前五

报告显示,过去十年,全球人工智能专利申请集中在中国、美国、日本、韩国。其中,中国和美国处于领先地位。中国专利申请量为389571,位居世界第一,占全球总量的74.7%,是排名第二的美国的8.2 倍。

南方都市报 ·  1天前
AI一键去纹身,几秒钟让你看见明星「真面目」

来自印度的机器学习研究者 Vijish Madhavan 最近开源的一个机器学习工具 SkinDeep 满足了我们的需求。

机器之心 ·  1天前
人工智能进军“古玩鉴定”,人类职业再遭冲击?

近两年,人工智能的风头虽然偶被5G、自动驾驶等所盖过,但其发展和热度并未因此受到影响。

林中易木 ·  1天前
人脸识别技术的优缺点

无论在哪里使用,面部识别都可能会吸引很多人的注意。这就是为什么我们整理了一份关于面部识别的利弊清单,这样你就可以了解这个有争议的话题。

Cassie ·  1天前
人工智能如何为临床试验提供无摩擦的患者匹配

这场疫情凸显了医疗保健行业一些效率低下的方面,为了应对这些危机,一些医疗机构已经采用与大数据相关的技术,例如人工智能技术、自然语言处理、数据管理等。

Kirk Junker ·  1天前
让静态知识动起来:从知识图谱到事理图谱

传统的知识图谱回答的是“是什么”的问题,而以“事”为核心的事理图谱回答的是“为什么”的问题。目前,绝大多数知识图谱主要以实体(特别是人名)为基础,面向事件知识图谱研究的语料构建和研究方法还处于探索阶段。

AI科技评论 ·  1天前
知识图谱是否是自然语言处理的未来?

2021年了,不少当年如日中天技术到今天早已无人问津,而知识图谱这个AI界的大IP最火的时候应该是18,19年,彼时上到头部大厂下到明星创业公司都在PR自己图谱+NLP布局能够赋予AI认知能力。到了当下这个AI总体降温的时间节点,我们是时候冷静思考知识图谱的未来到底该何去何从了。

Luke ·  1天前
人工智能在未来将要经历的七个阶段

自2000年以来,全球对人工智能的投资增长了6倍。据统计,到2025年,全球AI市场预计将增长到600亿美元。

SENSORO升哲 ·  1天前
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载