深度解析Python深度学习框架的对比

作者: 大数据资讯平台 2019-03-06 09:55:54

 从PyTorch到Mxnet ,对比这些Python深度学习框架。选择什么深度学习框架一直是开发者非常关心的一个话题,而且深度学习框架之间的「战争」也越来越激烈。随着 Python 逐渐成为机器学习社区***的语言,支持 Python 的深度学习框架的性能也值得关注。Indico Data Solutions 的 CTO Madison May 根据他们公司在产品和开发过程中的经验对 Python 深度学习框架进行了对比,希望这篇文章能对读者有所帮助。

Python 深度学习生态系统在这几年中的演变实属惊艳。pylearn2,已经不再被积极地开发或者维护,大量的深度学习库开始接替它的位置。这些库每一个都各有千秋。我们已经在 indico 的产品或者开发中使用了以下列表中的大部分的技术,但是对于剩下一些我们没有使用的,我将会借鉴他人的经验来帮助给出 Python 深度学习生态系统的清晰的、详尽的理解。

确切地说,我们将会关注:

Theano

Lasagne

Blocks

TensorFlow

Keras

MXNet

PyTorch

下面是对这 7 大 Python 深度学习框架的描述以及优缺点的介绍。

Theano

描述:Theano 是一个 Python 库,允许你定义、优化并且有效地评估涉及到多维数组的数学表达式。它与 GPUs 一起工作并且在符号微分方面表现优秀。

概述:Theano 是数值计算的主力,它支持了许多我们列表当中的其他的深度学习框架。Theano 由 Frédéric Bastien 创建,这是蒙特利尔大学机器学习研究所(MILA)背后的一个非常优秀的研究团队。它的 API 水平较低,并且为了写出效率高的 Theano,你需要对隐藏在其他框架幕后的算法相当的熟悉。如果你有着丰富的学术机器学习知识,正在寻找你的模型的精细的控制方法,或者想要实现一个新奇的或者不同寻常的模型,Theano 是你的***库。总而言之,为了灵活性,Theano 牺牲了易用性。

优点:

灵活

正确使用时的高性能

缺点:

较高的学习难度

低水平的 API

编译复杂的符号图可能很慢

Lasagne

描述:在 Theano 上建立和训练神经网络的轻量级库

概述:因为 Theano 致力于成为符号数学中***且***的库,Lasagne 提供了在 Theano 顶部的抽象,这使得它更适合于深度学习。它主要由当前 DeepMind 研究科学家 Sander Dieleman 编写并维护。Lasagne 并非是根据符号变量之间的函数关系来指定网络模型,而是允许用户在层级思考,为用户提供了例如「Conv2DLayer」和「DropoutLayer」的构建块。Lasagne 在牺牲了很少的灵活性的同时,提供了丰富的公共组件来帮助图层定义、图层初始化、模型正则化、模型监控和模型训练。

优点:

仍旧非常灵活

比 Theano 更高级的抽象

文档和代码中包含了各种 Pasta Puns

缺点:

社区小

Blocks

描述:用于构建和训练神经网络的 Theano 框架

概述:与 Lasagne 类似,Blocks 是在 Theano 顶部添加一个抽象层使深度学习模型比编写原始的 Theano 更清晰、更简单、定义更加标准化。它是由蒙特利尔大学机器学习研究所(MILA)编写,其中一些人为搭建 Theano 和***个神经网络定义的高级接口(已经淘汰的 PyLearn2)贡献了自己的一份力量。比起 Lasagne,Blocks 灵活一点,代价是入门台阶较高,想要高效的使用它有不小的难度。除此之外,Blocks 对递归神经网络架构(recurrent neural network architectures)有很好的支持,所以如果你有兴趣探索这种类型的模型,它值得一看。除了 TensorFlow,对于许多我们已经部署在 indico 产品中的 API,Blocks 是其***库。

优点:

仍旧非常灵活

比 Theano 更高级的抽象

易于测试

缺点:

较高的学习难度

更小的社区

TensorFlow

描述:用于数值计算的使用数据流图的开源软件库

概述:TensorFlow 是较低级别的符号库(比如 Theano)和较高级别的网络规范库(比如 Blocks 和 Lasagne)的混合。即使它是 Python 深度学习库集合的***成员,在 Google Brain 团队支持下,它可能已经是***的活跃社区了。它支持在多 GPUs 上运行深度学习模型,为高效的数据流水线提供使用程序,并具有用于模型的检查,可视化和序列化的内置模块。最近,TensorFlow 团队决定支持 Keras(我们列表中下一个深度学习库)。虽然 TensorFlow 有着自己的缺点,但是社区似乎同意这一决定,社区的庞大规模和项目背后巨大的动力意味着学习 TensorFlow 是一次安全的赌注。因此,TensorFlow 是我们今天在 indico 选择的深度学习库。

优点:

由软件巨头 Google 支持

非常大的社区

低级和高级接口网络训练

比基于 Theano 配置更快的模型编译

完全地多 GPU 支持

缺点:

虽然 Tensorflow 正在追赶,但是最初在许多基准上比基于 Theano 的慢。

RNN 支持仍不如 Theano

Keras

描述:Python 的深度学习库。支持 Convnets、递归神经网络等。在 Theano 或者 TensorFlow 上运行。

概述:Keras 也许是水平***,对用户最友好的库了。由 Francis Chollet(Google Brain 团队中的另一个成员)编写和维护。它允许用户选择其所构建的模型是在 Theano 上或是在 TensorFlow 上的符号图上执行。Keras 的用户界面受启发于 Torch,所以如果你以前有过使用 Lua 语言的机器学习经验,Keras 绝对值得一看。由于部分非常优秀的文档和其相对易用性,Keras 的社区非常大并且非常活跃。最近,TensorFlow 团队宣布计划与 Keras 一起支持内置,所以很快 Keras 将是 TensorFlow 项目的一个分组。

优点:

可供选择的 Theano 或者 TensorFlow 后端

直观、高级别的端口

更易学习

缺点:

不太灵活,比其他选择更规范

MXNet

描述:MXNet 是一个旨在提高效率和灵活性的深度学习框架。

概述:MXNet 是亚马逊(Amazon)选择的深度学习库,并且也许是***秀的库。它拥有类似于 Theano 和 TensorFlow 的数据流图,为多 GPU 配置提供了良好的配置,有着类似于 Lasagne 和 Blocks 更高级别的模型构建块,并且可以在你可以想象的任何硬件上运行(包括手机)。对 Python 的支持只是其冰山一角—MXNet 同样提供了对 R、Julia、C++、Scala、Matlab,和 Javascript 的接口。如果你正在寻找***的性能,选择 MXNet 吧,但是你必须愿意处理与之相对的一些 MXNet 的怪癖。

优点:

速度的标杆

非常灵活

缺点:

最小的社区

比 Theano 更困难的学习难度

PyTorch

描述:Python 中的张量(Tensors)和动态神经网络,有着强大的 GPU 加速。

概述:刚刚放出一段时间,PyTorch 就已经是我们 Python 深度学习框架列表中的一个新的成员了。它是从 Lua 的 Torch 库到 Python 的松散端口,由于它由 Facebook 的 人工智能研究团队(Artificial Intelligence Research team (FAIR))支持且因为它用于处理动态计算图(Theano,TensorFlow 或者其他衍生品没有的特性,编译者注:现在 TensorFlow 好像支持动态计算图),它变得非常的有名。PyTorch 在 Python 深度学习生态系统将扮演怎样的角色还不得而知,但所有的迹象都表明,PyTorch 是我们列表中其他框架的一个非常棒的选择。

优点:

来自 Facebook 组织的支持

完全地对动态图的支持

高级和低级 API 的混合

缺点:

比其他选择,PyTorch 还不太成熟

Python 开发 编程语言
上一篇:谷歌开源 GPipe,训练更大模型、不调整超参扩展性能 下一篇:人工智能加速赋能实体经济
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

对于人工智能的恐惧及其5个解决方法

实施人工智能技术的IT领导人可能会感到一些恐惧,这有着充分的理由。人工智能在拥有数十年发展和应用历史的同时却有着奇怪的定位,但对于许多人来说,人工智能仍然是一种未来主义的感觉。

Kevin Casey ·  2019-10-12 11:23:04
五行代码用图提升模型表现,TensorFlow开源NSL神经结构学习框架

今日,谷歌 TensorFlow 宣布推出神经结构学习(NSL)开源框架,它使用神经图学习方法来训练带有图和结构化数据的神经网络。

一鸣、李亚洲 ·  2019-09-04 15:07:15
2019年你不可不知的十大Python库,可实现机器学习

在本文中,我们将讨论 Python 中的一些优选库,开发人员可以使用这些库来解析、清理和表示数据,并在现有应用中实现机器学习。

AI前线小组 译 ·  2019-07-30 08:02:57
人工智能和空间技术如何改善日常生活

从卫星到城市规划,人工智能的进步为人们提供了新的见解。空间技术和人工智能的应用并不新鲜。然而,当这两种技术结合在一起时,许多人都不知道正在改变地球上许多国家和地区的进步,其中包括交通运输和城市规划。

Harris ·  2019-07-09 13:53:44
2019年超酷的10家机器人初创公司

这份知名机器人初创公司榜单介绍了生产面向制造、仓储和零售等行业的开创性机器人的10家生产商。

布加迪 ·  2019-07-09 09:54:26
Facebook 开源深度学习推荐模型 DLRM

Facebook 宣布推出深度学习推荐模型(DLRM)的开源版本,这是一种最先进的个性化推荐 AI 模型,并且可用于生产环境中。

xplanet ·  2019-07-03 23:11:05
5种人工智能编程语言!Java依然屹立不倒!

人工智能是工程学的一个分支,其基本目的是使计算机能够以与智能人类相似的方式智能思考。以下是最常用于制作AI项目的顶级语言。

引力空间站 ·  2019-05-16 14:15:33
使用Python进行社交媒体情感分析入门

本文研究了 NLP 的一个特定领域:情感分析。重点是确定输入语言的积极、消极或中性性质。本部分将解释 NLP 和情感分析的背景,并探讨两个开源的 Python 包。

Michael Mccune ·  2019-05-14 10:37:26
Copyright©2005-2019 51CTO.COM 版权所有 未经许可 请勿转载