「决战紫禁之巅」之深度学习框架篇:Keras VS PyTorch

作者: 机器之心 2019-06-26 05:29:44

TensorFlow 是很多科学家、工程师和开发人员的***深度学习框架。虽然 TensorFlow 1.0 早在 2017 年 2 月就发布了,但使用过程中对用户不太友好。

过去几年里,Keras 和 PyTorch 日益成为广受用户欢迎的两种深度学习库,因为它们使用起来比 TensorFlow 简单多了。

本文将分别对 Keras 和 PyTorch 的四个方面进行比较,你可以根据两种框架的优劣势以及自身的需要选择其中一种。

一、Keras 和 PyTorch 简介

Keras 于 2015 年 3 月***发布,是能够在 TensorFlow、CNTK、Theano 或 MXNet 上运行的高级 API(或作为 TensorFlow 内的 tf.contrib)。Keras 的突出特点在于其易用性,它是迄今为止最容易上手且能够快速运行的框架。此外,Keras 能够直观地定义神经网络,函数式 API 的使用令用户可以将层定义为函数。

PyTorch 于 2016 年 10 月发布,由 Facebook AI 研究团队开发,是专注于直接处理数组表达式的较低级别 API。与 Keras 相比,你能够拥有更强的灵活度以及对 PyTorch 的控制,同时又不需要进行太多的声明式编程(declarative programming)。

二、选择 Keras 还是 PyTorch?

有时,深度学习从业者会纠结于应该使用哪一种框架,这通常取决于个人喜好。下面将介绍 Keras 和 PyTorch 的几个方面对比,你可据此做出自己的选择。

1. 定义模型的类 vs 函数

Keras 在定义深度学习模型时提供函数式 API。通过函数式 API,神经网络被定义为一组序列函数,然后一个接一个地得到应用。例如,函数定义层 1 的输出是函数定义层 2 的输入。

在使用 PyTorch 时,用户将神经网络设置为一个扩展了 Torch 库中 torch.nn. 模块的类。与 Keras 类似,PyTorch 为用户提供作为组件的层,但由于这些层属于 Python 类,所以它们是类__init__() 方法中的引用,并通过类的 forward() 方法执行。

相比而言,PyTorch 能够令你访问 Python 的所有类别特征,而不只是简单的函数调用。定义网络变得更加清晰,而且优雅。但如果你认为以最快的速度编写网络代码最为重要,则 Keras 对你来说更加易于使用。

2. 张量和计算图 vs 标准阵列

对于一般程序员来说,Keras API 会隐藏大量的混乱细节,定义网络层也非常直观。因而,你在默认设置下就足以入门。但当你想要实现一个非常先进或「独特的」模型时,才真正需要深入了解低级和本质的 TensorFlow。

但当你真正深入了解低级 TensorFlow 代码时,就会遇到一些挑战。你需要确保所有矩阵乘法对齐。更不要想着将层输出打印出来了,因为你会在终端上打印出一个很好的张量定义(Tensor definition)。

相较于 Keras,PyTorch 在这些方面往往更加宽容。你只需要了解每个层的输入和输出大小就可以了,并且 PyTorch 在这一点上做得非常好,你可以快速掌握。你不需要构建抽象的计算图(其内部情况你在调试时无法看到)。

PyTorch 的另一个优点在于其平滑性(smoothness),你可以在 Torch 张量和 Numpy 矩阵之间来回切换。但如果开发者需要实现一些自定义内容,则 TF 张量和 Numpy 矩阵之间的切换可能会很麻烦,这要求他们对 TensorFlow 有一个透彻了解。

实际上,PyTorch 的交互运算更加简单,两步即可:将 Torch 张量(变量对象)转换成 Numpy,然后进行反向运算即可。

当然,如果你不需要实现任何独特的内容,则 Keras 也表现的非常好,因为你不会遇到任何 TensorFlow 障碍。但如果想要实现一些独特的内容,则 PyTorch 可能会表现得更加平滑。

3. 训练模型

开始训练

利用 Keras 训练模型超级简单!只需要一个简单的.fit(),你就可以开启模型训练之旅。

而利用 PyTorch 训练模型包含以下几个步骤:

  • 每一批次的训练开始时初始化梯度
  • 在模型中运行前向传播
  • 运行后向传播
  • 计算损失和更新权重

所以,就训练模型来说,PyTorch 较为繁琐。

4. 控制 CPU vs GPU 模式

我们需要更多算力。

如果你已经安装了 tensorflow-gpu,则在 Keras 中能够使用 GPU 并且会默认完成。然后,如果你想要将某些运算转移至 CPU,则可以以单行方式完成。

但对于 PyTorch 来说,你必须显式地为每个 torch 张量和 numpy 变量启动 GPU。这样代码会比较混乱。并且如果你想在 CPU 和 GPU 之间来回移动以执行不同运算,则很容易出错。

例如,为了将之前的模型转移到 GPU 上运行,则需要以下步骤:

因而,Keras 在简洁性和默认设置方面优于 PyTorch。

三、选择 Keras 或 PyTorch 的一般性建议

作者通常建议初学者从 Keras 开始。Keras 绝对是理解和使用起来最简单的框架,能够很快地上手运行。你完全不需要担心 GPU 设置、处理抽象代码以及其他任何复杂的事情。你甚至可以在不接触任何 TensorFlow 单行代码的情况下,实现自定义层和损失函数。

但如果你开始深度了解到深度网络的更细粒度层面或者正在实现一些非标准的事情,则 PyTorch 是你的***库。使用 PyTorch 需要进行一些额外操作,但这不会减缓你的进程。你依然能够快速实现、训练和测试网络,并享受简单调试带来的额外益处。

参考链接:https://towardsdatascience.com/keras-vs-pytorch-for-deep-learning-a013cb63870d

【本文是51CTO专栏机构“机器之心”的原创译文,微信公众号“机器之心( id: almosthuman2014)”】

戳这里,看该作者更多好文

深度学习 Keras PyTorch
上一篇:车联网频率三年免费 自动驾驶产业化提速 下一篇:机器人如何扩展物联网应用的范围
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

AI时代,需要发挥知识图谱+知识管理的双轮价值

AI时代,需要发挥知识图谱+知识管理的双轮价值,才能真正实现从流程驱动、数据驱动走向知识驱动。

东方林语 ·  2021-05-31 09:15:14
人工智能是如何改变日常商业运作的?

人工智能的使用也改变了我们如今开展业务的方式。从平凡的任务到数据分析,该技术使公司能够保持竞争优势。此外,使用AI可以改善个性化的客户体验以及改善风险管理。

佚名 ·  2021-05-28 17:24:32
数据分析技术:边缘人工智能的应用

为了避免不必要的非关键数据移动,AI正在向边缘设备返回计算能力,从而影响开发人员利用人工智能和数据分析技术。

Cassie ·  2021-05-27 15:22:19
Few-shot Learning(1)—机器学习中的任务优化空间

今天深度学习之所以成功,大量的数据是不可缺少的必要条件。我们训练的模型都是吃过见过后才有现在这样良好的表现。不过实际情况要收集到足够多的数据并非易事,今天我们就这个问题来学习 Few-shot Learning。

zidea ·  2021-05-27 08:38:47
人工智能促进企业实现端到端的智能自动化

对于正在从事或已经致力于此类现代化工作的IT主管们来说,人工智能(主要体现为机器学习技术)有望对自动化产生革命性影响,使他们更接近端到端过程自动化的梦想。

Maria Korolov ·  2021-05-26 10:04:09
光明面与黑暗面:人工智能与人类的未来

随着技术创新步伐的不断提高,重要的是要意识到即将到来的中断,而不仅仅是盲目地享受AI带来的好处。计算机超级智能可能会威胁到我们的生存,即使不是这样,如果我们能够负责任地发动第四次工业革命,仍然有很多大问题需要解决。

Mark Lippett ·  2021-05-26 09:48:12
8个深度学习中常用的激活函数

当在隐藏层和输出层中实现时,激活函数的选择非常关键。模型的准确性和损失很大程度上依赖于激活函数。此外,必须根据您对模型的期望来选择它们。例如,在二值分类问题中,sigmoid函数是一种最优选择。

deephub ·  2021-05-22 23:08:08
融合创新,降低门槛,飞桨推动人工智能走通工业大生产之路

5月20日,由深度学习技术及应用国家工程实验室与百度联合主办的WAVE SUMMIT 2021深度学习开发者峰会在北京召开。

佚名 ·  2021-05-21 10:26:39
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载