一个开源机器学习框架新手入门,Scikit-learn的那些事儿

作者: 吴锦文 2017-04-21 09:59:11

对Python语言有所了解的科研人员可能都知道SciPy——一个开源的基于Python的科学计算工具包。基于SciPy,目前开发者们针对不同的应用领域已经发展出了为数众多的分支版本,它们被统一称为Scikits,即SciPy工具包的意思。而在这些分支版本中,最有名,也是专门面向机器学习的一个就是Scikit-learn。

Scikit-learn项目最早由数据科学家 D**id Cournapeau 在 2007 年发起,需要NumPy和SciPy等其他包的支持,是Python语言中专门针对机器学习应用而发展起来的一款开源框架。

和其他众多的开源项目一样,Scikit-learn目前主要由社区成员自发进行维护。可能是由于维护成本的限制,Scikit-learn相比其他项目要显得更为保守。这主要体现在两个方面:一是Scikit-learn从来不做除机器学习领域之外的其他扩展,二是Scikit-learn从来不采用未经广泛验证的算法。

本文将简单介绍Scikit-learn框架的六大功能,安装和运行Scikit-learn的大概步骤,同时为后续各更深入地学习Scikit-learn提供参考。原文来自infoworld网站的特约撰稿人Martin Heller,他曾在1986-2010年间做过长达20多年的数据库、通用软件和网页开发,具有丰富的开发经验。

Scikit-learn的六大功能

Scikit-learn的基本功能主要被分为六大部分:分类,回归,聚类,数据降维,模型选择和数据预处理。

分类是指识别给定对象的所属类别,属于监督学习的范畴,最常见的应用场景包括垃圾邮件检测和图像识别等。目前Scikit-learn已经实现的算法包括:支持向量机(SVM),最近邻,逻辑回归,随机森林,决策树以及多层感知器(MLP)神经网络等等。

需要指出的是,由于Scikit-learn本身不支持深度学习,也不支持GPU加速,因此这里对于MLP的实现并不适合于处理大规模问题。有相关需求的读者可以查看同样对Python有良好支持的Keras和Theano等框架。

回归是指预测与给定对象相关联的连续值属性,最常见的应用场景包括预测药物反应和预测股票价格等。目前Scikit-learn已经实现的算法包括:支持向量回归(SVR),脊回归,Lasso回归,弹性网络(Elastic Net),最小角回归(LARS ),贝叶斯回归,以及各种不同的鲁棒回归算法等。可以看到,这里实现的回归算法几乎涵盖了所有开发者的需求范围,而且更重要的是,Scikit-learn还针对每种算法都提供了简单明了的用例参考。

聚类是指自动识别具有相似属性的给定对象,并将其分组为集合,属于无监督学习的范畴,最常见的应用场景包括顾客细分和试验结果分组。目前Scikit-learn已经实现的算法包括:K-均值聚类,谱聚类,均值偏移,分层聚类,DBSCAN聚类等。

数据降维是指使用主成分分析(PCA)、非负矩阵分解(NMF)或特征选择等降维技术来减少要考虑的随机变量的个数,其主要应用场景包括可视化处理和效率提升。

模型选择是指对于给定参数和模型的比较、验证和选择,其主要目的是通过参数调整来提升精度。目前Scikit-learn实现的模块包括:格点搜索,交叉验证和各种针对预测误差评估的度量函数。

数据预处理是指数据的特征提取和归一化,是机器学习过程中的***个也是最重要的一个环节。这里归一化是指将输入数据转换为具有零均值和单位权方差的新变量,但因为大多数时候都做不到精确等于零,因此会设置一个可接受的范围,一般都要求落在0-1之间。而特征提取是指将文本或图像数据转换为可用于机器学习的数字变量。

需要特别注意的是,这里的特征提取与上文在数据降维中提到的特征选择非常不同。特征选择是指通过去除不变、协变或其他统计上不重要的特征量来改进机器学习的一种方法。

总结来说,Scikit-learn实现了一整套用于数据降维,模型选择,特征提取和归一化的完整算法/模块,虽然缺少按步骤操作的参考教程,但Scikit-learn针对每个算法和模块都提供了丰富的参考样例和详细的说明文档。

安装和运行Scikit-learn

如前所述,Scikit-learn需要NumPy和SciPy等其他包的支持,因此在安装Scikit-learn之前需要提前安装一些支持包,具体列表和教程可以查看Scikit-learn的官方文档: https://scikit-learn.org/stable/install.html ,以下仅列出Python、NumPy和SciPy等三个必备包的安装说明。

Python:https://www.python.org/about/gettingstarted/

NumPy:https://www.numpy.org/

SciPy:https://www.scipy.org/install.html

假定已经完整安装了所有支持包,那么利用安装Scikit-learn只需要简单的一条简单的pip命令(也可以用conda命令,详见官方文档):

  1. $ sudo pip install -U scikit-learn 

这里加上sudo是为了避免安装过程中出现一些权限问题,如果用户已经确保了管理员权限也可以省略。

当然,开发者也可以选择自己到GitHub开源平台上下载Scikit-learn的源代码,解压后在根目录键入make自行编译和连接可执行文件,效果是一样的。另外,为了确保测试方便,高级用户还可以选择安装针对Python的测试框架nose,安装方法详见其官方说明: https://nose.readthedocs.io/en/latest/ 。

通过Jupyter Notebook工具运行Scikit-learn样例的过程也很简单,用户只需要在官方给出的样例库: https://scikit-learn.org/stable/auto_examples/index.html#general-examples 选择一个样例,然后在页面中下载其Python源码和IPython notebook文件,借着通过Jupyter Notebook工具运行就可以了。假如选择了交叉验证预测的样例,那么其运行情况的截图如下所示。

原作者在这里表示,Scikit-learn是他测试过的最简单易用的机器学习框架。他表示,Scikit-learn样例的运行结果和文档描述一模一样,API接口的设计合理且一致性高,而且几乎不存在“阻抗不匹配”的数据结构,使用这种功能完善且几乎没有Bug的开源框架进行机器学习研究,无疑是一件值得高兴的事。

更深入地学习Scikit-learn

如前所述,Scikit-learn针对每个算法和模块都提供了丰富的参考样例和详细的说明文档,据官方的统计大约有200多个。而且为了清晰明白,绝大多数样例都至少给出了一张由Matplotlib绘制的数据图表。这些都是官方提供的学习Scikit-learn框架最直接有效的学习材料。

针对科学数据处理的应用场景,官方还给出了一个更为详细和全面的参考教程:A tutorial on statistical-learning for scientific data processing,其中包括统计学习、监督学习、模型选择和无监督学习等若干部分,内容覆盖全面,讲解细致,并且使用了真实的数据、代码和图表。

另外,教程中还调用了与文本相关的样例,例如下图所示的四个不同SVM分类器的比较。

这里需要指出的是,虽然运行Scikit-learn官方给出的样例后通常都能得到一致的结果,但大多数情况下系统都会抛出警告信息。作者认为抛出警告信息的原因来自两个方面:一是苹果vecLib框架本身对Scikit-learn支持不好(作者用的是MacOS),二是样例中使用的Python版本可能是早期的版本,而实际运行中是***的版本。例如下图中是使用Python 2.7.10版本抛出的警告信息,而Scikit-learn官方页面上并没有出现。

总体上来说,作为专门面向机器学习的Python开源框架,Scikit-learn可以在一定范围内为开发者提供非常好的帮助。它内部实现了各种各样成熟的算法,容易安装和使用,样例丰富,而且教程和文档也非常详细。

另一方面,Scikit-learn也有缺点。例如它不支持深度学习和强化学习,这在今天已经是应用非常广泛的技术,例如准确的图像分类和可靠的实时语音识别和语义理解等。此外,它也不支持图模型和序列预测,不支持Python之外的语言,不支持PyPy,也不支持GPU加速。

看到这里可能会有人担心Scikit-learn的性能表现,这里需要指出的是:如果不考虑多层神经网络的相关应用,Scikit-learn的性能表现是非常不错的。究其原因,一方面是因为其内部算法的实现十分高效,另一方面或许可以归功于Cython编译器:通过Cython在Scikit-learn框架内部生成C语言代码的运行方式,Scikit-learn消除了大部分的性能瓶颈。

应该明确的一点是:虽然概括地说Scikit-learn并不适合深度学习问题,但对于某些特殊场景而言,使用Scikit-learn仍然是明智的选择。例如要创建连接不同对象的预测函数时,或者在未标记的数据集中为了训练模型对不同的对象进行分类时,面对这些场景Scikit-learn只通过普通的旧机器学习模型就能很好地解决,而并不需要建立数十层的复杂神经网络。

就好像喜欢Scala语言的人会选择Spark ML,喜欢绘制图表和偶尔编写少量Python/R语言代码的人会选择微软Cortana和Azure一样,对于那些Python语言的死忠粉而言,Scikit-learn可能是各种机器学习库中的***选择。

开源 机器学习 框架
上一篇:美国购物平台Stitch Fix王建强:数据驱动的决策辅助与产品智能化 下一篇:七步让你实践深度学习
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

人工智能能否使机器具有流体智力?

麻省理工学院和奥地利研究人员为灵活的人工智能创造了“液体”机器学习。

千家网 ·  2021-06-01 10:38:55
高真实感、全局一致、外观精细,面向模糊目标的NeRF方案出炉

自 NeRF 被提出后,有多项研究对其加以改进。在本篇论文中,上海科技大学的研究者提出了首个将显式不透明监督和卷积机制结合到神经辐射场框架中以实现高质量外观的方案。

Haimin Luo等 ·  2021-06-01 09:57:39
大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

一个简单的大脑模型为人工智能研究提供了新的方向。世界顶尖计算机科学理论学家、哥德尔奖和高德纳奖获得者、哥伦比亚大学计算机科学教授 Christos Papadimitriou 关于「大脑中单词表征」的演讲。

Ben Dickson ·  2021-06-01 09:39:24
打破“维度的诅咒”,机器学习降维方法好

机器学习算法因为能够从具有许多特征的数据集中找出相关信息而大火,这些数据集往往包括了几十行的表格或者数百万像素的图像。

水木番 ·  2021-05-31 09:41:17
工业界中的机器学习是什么样子的

本文结合作者十余年的工业界经历,从工业界的视角来尝试给些思考和总结,欢迎大家批评讨论。

龙星镖局 ·  2021-05-31 09:26:01
最喜欢随机森林?TensorFlow开源决策森林库TF-DF

近日,TensorFlow 开源了 TensorFlow 决策森林 (TF-DF)。TF-DF 是用于训练、服务和解释决策森林模型(包括随机森林和梯度增强树)生产方面的 SOTA 算法集合。

机器之心 ·  2021-05-28 17:18:44
人工智能、机器学习和物联网等技术改善健康的7种方式

尽管老生常谈,但我们还是要说:让我们不健康的不是技术,而是我们的生活习惯,事实上,技术可以让我们变得更健康。

佚名 ·  2021-05-28 11:42:58
利用AI识别城市建筑物特征,预测其面对地震等灾难时的风险

本文介绍了美国国家科学基金会开发的可自动识别城市建筑的特征、检测城市建筑在地震、飓风或海啸中可能面临风险的大规模人工智能建筑识别工具。

佚名 ·  2021-05-28 10:52:09
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载