AI新人必看 | 参数和超参数还分不清楚吗?

作者: 佚名 2018-09-18 15:58:54

 

计算机学科里有太多的术语,而且许多术语的使用并不一致。哪怕是相同的术语,不同学科的人理解一定有所不同。

比如说:“模型参数(model parameter)”和“模型超参数(model Hyperparameter)”。

对于初学者来说,这些没有明确定义的术语肯定很令人困惑。尤其是对于些来自统计学或经济学领域的人。

我们来仔细研究一下这些条款。

什么是模型参数?

模型参数是模型内部的配置变量,其值可以根据数据进行估计。

  •  模型在进行预测时需要它们。
  •  它们的值定义了可使用的模型。
  •  他们是从数据估计或获悉的。
  •  它们通常不由编程者手动设置。
  •  他们通常被保存为学习模型的一部分。

参数是机器学习算法的关键。它们通常由过去的训练数据中总结得出。

在经典的机器学习文献中,我们可以将模型看作假设,将参数视为对特定数据集的量身打造的假设。

***化算法是估计模型参数的有效工具。

  •  统计:在统计学中,您可以假设一个变量的分布,如高斯分布。高斯分布的两个参数是平均值(μ)和标准偏差(西格玛)。这适用于机器学习,其中这些参数可以从数据中估算出来并用作预测模型的一部分。
  •  编程:在编程中,您可以将参数传递给函数。在这种情况下,参数是一个函数参数,它可能具有一个值范围之一。在机器学习中,您使用的特定模型是函数,需要参数才能对新数据进行预测。

模型是否具有固定或可变数量的参数决定了它是否可以被称为“参数”或“非参数”。

模型参数的一些示例包括:

  •  神经网络中的权重。
  •  支持向量机中的支持向量。
  •  线性回归或逻辑回归中的系数。

什么是模型超参数?

模型超参数是模型外部的配置,其值无法从数据中估计。

  •  它们通常用于帮助估计模型参数。
  •  它们通常由人工指定。
  •  他们通常可以使用启发式设置。
  •  他们经常被调整为给定的预测建模问题。

我们虽然无法知道给定问题的模型超参数的***值,但是我们可以使用经验法则,在其他问题上使用复制值,或通过反复试验来搜索***值。

当机器学习算法针对特定问题进行调整时(例如,使用网格搜索或随机搜索时),那么正在调整模型的超参数或顺序以发现导致最熟练的模型的参数预测。

  •  “许多模型有不能从数据直接估计的重要参数。例如,在K近邻分类模型中......因为没有可用于计算适当值的分析公式,这种类型的模型参数被称为调整参数。”

    - 第64-65页,《应用预测模型》,2013

如果模型超参数被称为模型参数,会造成很多混淆。克服这种困惑的一个经验法则如下:

如果必须手动指定模型参数,那么它可能是一个模型超参数。

模型超参数的一些例子包括:

  •  训练神经网络的学习速率。
  •  用于支持向量机的C和sigma超参数。
  •  K最近邻的K。

总之,模型参数是根据数据自动估算的。但模型超参数是手动设置的,并且在过程中用于帮助估计模型参数。

模型超参数通常被称为参数,因为它们是必须手动设置和调整的机器学习的一部分。

机器学习 参数 神经网络
上一篇:腾讯AI Lab开源首款自动化模型压缩框架:将深度学习装口袋 下一篇:机器学习未来将走向何方?英特尔-南大联合研究中心将给出答案
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

人工智能取得重大突破,意识识别已经实现

这只是一个开始,但是却非常令人兴奋:将大脑活动转化为文本的系统。对于那些无法说话的人,例如患有锁定综合征的人,这将改变生活。

秦枫时尚范 ·  23h前
微软麻将 AI 论文发布,首次公开技术细节

2019 年 8 月 29 日,微软发布了一个名为 Suphx(超级凤凰)的「麻将 AI」,在专业的麻将竞技平台上,Suphx 的实力胜过了顶级人类选手的平均水平。

神经小兮 ·  4天前
特征工程是啥东东?为何需要实现自动化?

如今人工智能(AI)变得越来越普遍和必要。从防止欺诈、实时异常检测到预测客户流失,企业客户每天都在寻找机器学习(ML)的新应用。ML的底层是什么?这项技术如何进行预测?使AI发挥神奇功效的秘诀又是什么?

布加迪 ·  4天前
全球首个翻译引擎进化归来 “细节狂魔”搞定方言

最近,一款在线机器翻译软件在日本大火。这款翻译软件名叫DeepL,大火的原因正是因为它工作太负责了,翻译得太过准确,在日本引起了热议。

刘俊寰 ·  4天前
科学家研发出“读心术”,直接将脑电波翻译成文本,错误率低至3%

美国加州大学旧金山分校的科学家,已经训练出一种算法,可以直接将受试者的脑电波实时翻译成句子,错误率仅为 3% 。

张路 ·  2020-04-02 10:16:59
破解机器学习的误区——常见机器学习神话究竟从何而来?

Forrester Research最近发布了一份名为“ 粉碎机器学习的七个神话”的报告。在其中,作者警告说:“不幸的是,一些对机器学习项目做出重要决策的企业领导者,普遍存在机器学习的误解。”

CDA数据分析师 ·  2020-04-01 14:24:06
令人兴奋的 2020 年人工智能和机器学习趋势

在本文中,我们将讨论几个顶级的人工智能和机器学习趋势,将塑造新年:2020。 我们还将介绍面部识别技术及其在2020年的应用。

飞羽译 ·  2020-03-31 18:49:03
2020之最:最实用的机器学习工具有哪些?

就如同制作米其林菜肴,拥有井井有条的厨房固然重要,但可选择的东西太多也着实让人烦恼,建立良好的机器学习(ML)应用程序也是如此。

读芯术 ·  2020-03-31 18:47:22
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载