机器学习 · 总览篇 III 统计推断: 频率学派和贝叶斯学派 您所在的位置:网站首页 贝叶斯是谁 机器学习 · 总览篇 III 统计推断: 频率学派和贝叶斯学派

机器学习 · 总览篇 III 统计推断: 频率学派和贝叶斯学派

2024-06-23 19:48| 来源: 网络整理| 查看: 265

统计推断作为重要的机器学习基础,对它的了解十分必要,否则我们做机器学习只是在黑盒操作,对其原理和结果难以解释

本文首发于我的知乎专栏《机器怎么学习》中 机器学习·总览篇(3) 统计推断: 频率学派和贝叶斯学派,转载请保留链接 😉

一、机器学习和统计推断的关系

这一小节谈到的机器学习是狭义上的概念,特指归纳学习,也是现在通常意义上的机器学习.

机器学习领域中的一个方向是通过统计推断中的『数值优化』来解决问题,称为统计学习 机器学习是人工智能(交叉学科,定位尚不清晰)的一个子领域;统计推断是统计学(一级学科)的一个分支(另一个分支是描述性统计学) 机器学习更关注最小化预测误差的某种度量,比如模型的泛化能力、预测的准确率或召回率;统计推断认为更关注推断本身,比如模型或参数的显著性水平、置信度以及统计量意义 二、频率学派和贝叶斯学派

统计推断是通过样本推断总体的统计方法,它是统计学的一个庞大的分支。统计学有两大学派,频率学派和贝叶斯学派,在统计推断的方法上各有不同。我们可以从频率学派和贝叶斯学派的长期争论历程中去了解两个学派的方法和观点,以及统计推断的相关知识:

频率学派,20世纪初期建立,在之后的整个20世纪基本主宰了统计学,代表人费舍尔(Fisher)、K.皮尔逊(Karl Pearson)、内曼(Neyman), 费舍尔提出极大似然估计方法(Maximum Likelihood Estimation,MLE)和多种抽样分布,K皮尔逊提出Pearson卡方检验、Pearson相关系数, 内曼提出了置信区间的概念,和K.卡尔逊的儿子E.S.皮尔逊一起提出了假设检验的内曼-皮尔森引理; 贝叶斯学派(Bayesians),20世纪30年代建立,快速发展于20世纪50年代(计算机诞生后),它的理论基础由17世纪的贝叶斯(Bayes)提出了, 他提出了贝叶斯公式,也称贝叶斯定理,贝叶斯法则。


【本文地址】

公司简介

联系我们

今日新闻

    推荐新闻

    专题文章
      CopyRight 2018-2019 实验室设备网 版权所有