后验概率与似然函数的区别与联系 |
您所在的位置:网站首页 › 贝叶斯法则与先验概率,后验概率 › 后验概率与似然函数的区别与联系 |
定义与区别
参考资料[3]对两个概念的定义如下: 后验概率: 在给定证据 X X X后,参数 θ θ θ的概率: p ( θ ∣ X ) p(θ|X) p(θ∣X) 。 似然函数: 给定了参数 θ θ θ后,证据 X X X的概率: p ( X ∣ θ ) p( X | θ ) p(X∣θ)。 参考资料[1]则解释的更清楚,将似然函数定义为: 给定输出 x x x时,关于参数 θ θ θ的似然函数 L ( θ ∣ x ) L(θ|x) L(θ∣x)(在数值上)等于给定参数 θ θ θ后变量 X X X的概率: L ( θ ∣ x ) = P ( X = x ∣ θ ) L(θ|x)=P(X=x|θ) L(θ∣x)=P(X=x∣θ)。 由于 L ( θ ∣ x ) = P ( X = x ∣ θ ) L(θ|x)=P(X=x|θ) L(θ∣x)=P(X=x∣θ),因此[2]和[3]也将似然函数直接写成 P ( x ∣ θ ) P(x|θ) P(x∣θ)。但要注意, P ( x ∣ θ ) P(x|θ) P(x∣θ)中的自变量仍然是 θ \theta θ。因此似然函数写为 P ( x ∣ θ ) P(x|θ) P(x∣θ)时虽然形式上与概率密度函数相同,但并非概率密度函数,例如一般不满足定义域内积分为1的性质(见参考资料[2]的例子 L ( θ ∣ x ) = θ 7 ( 1 − θ ) 3 L(θ|x)=θ^7(1−θ)^3 L(θ∣x)=θ7(1−θ)3)。 联系1、后验概率和似然函数的自变量都是参数 θ θ θ; 2、如果定义先验概率为 p ( θ ) p ( θ ) p(θ),由似然函数的定义, 给 定 x 时 参 数 θ 的 似 然 = 给 定 θ 时 样 本 x 的 概 率 = p ( x ∣ θ ) 给定x时参数θ的似然=给定θ时样本 x 的概率= p( x|θ) 给定x时参数θ的似然=给定θ时样本x的概率=p(x∣θ),那么后验概率可以定义为 p ( θ ∣ x ) p ( θ | x ) p(θ∣x) = p ( x ∣ θ ) p ( θ ) p ( x ) \frac {p ( x | θ ) p ( θ )}{ p ( x )} p(x)p(x∣θ)p(θ). 可以将后验概率写成: 后验概率 ∝ \propto ∝ 似然 × \times × 先验概率。 [1] https://baike.baidu.com/item/%E4%BC%BC%E7%84%B6%E5%87%BD%E6%95%B0 [2] https://blog.csdn.net/u011508640/article/details/72815981 [3] https://zh.wikipedia.org/wiki/%E5%90%8E%E9%AA%8C%E6%A6%82%E7%8E%87 |
今日新闻 |
点击排行 |
|
推荐新闻 |
图片新闻 |
|
专题文章 |
CopyRight 2018-2019 实验室设备网 版权所有 win10的实时保护怎么永久关闭 |