查看原文
其他

指数分布族

stephenDC 大数据与人工智能 2022-09-09

点击上方“大数据与人工智能”,“星标或置顶公众号”

第一时间获取好内容


作者丨stephenDC

这是作者的第10篇文章



在《Pattern Recognition and Machine Learning》一书的第2章第4节,作者Bishop对指数分布族进行了非常全面系统的讲解。


本文绝大部分都可以看做是原文的直接翻译,部分加入了自己的思考,有些公式推导可能与原文略有不同。本人自认不能写的更好,因此手头有这本书的读者朋友,建议去看原文。

 

我们为什么要研究指数分布族呢?


主要有两个原因:一是因为指数分布族所包含的各种概率分布非常常用;二是指数分布族具有很好的性质,非常好用


下文先给出指数分布族的定义,然后举出指数分布族的三个常见的实例,最后说明指数分布族的极大似然估计、充分统计量、共轭先验和无信息先验等性质。



  • 指数分布族的定义




  • 三个实例


下面我们证明,伯努利分布,多项式分布和高斯分布,都可以写成以上定义的形式。





 


  • 极大似然估计





  • 充分统计量


 点击上图可跳转去阅读《极大似然估计、极大后验估计和贝叶斯估计》原文)


  • 共轭先验


 


  • 无信息先验





 


小结


读到这里,不妨思考一个问题,指数分布族为什么要这样定义?

篇幅有限,有兴趣的同学,欢迎评论区交流。



-end-

 



相关阅读

在线抽奖活动中如何实现中奖概率的自适应调整  

罗素的理发师和奥卡姆剃刀

机器学习中的维度灾难

集成学习之如何由弱变强

极大似然估计、极大后验估计和贝叶斯估计

稀疏核机(上)—SVM回顾

稀疏核机(中)-核方法

稀疏核机(下)—稀疏性

机器学习中常用的几个概率不等式及证明


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存