distribution-is-all-you-need

distribution-is-all-you-need

distribution-is-all-you-need 是集中在使用python库深度学习上的基本分布概率教程.

分布概率概述

• “共轭”表示它具有共轭分布的关系。

  在【贝叶斯概率】理论中，如果[后验分布]p(θ | x)在同一[概率分布族]中作为[先验概率分布]p(θ)，先验和后验被称为共轭分布，并且先验被称为[似然函数]的共轭先验.

• “多类”表示随机变量大于2。

• “N次”意味着我们还考虑先验概率P（X）。

• 要了解更多关于概率的信息，我建议阅读[模式识别和机器学习，Bishop 2006]。

分布概率和特征

1. 均匀分布（连续）, code
   • 均匀分布在[a，b]上具有相同的概率值，容易概率。

2. 伯努利分布（离散）, code

• 伯努利分布不考虑先验概率P（X）。因此，如果我们优化到最大似然，我们将很容易受到过拟合的影响。
• 我们使用二进制交叉熵对二进制分类进行分类。它的形式和取伯努利分布的负对数是一样的。

3. B二项式分布（离散）, code

• 参数为n和p的二项式分布是n个独立实验序列中成功次数的离散概率分布。
• 二项式分布是通过预先指定要选取的数量来考虑先验概率的分布。

4. 多重伯努利分布，范畴分布（离散）, code

• 多伯努利称为范畴分布，是一种概率展开大于2的分布。
• 交叉熵具有相同的形式，类似于多伯努利分布的负对数。

5. 多项式分布（离散）, code

• 多项式分布与分类分布的关系与Bernoull和二项式之间的关系相同。

6. 贝塔分布（连续）, code

• 贝塔分布与二项式分布和伯努利分布共轭。
• 利用共轭，我们可以更容易地利用我们所知道的先验分布得到后验分布。
• 当贝塔分布满足特殊情况（α=1，β=1）时，均匀分布是相同的。

7. 狄利克雷分布（连续）, code

• 狄利克雷分布与多项式分布共轭。
• 如果k=2，它将是贝塔分布。

8. 伽玛分布（连续）, code

• 如果“伽玛（a，1）/伽玛（a、1）+伽玛（b、1）”与“贝塔（a、b）”相同，则伽玛分布将是贝塔分布。
• 指数分布和卡方分布是伽玛分布的特例。

9. 指数分布（连续）, code

• 当alpha为1时，指数分布是gamma分布的特殊情况。

10. 高斯分布（连续）, code

• 高斯分布是一种非常常见的连续概率分布

11. 正态分布（连续）, code

• 正态分布是标准化的高斯分布，它有0个平均值和1个标准值。

12. 卡方分布（连续）, code

• 具有k个自由度的卡方分布是k个独立标准正态随机变量的平方和的分布。
• 卡方分布是贝塔分布的特例

13. 学生-t分布（连续）, code
    • 与正态分布一样，t分布是对称的钟形分布，但尾部较重，这意味着它更容易产生远低于平均值的值。

著者

如果您想了解有关分布概率关系的详细信息，请参阅此.

-Tae Hwan Jung@graykode，庆熙大学CE（本科生）。
-作者电子邮件：[nlkey2022@gmail.com]（邮寄至：nlkey2022@gmail.com)

-如果您开源，您可以自由使用