8.4概率建模与推断

文档摘要

8.4 概率建模与推断在机器学习中，我们经常关注数据的解释和分析，例如对未来事件的预测和决策制定。为了使这项任务更易于处理，我们通常会构建模型来描述生成观测数据的生成过程。例如，我们可以用两个步骤来描述抛硬币实验的结果（正面或反面）。首先，我们定义一个参数$\mu$，它作为伯努利分布（第6章）的参数，描述了出现“正面”的概率；其次，我们可以从伯努利分布$p(x\mid\mu)=\text{Ber}(\mu)$中抽取一个结果$x\in\{\text{head}, \text{tail}\}$。参数$\mu$产生了特定的数据集$\chi$，并且取决于所使用的硬币。由于$\mu$是未知的，且永远无法直接观测到，因此我们需要机制来根据抛硬币实验的观察结果来学习关于$\mu$的信息。