硬币投掷问题:
- 先验概率(Prior Probability): 假设你之前听说过这个硬币是公平的可能性更大,因此你的先验概率是硬币是公平的概率为70%,是不公平的概率为30%。
- 观测数据: 你投掷了硬币10次,观察到7次是正面,3次是反面。
- MLE(最大似然估计): 基于观察到的数据,你可能认为硬币是偏向正面的,因为正面的次数更多。因此,使用MLE,你会估计硬币是公平的概率较低。
- MAP(最大后验概率): 考虑到你的先验信念(硬币更可能是公平的),MAP 会结合先验概率和观测到的数据,给出一个综合的估计。即使观测到的数据偏向正面,由于先验概率的影响,MAP 估计可能会更接近硬币是公平的。
在深度学习中,这些概念同样适用:
- 先验概率: 我们对模型参数的最初猜测,这可以来自我们对问题的先验了解或经验。
- 观测数据: 我们从训练数据中学到的信息,用于更新对参数的估计。
- MLE: 基于观察到的数据,找到最可能的参数值,以最大化观测数据的概率。
- MAP: 结合了先验概率和观测到的数据,给出更全面、更平衡的参数估计。
希望这个例子更清晰地展示了先验概率、后验概率、MLE 和 MAP 在统计和深度学习中的作用。