似然最大似然与MAP估计 - SpiralKernel/bioinfo-wiki GitHub Wiki

似然最大似然与MAP估计

更新:2026-10-13;状态:可用;验证范围:教材、原始研究或官方文档核对;概念与方法说明。

用固定数据比较参数对观测的解释,区分最大似然、最大后验与数值求解。

似然在比较什么

给定数据x,似然 $L(\theta;x)$把数据固定,让参数θ变化。它由数据模型的概率质量或密度组成;不是参数本身的概率分布,也不要求对θ积分为1。

独立观测下常将各观测密度相乘;对数似然把乘积变为求和,便于计算。存在相关结构时不能直接把所有细胞或时间点当独立项相乘。

一个可手算的例子

n次独立Bernoulli试验,观察k次成功,似然与 $p^k(1-p)^{n-k}$成比例。当0<k<n时,对数似然求导得到MLE $\hat p=k/n$。k=0或n时最优解位于参数边界,不能假设所有问题都有内部导数为零的解。

MAP最大化似然乘先验,等价于最小化负对数似然加负对数先验。某些高斯先验对应岭型惩罚,但MAP是后验众数,不等于后验均值或完整贝叶斯不确定性分析。

生信中的联系

逻辑回归、负二项回归和许多方差组分估计使用似然思想;优化通常依赖迭代。模型有多个局部最优、参数边界、分离或不可识别时,成功退出不能保证估计合理。

阅读梯度下降与数值优化了解算法;方差组分估计见GS中的REML混合模型方程与求解,MLE与REML不要混称。基础接口与例子见SciPy分布拟合指南。