极大似然估计

最近读LLM的文章遇到了很多Model与Loss，突然想彻底理解极大似然估计、最大后验概率估计等参数估计方法的本质和底层，做了一下调研和理解，现总结如下。

概率vs统计

我们都学过的一门数学核心专业课《概率论与数理统计》经常被简称为“概率论”，但这是不恰当不合适的，因为这门课的核心思想有两个，即“概率”和“统计”，分别代表了两种研究方向与研究问题。

概率（probability）

已知模型的相关参数设置，去检验一下模型在特定问题、特定数据上的性能表现。

统计

已知现有的大量数据，去探索用什么模型和模型的参数设置。

这么一看，真的是经典的那句：

概率是已知模型和参数，推数据。统计是已知数据，推模型和参数。

似然函数

似然（likelihood）$\approx$ 概率（probability）。似然函数的形式化表示如下：
$$P(x|\theta)$$
这个函数的输入有两个：

1. 某一具体的数据$x$
2. 模型的参数的$\theta$

这里根据输入数据$x$ 和模型参数$\theta$ 的固定与否，分成以下几种情况：

• 若$\theta$已知确定，$x$是未知变量，那么这是概率函数，含义是：已知的模型参数，对于不同的样本输入x，其不同的出现概率是多少。更常见的形式化表示为：$P(X=x)$，其中X代表随机变量。
• 若$x$已知确定，$\theta$ 是未知变量，那么这是似然函数，含义是：已知样本点，对于不同的模型参数$\theta$ ，出现当前这个输入的概率是多少，通常用于参数估计和模型选择。

感觉有些小绕，但静下心来细想，有些悟了，确实是这样的。那么接下来就正式开始梳理最大似然估计（Maximum likelihood estimation, MLE）

例子1：掷硬币问题

假设我们有一个硬币，我们不知道它是均匀的还是有偏的，想要估计正面朝上的概率$p$。

1. 数据收集：投掷硬币10次，记录了正面朝上的次数为7次。

2. 建立模型：假设投掷正面朝上的概率是$p$，那么反面概率为$1-p$。因为每次投掷硬币均为独立事件，那么10次的结果就可以用二项分布描述。

3. 似然函数表示：$\mathcal L(p)=P(x|\theta)$。其中x是观测的数据（10次投掷正面向上的次数），$\theta$ 是模型参数，即硬币正面朝上的概率$p$。那么就可以写出如下具体表示：
   $$\mathcal L(p)=P(正面朝上7次|p)=p^7(1-p)^3$$

4. 求解最大似然估计：我们的目标是找到对应的参数设置$p$使得似然函数$\mathcal L(p)$最大，那么就可以求导令导数为0求解得到其最大值和对应的参数即可。我们可以求出$p=0.7$的时候是一个解。

虽然这和常识$p=0.5$有出入，但不得不承认，这就是利用最大似然估计所求出的最直观的结果，可以说不合理，但是不能说不正确。

例子2：正态分布参数估计问题

假设我们有一个机器，它生产出的小零件的重量服从正态分布，但机器出现了一些问题，导致零件的重量分布发生了变化。我们需要估计新的正态分布的均值（$\mu$）和标准差（$\sigma$）。

1. 数据收集：从机器中随机抽取了5个小零件，并测量了它们的重量，得到以下数据（以克为单位）：[4.9, 5.1, 4.8, 5.0, 5.2]。

2. 建立模型：我们假设零件的重量$X$服从正态分布$N(\mu,\sigma^2)$ ，其中$\mu$ 是均值，$\sigma^2$是方差。

3. 似然函数表示：$\mathcal L(\mu,\sigma^2)$ 是在已知数据$x_1,x_2,x_3,…,x_n$的前提下，对于参数$\mu$和$\sigma^2$ 的寒函数，表示如下：
   $$\mathcal L(\mu,\sigma^2) = \prod\limits_{i=1}^{n}\frac{1}{\sigma \sqrt{2\pi}}e^{-\frac{1}{2}(\frac{x_i-\mu}{\sigma})^2}$$

4. 求解最大似然估计：由于直接对似然函数进行最大化比较复杂，我们通常取似然函数的对数（称为对数似然），这样乘积变成了求和，更容易处理。对数似然函数为：
   $$\mathcal L(\mu,\sigma^2) = \sum\limits_{i=1}^{n}(-ln(\sigma)-\frac{1}{2}ln(2\pi)-\frac{1}{2}(\frac{x_i-\mu}{\sigma}^2))$$
   为了找到最大似然估计，我们需要对 $\mu$ 和$\sigma^2$分别求偏导，并令这些偏导数等于零。这会得到两个方程，需要同时求解。
   $$\sum\limits_{i=1}^{n}(x_i-\mu)=0 \rightarrow \hat \mu=\frac{1}{n}\sum\limits_{i=1}^{n}x_i\\ \sigma^2 = \frac{1}{n}\sum\limits_{i=1}^{n}(x_i-\mu)^2$$
   带入数据求解即可。

以上就能真实直观理解最大似然估计的原理和系统过程，其实就以下几步：

1. 收集数据
2. 根据数据建立模型
3. 写出有关参数的似然函数表示
4. 求导/偏导，令导数为0，得到似然方程
5. 解似然方程，得出参数的最优解

最大后验概率估计

我们上面理解的都是最大似然估计，即最大化$P(x|\theta)$ 。而最大后验概率估计是对最大似然估计（MLE）的一个补充，通过引入先验知识来提高估计的准确性，即最大化$P(x|\theta)P(\theta)$，即不仅让似然函数能取最大， 同时让参数自己出现的概率也得大，这也就是最大后验概率估计（Maximum a posteriori estimation, MAP）。这里需要补充一下为什么是最大化二者的乘积，其实是简化后的，严格意义而言，是最大化以下部分：
$$P(\theta|x) = \frac{P(x|\theta)P(\theta)}{P(x)}$$
看到这，我们都知道了，就是贝叶斯定理的应用。但我们知道，分母其实是常数，因为根据已知的数据，是可以利用统计的方法求解出的，$P(x)$的取值和参数$\theta$ 没有关系。因此我们就可以最大化分子了。
$$\hat \theta = arg\max_\theta P(x|\theta)P(\theta)$$
那么我们就思考MLE 和MAP的区别与联系了。

1. 从形式化表示来看，MLE就是一个认为$P(\theta)=1$ 的MAP

也就是说：其中参数$\theta$的先验概率$P(\theta)$被假设为一个均匀分布，所有参数值被认为是等可能的。在这种情况下，先验概率对于参数的不同取值没有偏好，因此对似然函数的最大化没有影响。所以，当我们假设一个无信息的先验（即均匀分布）时，MLE和MAP会给出相同的参数估计。

1. MAP结合了先验知识与观测数据的似然行，使用贝叶斯定理将先验知识和似然函数结合起来，得到了参数的后验概率。而MLE是不考虑任何先验知识或对参数的先验信念，它完全基于观测数据来寻找最有可能产生这些数据的参数值。

2. MLE 适用于没有先验信息或我们希望忽略先验信息的情况。MAP 适用于我们拥有关于参数的有用先验信息，并且希望在估计过程中利用这些信息的情况。

参考

https://blog.csdn.net/u011508640/article/details/72815981

https://zhuanlan.zhihu.com/p/26614750