【机器学习】2.隐马尔可夫模型（Hidden Markov Model，HMM）

隐马尔可夫模型（HMM）系统知识梳理

隐马尔可夫模型（Hidden Markov Model，HMM）是时序概率图模型的核心代表，属于生成式模型，核心是通过隐藏状态序列生成观测状态序列。它广泛应用于语音识别、自然语言处理、生物信息学等领域。

本文将从核心要素、基本假设、三大核心问题及对应算法、案例实践四个维度，系统梳理HMM的知识体系。

一、 HMM的核心定义与要素

HMM是一个双重随机过程：

1. 隐藏状态的转移过程是马尔可夫链（不可观测）；
2. 每个隐藏状态生成一个观测状态的过程是随机发射过程（可观测）。

1.1 5个核心要素

HMM的模型参数可表示为 $\lambda =(\pi ,A,B)$，包含以下5个要素，用表格总结如下：

1.2 3个基本假设

HMM的所有算法均基于以下3个关键假设，这是模型简化的核心前提：

1. 齐次马尔可夫性：任意时刻的隐藏状态仅依赖于前一时刻的隐藏状态，与更早的状态和当前时刻无关。
   $$P(i_t|i_{t-1},i_{t-2},...,i_1,O_1,O_2,...,O_t)=P(i_t|i_{t-1})$$
   其中 $i_t$ 表示 $t$ 时刻的隐藏状态，$O_t$ 表示 $t$ 时刻的观测状态。
2. 观测独立性：任意时刻的观测状态仅依赖于当前时刻的隐藏状态，与其他状态和观测无关。
   $$P(O_t|i_t,i_{t-1},...,i_1,O_1,...,O_{t-1},O_{t+1},...,O_T)=P(O_t|i_t)$$
3. 时序无后效性：模型的状态转移概率和观测概率不随时间变化（即时齐性）。

二、 HMM的三大核心问题及对应算法

HMM的所有应用场景均可归结为三大核心问题，每个问题对应一套经典算法，这是HMM的知识核心。

2.1 评估问题：前向算法 & 后向算法

2.1.1 问题本质

直接计算 $P(O|\lambda )$ 的复杂度为 $O(T{N}^T)$（枚举所有隐藏序列），完全不可行。前向/后向算法通过动态规划将复杂度降至 $O(T{N}^2)$。

2.1.2 前向算法（Forward Algorithm）

核心思想：从前往后递推，计算 $t$ 时刻处于状态 $s_i$ 且生成前 $t$ 个观测的概率（前向概率 ${\alpha }_t(i)$）。

（1）定义前向概率

$${\alpha }_t(i)=P(O_1,O_2,...,O_t,i_t=s_i|\lambda )$$
含义：$t$ 时刻处于隐藏状态 $s_i$，且生成前 $t$ 个观测的联合概率。

（2）算法步骤（伪代码）

输入：模型λ=(π,A,B)，观测序列O=(O₁,O₂,...,O_T)
输出：P(O|λ)

1.  初始化（t=1时刻）
    α₁(i) = π_i * b_i(O₁)  ，i=1,2,...,N
    解释：初始状态概率 × 初始状态生成第一个观测的概率

2.  递推（t=2到T时刻）
    α_t(j) = [Σ_{i=1}^N α_{t-1}(i) * a_{ij}] * b_j(O_t)  ，j=1,2,...,N
    解释：前一时刻所有状态的前向概率 × 转移到j的概率 → 求和后 × j生成当前观测的概率

3.  终止（计算最终概率）
    P(O|λ) = Σ_{i=1}^N α_T(i)
    解释：T时刻所有隐藏状态的前向概率之和，即为观测序列的总概率

（3）语法格式（数学公式）

• 初始化：${\alpha }_1(i)={\pi }_i{b}_i(O_1)$
• 递推：${\alpha }_t(j)=\left({\sum }_{i=1}^N{\alpha }_{t-1}(i)a_{ij}\right)b_j(O_t)$
• 终止：$P(O|\lambda )={\sum }_{i=1}^N{\alpha }_T(i)$

2.1.3 后向算法（Backward Algorithm）

核心思想：从后往前递推，计算 $t$ 时刻处于状态 $s_i$ 且生成后 $T-t$ 个观测的概率（后向概率 ${\beta }_t(i)$）。

（1）定义后向概率

$${\beta }_t(i)=P(O_{t+1},O_{t+2},...,O_T|i_t=s_i,\lambda )$$

（2）算法步骤（伪代码）

输入：模型λ=(π,A,B)，观测序列O=(O₁,O₂,...,O_T)
输出：P(O|λ)

1.  初始化（t=T时刻）
    β_T(i) = 1  ，i=1,2,...,N
    解释：T时刻之后无观测，概率为1

2.  递推（t=T-1到1时刻）
    β_t(i) = Σ_{j=1}^N [a_{ij} * b_j(O_{t+1}) * β_{t+1}(j)]  ，i=1,2,...,N

3.  终止（计算最终概率）
    P(O|λ) = Σ_{i=1}^N π_i * b_i(O₁) * β₁(i)

2.1.4 前向-后向概率的关系

$$P(O|\lambda )=\sum _{i=1}^N{\alpha }_t(i){\beta }_t(i)(\forall t\in [1,T])$$

2.2 解码问题：维特比算法（Viterbi Algorithm）

2.2.1 问题本质

给定观测序列，求概率最大的隐藏状态序列，本质是动态规划求最优路径问题。

2.2.2 核心定义

• ${\delta }_t(i)$：$t$ 时刻处于状态 $s_i$，且生成前 $t$ 个观测的最大概率
• ${\psi }_t(i)$：$t$ 时刻处于状态 $s_i$ 时，前一时刻（$t-1$）的最优前驱状态

2.2.3 算法步骤（伪代码）

输入：模型λ=(π,A,B)，观测序列O=(O₁,O₂,...,O_T)
输出：最优隐藏状态序列I*=(i₁*,i₂*,...,i_T*)

1.  初始化（t=1时刻）
    δ₁(i) = π_i * b_i(O₁)  ，i=1,2,...,N
    ψ₁(i) = 0  （无前置状态）

2.  递推（t=2到T时刻）
    δ_t(j) = max_{1≤i≤N} [δ_{t-1}(i) * a_{ij}] * b_j(O_t)  ，j=1,2,...,N
    ψ_t(j) = argmax_{1≤i≤N} [δ_{t-1}(i) * a_{ij}]  ，j=1,2,...,N
    解释：δ_t(j) 记录到j的最大概率；ψ_t(j) 记录到j的最优前驱

3.  终止（找T时刻最优状态）
    P* = max_{1≤i≤N} δ_T(i)
    i_T* = argmax_{1≤i≤N} δ_T(i)

4.  回溯（从T到1时刻，找最优序列）
    i_t* = ψ_{t+1}(i_{t+1}*)  ，t=T-1,T-2,...,1

5.  输出最优序列
    I* = (i₁*,i₂*,...,i_T*)

2.3 学习问题：Baum-Welch算法

2.3.1 问题本质

隐藏状态不可观测，属于无监督学习问题，采用EM算法求解，Baum-Welch是EM在HMM上的特例。

2.3.2 算法框架（EM两步法）

EM算法分为E步（计算期望）和M步（最大化期望似然），迭代至收敛。

2.3.3 算法流程

1. 随机初始化模型参数 ${\lambda }_0=({\pi }_0,A_0,B_0)$；
2. 用前向-后向算法计算 ${\alpha }_t(i),{\beta }_t(i)$，进而计算 ${\xi }_t(i,j),{\gamma }_t(i)$（E步）；
3. 用M步公式更新参数，得到 ${\lambda }_1=({\pi }_1,A_1,B_1)$；
4. 重复步骤2-3，直到 $P(O|\lambda )$ 收敛，得到最优模型 ${\lambda }^{\ast }$。

三、 具体案例：天气-活动HMM模型

为了直观理解，我们用**天气（隐藏状态）→ 活动（观测状态）**的简单案例，演示前向算法和维特比算法的计算过程。

3.1 案例参数设定

3.2 前向算法计算 $P(O|\lambda )$

步骤1：初始化（t=1，$O_1=o_1$）

$$\begin{array}{rl}{\alpha }_1(1)& ={\pi }_1{b}_1(o_1)=0.6\times 0.8=0.48\\ {\alpha }_1(2)& ={\pi }_2{b}_2(o_1)=0.3\times 0.2=0.06\\ {\alpha }_1(3)& ={\pi }_3{b}_3(o_1)=0.1\times 0.1=0.01\end{array}$$

步骤2：递推（t=2，$O_2=o_2$）

$$\begin{array}{rl}{\alpha }_2(1)& =({\alpha }_1(1)a_{11}+{\alpha }_1(2)a_{21}+{\alpha }_1(3)a_{31})b_1(o_2)\\ & =(0.48\times 0.7+0.06\times 0.3+0.01\times 0.1)\times 0.1=(0.336+0.018+0.001)\times 0.1=0.0355\\ {\alpha }_2(2)& =({\alpha }_1(1)a_{12}+{\alpha }_1(2)a_{22}+{\alpha }_1(3)a_{32})b_2(o_2)\\ & =(0.48\times 0.2+0.06\times 0.5+0.01\times 0.3)\times 0.6=(0.096+0.03+0.003)\times 0.6=0.0774\\ {\alpha }_2(3)& =({\alpha }_1(1)a_{13}+{\alpha }_1(2)a_{23}+{\alpha }_1(3)a_{33})b_3(o_2)\\ & =(0.48\times 0.1+0.06\times 0.2+0.01\times 0.6)\times 0.1=(0.048+0.012+0.006)\times 0.1=0.0066\end{array}$$

步骤3：递推（t=3，$O_3=o_3$）

类似计算可得 ${\alpha }_3(1)=0.002485$，${\alpha }_3(2)=0.009288$，${\alpha }_3(3)=0.0034398$

步骤4：终止

$$P(O|\lambda )={\alpha }_3(1)+{\alpha }_3(2)+{\alpha }_3(3)=0.002485+0.009288+0.0034398=0.0152128$$

3.3 维特比算法求最优隐藏序列

按照维特比算法步骤计算，最终得到最优隐藏状态序列为：
$$I^{\ast }=(s_1,s_2,s_3)\text{→ 晴→阴→雨}$$

四、 HMM的应用场景

1. 语音识别：将语音信号（观测序列）转换为文字（隐藏状态序列）；
2. 自然语言处理：词性标注（句子是观测序列，词性是隐藏状态）；
3. 生物信息学：基因序列分析（DNA序列是观测，基因结构是隐藏状态）；
4. 故障诊断：设备监测数据（观测）推断故障类型（隐藏状态）。

五、 总结

HMM的核心是5要素+3假设+3问题+4算法，其本质是通过动态规划和EM算法，解决时序数据的拟合、推断、训练问题。掌握三大核心问题的算法原理，是理解HMM的关键。