ASR

语音识别的三个阶段

• 模版匹配
• 概率模型
• 神经网络

概率模型

• Y:输入音频信号
• W:输出单词序列 我们的任务$W = \arg\max_W\ P(W|Y) = \arg\max_W P(Y|W) \cdot P(W)$

前者是声学模型AM，后者是语言模型LM

语音模型

声学模型

HMM

定义`HMM:$\lambda = (S,A,B,\pi)$

• S:状态集合
• A:状态转移概率分布，$A_{a_i}(a_j)$表示从状态${a_i}$转移到${a_j}$的概率
• B:发射概率，观察结果概率分布，$A_{a_i}(o_j)$表示在状态${a_i}$下观察到结果${o_j}$的概率
• $\pi$:状态初始化概率分布

A和B可以用矩阵描述，也可以用其他概率分布来描述，比如高斯分布

HMM的三个基本问题

定义观察序列$O = \{o_1,o_2,...,o_t\}$,状态序列$Q = \{q_1,q_2,...,q_t\}$,隐马尔可夫模型`HMM``:$\lambda = (S,A,B,\pi)$

估计问题

给定隐马尔可夫模型HMM,计算观察序列$O$的出现概率$P(O|\lambda)$

解码问题

给定隐马尔可夫模型HMM,观察序列$O$，求解最大概率的状态序列$Q = max_Q\ P(Q|O,\lambda)$

训练问题

观察序列$O$，求解最优模型$\lambda = \arg\max_{\lambda} P(O|\lambda)$

GMM

HMM-GMM

HMM-GMM声学模型

实际上HMM-GMM就是用GMM来描述HMM的B，通常而言A是不需要训练的，给出默认值即可

训练问题

对齐问题

建模问题

初始化问题