20140616——Hidden Conditional Random Fields for Phone Classification

ABSTRACT

In this paper, we show that novel application of hidden conditional random fields (HCFRs)-Conditional random fields with hidden state sequences-for modeling speech.Hidden state sequences are critical for modeling the non-stationarity
of speech signals. We show that HCRFs can easily be trained using the simple direct optimization technique of stochastic gradient descent.We present the results on the TIMIT phone classfication task and show that HCRFs outperforms comparable ML and CML/MMI
trained HMMs. In fact, HCRF results on this task are the best single classifier results known to us. We note that the HCRF framework is easily extensible to recognition since it is a state and label sequence modeling technique. We also note that HCRFs have
the ability to handle complex features without any changes in training procedure.

互信息：一般而言，信道中总是存在着噪声和干扰，信源发出消息x，通过信道后信宿只可能收到由于干扰作用引起的某种变形的y。信宿收到y后推测信源发出x的概率，这一过程可由后验概率p(x/y)来描述。相应地，信源发出x的概率p(x)称为先验概率。我们定义x的后验概率与先验概率比值的对数为y对x的互信息量，也称交互信息量（简称互信息）。

定义：

两个事件X和Y的互信息定义为：I(X,Y) = H(X) + H(Y) - H(X,Y)

　　其中 H(X,Y) 是联合熵(Joint Entropy)，其定义为：

　　H(X,Y) = - ∑ p(x,y)logp(x,y)

　　其中p(x,y)是概率。

尽管HMM模

型在时序建模应用广泛，但是由于它建立在条件独立

性假设和马尔可夫假设上，导致其不能表示时间序列

中的大范围上下文依赖关系以及序列间的特征多重

重叠，导致该模型不能很好地模拟人体动作序列在时

序上的大范围时空关联特性，限制了基于该模型的人

体动作识别的准确性．为此，部分研究者开始研究基

于判别模型的方法．Lafferty等[10]提出条件随机场模

型，相对于隐马尔科夫模型，它克服了条件独立性假

设和马尔可夫假设，并且利用大范围上下文信息进行

参数学习和预测，因此该模型具有更强的时序建模能

力，已被广泛应用于自然语言处理[11]、计算机视

觉[12]等．Wang等[13]采用条件随机场模型对动作序列

潜在的时空相关信息进行建模，从而实现对动作变换

过程的整体表征．条件随机场模型可以实现综合利

用时空上下文信息进行时序建模和推断，但是该模型

的学习需要人为显性标注图像序列各帧状态，从而导

致模型的学习依赖于人为的状态标注，使得模型性能

受到局限．

笔者提出了基于隐条件随机场的人体行为识别

方法．Quattoni等[14]把隐状态变量引入到条件随机场

模型中，提出隐条件随机场(hidden conditional random field，HCRF)．由于隐条件随机场不需要对各时

刻状态进行显性标注，因此相对于条件随机场对时序

信息的利用和建模具有更高的灵活性．该方法包括3

个步骤：首先，通过目标检测和跟踪提取图像序列中

人体所在时空区域；其次，提取人体区域的Gist特征

作为人体行为视觉描述子；最后，利用隐条件随机场

模型对人体行为进行建模．

还是没太搞懂HCRF与CRF的区别，或者根本连CRF都没懂；

1、为什么要跟HMM比，不跟CRF比？

2、之前的类标号不就是隐状态么？

3、隐状态序列到底指神马？