Semi-supervised Learning for Network-Based Cardiac MR Image Segmentation文章解读

    本文针对全卷积神经网络有大量的参数，同时伴随着需要大量的训练数据集，然而由于医学图像的特殊性，如此大量的有标签数据不好提供，因此本文的贡献点之一是缓解了数据集少的问题。在公式2的目标函数中，通过引入右边第二项来定义这个半监督的优化问题；对于网络优化，这是本文的精髓所在：a.固定网络参数，采用此时的网络去评估未知数据的标签b.第二步，未知数据的标签采用第一步评估的结果固定，然后采用已标注的标签数据和这个未知数据的预测标签去训练网络    对于网络的训练，首先用已知标签数据对网络经过一定数量的迭代的网络参数作为网络的初始参数；步骤a的执行，本文增加了一个技巧就是通过引入一个条件随机场CRF来对softmax预测的概率图进行精细的分割，然后将其当做未知数据的标签；这样步骤1和2交替执行，网络参数在不断的优化，所以对未知数据的预测结果也会变得越来越好；经过一段时间的训练，网络能够达到一个较优的效果。
    本文采用的网络基本架构是VGG-16，和DeepLab结构比较相似；主要的不同点就是DeepLab的输出是比原始图像8倍的下采样；同时网络中将不同层的多尺度特征map通过不同尺度的上采样来还原到原始图像的尺寸，然后将这些和原始图像同样尺寸特征map通过concatenation的关联层进行组合为单层输出，最后使用1*1的卷积核对该输出的map进行卷积来得到softmax的概率图谱；
摘要：
由于对于医学图像的标注费时费力，因此本文提出一种半监督的学习方法；



并且这个方法比最好的多图谱的方法分割效果和速度上都有改进；
1引言
我们知道全卷积神经网络有大量的参数，同时伴随着需要大量的训练数据集，然而由于医学图像的特殊性，如此大量的有标签数据不好提供，因此本文的贡献点之一是缓解了数据集少的问题。
1.1相关工作



现有研究针对这个问题的主要的训练方式（采用全监督的方式，用已有的训练数据训练网络，提取精细和粗略的特征，然后组合这些多尺度特征去逐像素或者体素分割）；而我们同时使用有标签和无标签的数据都参与网络的训练；
2方法
2.1半监督学习



首先定义了符号，然后针对有标签的图像，我们可以采用经典的交叉熵构造代价函数，采用SGD的方式来训练网络；



接下来就是本文的重点了，如何将无标签的数据引进来参与网络的训练



在公式2的目标函数中，通过引入右边第二项来定义这个半监督的优化问题；对于网络优化，这是本文的精髓所在：
a.固定网络参数，采用此时的网络去评估未知数据的标签
b.第二步，未知数据的标签采用第一步评估的结果固定，然后采用已标注的标签数据和这个未知数据的预测标签去训练网络
     对于网络的训练，首先用已知标签数据对网络经过一定数量的迭代的网络参数作为网络的初始参数；步骤a的执行，本文增加了一个技巧就是通过引入一个条件随机场CRF来对softmax预测的概率图进行精细的分割，然后将其当做未知数据的标签；这样步骤1和2交替执行，网络参数在不断的优化，所以对未知数据的预测结果也会变得越来越好；经过一段时间的训练，网络能够达到一个较优的效果。
2.2条件随机场



这里条件随机场优化公式3定义的能量函数；其中式3的第一项作用为使得输出尽可能和softmax的概率图一致；第二项用来惩罚那些位置和强度值相近但是预测标签不同的那些分割点；
2.3网络架构





       本文采用的网络基本架构是VGG-16，和DeepLab结构比较相似；主要的不同点就是DeepLab的输出是比原始图像8倍的下采样；同时网络中将不同层的多尺度特征map通过不同尺度的上采样来还原到原始图像的尺寸，然后将这些和原始图像同样尺寸特征map通过concatenation的关联层进行组合为单层输出，最后使用1*1的卷积核对该输出的map进行卷积来得到softmax的概率图谱；（这里其实比较惊讶1*1的卷积核尽然能够实现softmax map）
3实验和结果
3.1数据和预处理



设置了两种训练数据集设置：
a.20标注数据，60个未标注数据
b.80标注数据，240未标注数据
3.2参数设置



实现是基于Theano，好像并没有去开源代码
4结果对比和展望



作者对比了最先进的对图谱方法



展望和作者以后想改进方向。