【访学归来】韩龙飞：有限混合模型方法研究

姓名：韩龙飞

专业：信息与通信工程

导师：罗森林

年级：2012级博士

学院：信息与电子学院

访学时间：2015年9月至2017年6月

研究课题：有限混合模型方法研究

联培单位：美国 卡内基梅隆大学

联培科研情况

* 研究课题：

随着数据量与计算能力的提升，以及机器学习与深度学习的突破，使得人工智能成为目前计算机领域新的爆发点。尤其近几年来，计算机视觉与智慧医疗等相关人工智能研究领域的表现远远超出了人们的预期。为了能够学习和掌握机器学习的前沿知识和研究进展，在导师罗森林教授的支持下，我于2015年9月来到全美计算机专业TOP5的卡内基梅隆大学访学。我的研究方向是机器学习理论研究以及其在计算机视觉以及医疗数据的应用，具体内容为有限混合模型方法研究及应用。在国外导师Fernando De la Torre教授与国内导师罗森林教授的联合指导下，本人针对有限混合模型的稳健性及优化问题进行了详尽的分析研究。我们提出一种软间隔混合回归模型（soft-margin mixture of regressions，SMMR）用于克服数据的非均匀采样和不连续性。该方法利用最大间隔分类器迭代学习输入-输出空间的划分模式，将分类误差限制在最大函数间隔内，使得Hinge loss零区域对应样本的输出仅由其对应成分的专家模型决定，克服现有混合模型受数据分布形式或各成分样本数量不平衡的影响。实验证明，该方法在年龄估计、视点估计和人群数量估计上达到state-of-the-art的水平。同时，我们提出一种自步混合回归（self-pacedmixture of regression，SPMoR）方法用于提高混合专家模型的稳健性。该方法首次将自步学习理论应用于混合专家模型研究中，用于解决基于高斯分布的混合线性模型的健壮性问题。SPMoR在每次学习过程中采用Exclusive LASSO实现在不同成分中分别选择置信度高或者代价误差小的样本作为训练样本，遮蔽置信度低的样本的影响，具有更高的灵活性，可扩展到层次混合模型中。

总体而言，在近两年的联合培养中，我通过各位导师的指导取得多项研究成果，并将工作发表于CCF顶会CVPR和IJCAI，以及SCI期刊论文一篇。

联培科研成果

 * 联培期间科研成果

1.    D. Huang*, L.Han*, F. Torre. Soft-margin mixture of regression. CVPR, 2017.

2.    L. Han, D.Zhang, S. Luo et al. self-paced mixture of regression. IJCAI, 2017.

3.    L. Han, S. Luo,et al. An Intelligible Risk Stratification Model for Diabetes based onSemi-supervised Clustering. IEEE JBHI, 2016.

*其他科研成果

1.    L. Han, S. Luo,et al. Rule Extraction from Support Vector Machines Using Ensemble LearningApproach: An Application for Diagnosis of Diabetes. IEEE JBHI, 2015, 19(2):728-734.

2.    S. Luo, L. Han,et al. A Risk Assessment Model for Type 2 Diabetes in Chinese. PLOS ONE, 2014,9(8): e104046. 

出国感受

在匹兹堡和CMU的生活简单而快乐，没有丰富的生活，多的确是单纯与质朴。两年的学习时光可以让自己静下心做一些事情，努力实现读博士前对自己设定的目标。在CMU学习期间，通过和导师以及同学学在术的交流、思想碰撞，让自己受益匪浅，每周参加固定的机器学习研讨会也能让自己时刻关注该领域的前沿研究，拓宽自己的眼界。同样，两年的国外生活也让自己成长了不少，学会了承担，学会了付出，学会了平衡生活和学习。

其实在CMU学习是件颇有压力的事情，自己在最开始的时候挫败感很强，发现CMU同学的水平比自己高很多，每天都有种在追赶别人的感觉，不放过自己。但回过头来看，接受现实，好好努力就是了，当自己付出了也就释怀了。每个人的轨迹都是不一样的，你要热爱自己的选择，自己的生活，学会宠辱不惊，努力做最好的自己。

与小组成员展示实验室自行研发的IntraFace