对抗式域适配迁移学习研究

对抗式域自适配以对抗学习的方式最小化源领域中的任务损失和最大化域混肴损失，学习到领域间的共享特征空间，从而进行特征适配(分布式配)，辅助目标领域学习任务，是当前域自适应研究，被广泛应用到在行人重识别、图像分类和情感分析等领域。本文梳理了当前对抗式域适配研究工作，按照源领域和目标领域标签类别空间异同将其分为同构对抗式域自适配和异构对抗式域自适配两种子类型。依次详细介绍边缘分布同构对抗式域自适配、条件分布对抗域自适配、联合分布对抗域自适配和动态分布对抗域自适配、开放集对抗式域自适配、局部对抗式域自适配和通用对抗式域适配六类子域自适配的研究问题、研究思路及主要研究工作。

深度学习被广泛运用到图像视觉、自然语言处理和语音识别等各个领域，研究成果丰富。训练出一个泛化能力足够强的深度学习模型需要大量带标注的数据。在实际应用中，标注数据却是十分稀缺且获取难度较大的。特别是在大数据时代，海量数据不仅结构各异，分布也不同，难以确保收集的训练数据和测试数据满足机器学习模型训练中独立同分布的假设。因此，深度学习的发展面临着标注数据和训练数据稀缺的问题。

迁移学习有助于解决深度学习中标注数据稀缺的问题。它不但放松了数据独立同分布这一限制假设的要求，而且能够借助辅助领域知识来研究新领域，节约模型建立成本。同时，深度学习特有的分层结构带来的多层次特征学习，能够显示出不同领域数据的共享特征，即不能用来区分领域的特征，为迁移学习的实现提供了多种实现结构。一方面深度学习提供多视角，研究人员可以根据不同层的输入进行适当的处理，找到不同领域间的共享特征；另一方面深度学习的对抗结构能够自动找到不同领域间的共享特征，用特征提取器来提取领域特征，让判别器根据特征区分不同的领域，双方在博弈的过程中达到平衡时，领域间重叠部分即共享特征即可被筛选出。简而言之，深度学习天然适合迁移学习，其对抗网络结构可能成为迁移学习的范式。因此，基于对抗网络的深度迁移算法是迁移学习的研究热点之一。

对抗式域适配是深度对抗迁移学习算法的子领域，本文对当前对抗式域适配研究的梳理，主要贡献如下： 1) 本文对对抗式域适配进行定义，按照源领域与目标领域的标签类别空间异同分为同构域自适配和异构对抗域自适配两类； 2) 详细介绍了同构对抗式域适配和异构对抗式域适配研究的主要思路及重要研究。

2. 对抗域自适配 首先给出文中所用的相关符号，具体说明如表1 所示。