论文:https://arxiv.org/pdf/2002.04709.pdf
代码:https://github.com/cubeyoung/TA-VAAL
本人最近在调研深度主动学习,视觉方向,欢迎交流。初次写blog,轻喷。
深度主动学习的最近探索的是任务不可知的方法选择远离当前已标注样本集的数据点以及基于任务模型。不幸的是,前者没有利用任务相关的知识,而后者似乎没有得到很好的利用总体数据分布。在这里,我们提出了任务感知的Task-Aware Variational Adversarial Active Learning(TA-VAAL),是任务不可知性的初代VAAL的改进,考虑了标签和未标记池,把学习任务损失松弛化,转化为用Rank Conditional GAN预测对任务损失的排序。本文提出的TA-VAAL的表现优于各种基准数据集,在标签平衡或不平衡的图像分类任务以及语义分割优于多种sota的AL算法。总结来讲,本文主要的工作在于将主动学习先前工作中任务可知流派的《Learning Loss for Active Learning》和任务不可知流派《Variational Adversarial Active Learning》有效结合,指明了将数据特征和任务学习特征结合或许是主动学习的可行方向。
主要将近年来深度主动学习的方法分成了task-aware(任务可知)和task-agnostic(任务不可知)两种,并引出了本文的动机,即是采用一种综合两种方式的主动学习算法,可以同时利用上标注未标注数据的分布差异和学习任务的目标引导。
将LL4AL的Task loss预测模块改成用Rank Conditional GAN实现的排序器,排序器的输出作为VAAL里面对抗损失的额外的输入,也作为vae的decoder的额外输入。
链接: [论文阅读] Learning Loss for Active Learning.