收藏本站
收藏 | 投稿 | 手机打开
二维码
手机客户端打开本文

多任务学习

张钰  刘建伟  左信  
【摘要】:随着图像处理,语音识别等人工智能技术的发展,很多学习方法尤其是采用深度学习框架的方法取得了优异的性能,在精度和速度方面有了很大的提升,但随之带来的问题也很明显,这些学习方法如果要获得稳定的学习效果,往往需要使用数量庞大的标注数据进行充分训练,否则就会出现欠拟合的情况而导致学习性能的下降.因此,随着任务复杂程度和数据规模的增加,对人工标注数据的数量和质量也提出了更高的要求,造成了标注成本和难度的增大.同时,单一任务的独立学习往往忽略了来自其它任务的经验信息,致使训练冗余重复和学习资源的浪费,也限制了其性能的提升.为了缓解这些问题,属于迁移学习范畴的多任务学习方法逐渐引起了研究者的重视.与单任务学习只使用单个任务的样本信息不同,多任务学习假设不同任务数据分布之间存在一定的相似性,在此基础上通过共同训练和优化建立任务之间的联系.这种训练模式充分促进任务之间的信息交换并达到了相互学习的目的,尤其是在各自任务样本容量有限的条件下,各个任务可以从其它任务获得一定的启发,借助于学习过程中的信息迁移能间接利用其它任务的数据,从而缓解了对大量标注数据的依赖,也达到了提升各自任务学习性能的目的.在此背景之下,本文首先介绍了相关任务的概念,并按照功能的不同对相关任务的类型进行划分,之后对它们的特点进行了逐一描述.然后,本文按照数据的处理模式和任务关系的建模过程不同将当前的主流算法划分为两大类:结构化多任务学习算法和深度多任务学习算法.其中,结构化多任务学习算法采用线性模型,可以直接针对数据进行结构假设并且使用原有标注特征表述任务关系,同时,又可根据学习对象的不同将其细分为基于任务层面和基于特征层面两种不同结构,每种结构有判别式方法和生成式方法两种实现手段.与结构化多任务学习算法的建模过程不同,深度多任务学习算法利用经过多层特征抽象后的深层次信息进行任务关系描述,通过处理特定网络层中的参数达到信息共享的目的.紧接着,以两大类算法作为主线,本文详细分析了不同建模方法中对任务关系的结构假设、实现途径、各自的优缺点以及方法之间的联系.最后,本文总结了任务之间相似性及其紧密程度的判别依据,并且分析了多任务作用机制的有效性和内在成因,从归纳偏置和动态求解等角度阐述了多任务信息迁移的特点.

知网文化
【相似文献】
中国期刊全文数据库 前14条
1 余传明;李浩男;安璐;;基于多任务深度学习的文本情感原因分析[J];广西师范大学学报(自然科学版);2019年01期
2 董旭;李鹏飞;仲兆满;李存华;;基于两阶段决策过程的多任务学习推荐系统[J];计算机工程与设计;2019年12期
3 刘成;彭进业;;基于多任务学习的自然图像分类研究[J];计算机应用研究;2012年07期
4 贺瑞芳;段绍杨;;基于多任务学习的中文事件抽取联合模型[J];软件学报;2019年04期
5 樊迪;Hyunwoo Kim;陈晓鹏;刘云辉;黄强;;机器仿生眼的多任务学习人脸分析[J];模式识别与人工智能;2019年01期
6 骆晓云;;基于“任务学习单”的大学英语翻转课堂实效性的探索与思考——以昆明学院为例[J];海外英语;2019年21期
7 骆晓云;;“任务学习单”在大学英语翻转课堂中的调查报告分析——以昆明学院为例[J];林区教学;2019年07期
8 管子玉;谢飞;任文研;沈雪敏;许鹏飞;王和旭;;基于多任务学习的口腔白斑与扁平苔藓的分割与识别[J];西北大学学报(自然科学版);2020年01期
9 葛海柱;孔芳;;基于多任务学习的汉语基本篇章单元和主述位联合识别[J];中文信息学报;2020年01期
10 洪翠;易勇斌;;中职技能实训课教学中“微视频”运用策略的设计与实践——以《中餐服务》为例[J];高考;2018年28期
11 卫万成;黄文明;王晶;邓珍荣;;基于多任务学习的古诗和对联自动生成[J];中文信息学报;2019年11期
12 邵蔚元;郭跃飞;;多任务学习及卷积神经网络在人脸识别中的应用[J];计算机工程与应用;2016年13期
13 李青青;杨志豪;罗凌;林鸿飞;王健;;基于多任务学习的生物医学实体关系抽取[J];中文信息学报;2019年08期
14 宋正丹;崔荣一;怀丽波;金小峰;;基于混合范式多任务学习的图像稀疏表示[J];吉林大学学报(信息科学版);2018年05期
中国博士学位论文全文数据库 前2条
1 张晓彤;多任务聚类研究[D];大连理工大学;2018年
2 浦剑;多任务学习算法研究[D];复旦大学;2013年
中国硕士学位论文全文数据库 前10条
1 王杰;基于多任务学习的情感分析技术研究[D];华南理工大学;2019年
2 邹致超;基于多任务学习的肿瘤医学影像语义分割与分类研究[D];哈尔滨工业大学;2019年
3 李晓光;基于多任务学习的人脸及关键点检测算法研究[D];华中科技大学;2019年
4 庞磊;基于多任务学习的面部信息分析系统研究与实现[D];北京邮电大学;2019年
5 杨荣钦;基于多任务学习的密集注意力网络在机器阅读上的应用[D];浙江大学;2019年
6 石成;基于社会感知的个性化推荐方法研究[D];山东大学;2019年
7 马建阳;基于多任务学习的数据分类方法研究[D];北京交通大学;2018年
8 刘凌波;基于多任务学习的年龄估计研究[D];中南大学;2012年
9 许轲;基于多任务学习的人脸属性联合估计方法研究[D];电子科技大学;2020年
10 周茜;基于多任务学习的人脸识别方法[D];西北大学;2013年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978