收藏本站
收藏 | 投稿 | 手机打开
二维码
手机客户端打开本文

基于共享BERT和门控多任务学习的事件检测方法

王捷  洪宇  陈佳丽  姚建民  
【摘要】:事件检测任务的目标是从文本中自动获取结构化的事件信息。目前基于表示学习的神经事件检测方法能够有效利用潜在语义信息,但人工标注数据集的语义知识含量有限,制约了神经网络模型的认知广度。相对地,多任务表示学习框架,有助于模型同时学习不同任务场景中的语义知识,从而提升其认知广度。BERT预训练模型得益于大规模语言资源的充沛语义信息,具有高适应性(适应不同任务)的语义编码能力。因此,该文提出了一种基于BERT的多任务事件检测模型。该方法将BERT已经包含的语义知识作为基础,进一步提升多任务模型的表示、学习和语义感知能力。实验表明,该方法有效提高了事件检测的综合性能,其在ACE2005语料集上事件分类的F_1值达到了76.7%。此外,该文在实验部分对多任务模型的训练过程进行了详解,从可解释性的层面分析了多任务架构对事件检测过程的影响。

知网文化
【相似文献】
中国期刊全文数据库 前13条
1 邱立伟;关伟丽;张伟进;;BERT语言模型的探究[J];电脑编程技巧与维护;2021年01期
2 陈琛;吴芬琳;;基于BERT的电子病历命名实体识别[J];自动化与仪器仪表;2021年03期
3 崇伟峰;李慧;李雪;任禾;于东;王晔晗;;基于BERT蕴含推理的术语标准化系统[J];中文信息学报;2021年05期
4 岳一峰;黄蔚;任祥辉;;一种基于BERT的自动文本摘要模型构建方法[J];计算机与现代化;2020年01期
5 梁文桐;朱艳辉;詹飞;冀相冰;;基于BERT的医疗电子病历命名实体识别[J];湖南工业大学学报;2020年04期
6 严佩敏;唐婉琪;;基于改进BERT的中文文本分类[J];工业控制计算机;2020年07期
7 李正民;云红艳;王翊臻;;基于BERT的多特征融合的医疗命名实体识别[J];青岛大学学报(自然科学版);2021年04期
8 任莹;;基于预训练BERT模型的客服工单自动分类研究[J];云南电力技术;2020年01期
9 潘芳;张会兵;董俊超;;基于激活-池化增强BERT模型的在线课程评论情感分析[J];计算机应用与软件;2021年05期
10 张贤坤;李子璇;孙月;;基于知识图谱和BERT的食品案例检索方法[J];计算机应用与软件;2021年07期
11 朱亚明;易黎;;基于BERT与融合字词特征的中文命名实体识别方法[J];电子设计工程;2021年19期
12 周奇安;李舟军;;基于BERT的任务导向对话系统自然语言理解的改进模型与调优方法[J];中文信息学报;2020年05期
13 王子牛;姜猛;高建瓴;陈娅先;;基于BERT的中文命名实体识别方法[J];计算机科学;2019年S2期
中国博士学位论文全文数据库 前1条
1 张坤丽;基于知识融合的产科电子病历多标记分类研究[D];郑州大学;2019年
中国硕士学位论文全文数据库 前20条
1 王楠禔;基于BERT改进的文本表示模型研究[D];西南大学;2019年
2 杨彬;基于BERT词向量和Attention-CNN的智能司法研究[D];大连理工大学;2019年
3 元成;基于BERT的保险领域问答系统的研究与实现[D];北方民族大学;2020年
4 徐泽蕙;基于BERT的金融领域命名实体识别方法研究[D];江西财经大学;2021年
5 韦舒勇;增强BERT知识蒸馏与情感分类研究[D];黑龙江大学;2021年
6 张睿东;基于BERT和知识蒸馏的自然语言理解研究[D];南京大学;2020年
7 廖佳路;基于BERT的电网故障事件抽取与应急预案推荐方法研究[D];武汉科技大学;2020年
8 张秋平;基于BERT的用户画像算法研究[D];广东工业大学;2020年
9 刘创;BERT在文本分析中的应用研究[D];郑州大学;2020年
10 邸月;基于BERT的中文专利分类方法研究[D];河北工业大学;2019年
11 徐超;基于BERT预训练模型的中文主观题自动评分算法[D];杭州电子科技大学;2020年
12 刘超;基于BERT的中文命名实体识别方法研究[D];北京工业大学;2020年
13 陈晨;基于BERT模型和条件随机场的中文分词研究分析[D];兰州大学;2020年
14 谢锦松;基于Bert的文本相关度研究[D];华南理工大学;2020年
15 邱立伟;基于BERT模型的垃圾分选专利分析与研究[D];北华航天工业学院;2021年
16 李瑞彤;基于BERT和注意力机制的图像中文描述方法研究[D];哈尔滨理工大学;2021年
17 章奇;基于BERT的意图识别与语义槽抽取算法研究[D];杭州电子科技大学;2020年
18 杨玉亭;基于BERT的方面级短文本情感分类方法研究[D];四川师范大学;2021年
19 王昆;基于混合神经网络和BERT的文本方面级情感分析研究[D];华中师范大学;2020年
20 王金浩;基于BERT嵌入的文本情感分类方法研究[D];山东科技大学;2020年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978