收藏本站
收藏 | 投稿 | 手机打开
二维码
手机客户端打开本文

基于BERT的医疗电子病历命名实体识别

梁文桐  朱艳辉  詹飞  冀相冰  
【摘要】:针对中文医疗电子病历命名实体识别中,传统的字或词向量无法很好地表示上下文语义以及传统RNN并行计算能力不足等问题,提出了一个基于BERT的医疗电子病历命名实体识别模型。该模型中的BERT预训练语言模型可以更好地表示电子病历句子中的上下文语义,迭代膨胀卷积神经网络(IDCNN)对局部实体的卷积编码有更好的识别效果,多头注意力(MHA)多次计算每个字和所有字的注意力概率以获取电子病历句子的长距离依赖。实验结果表明,BERT-IDCNN-MHA-CRF模型能够较好地识别电子病历中的医疗实体,模型的精确率、召回率和F_1值相比于基线模型分别提高了1.80%,0.41%,1.11%。

知网文化
【相似文献】
中国期刊全文数据库 前2条
1 於张闲;胡孔法;;基于BERT-Att-biLSTM模型的医学信息分类研究[J];计算机时代;2020年03期
2 丁龙;文雯;林强;;基于预训练BERT字嵌入模型的领域实体识别[J];情报工程;2019年06期
中国硕士学位论文全文数据库 前1条
1 丁晶;基于BERT嵌入和残差连接的中文电子病历命名实体识别研究[D];浙江工商大学;2019年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978