国内刊号:11-1964/S
国际刊号:1000-1298
发布日期:
作者:杨璐,张恬,郑丽敏,田立军
单位:中国农业大学,中国农业大学,中国农业大学,中国农业大学,
关键词:兽药致病;命名实体识别;注意力机制;BERT;深度学习
基金:北京市现代农业产业技术体系创新团队项目(BAIC02-2020)和国家重点研发计划项目(2017YFC1601803)
针对兽药致病知识图谱构建过程中,关于兽药命名实体识别使用传统方法依赖人工设计特征耗时耗力以及兽药致病语料数据量较少的问题,提出一种引入注意力机制(Attention)与辅助层分类(Auxiliary layer)相结合兽药文本命名实体识别模型(Att-Aux-BERT-BiLSTM-CRF)。通过BERT预处理模型进行文本向量化,然后连接双向长短期记忆网络(Bi-directional long-short term memory,BiLSTM);引入注意力机制,将模型的BERT层输出用作辅助分类层, BiLSTM层输出作为主分类层(Mainlayer),通过注意力机制组合以提高整体性能;最后输入条件随机场(Conditional random field,CRF),构建端到端的适合于兽药领域实体识别的深度学习模型框架。实验选取兽药文本共10643个句子、485711个字符,针对动物、药物、不良反应、摄入方式4类实体进行识别。实验结果表明,本文模型能有效地辨别兽药致病文本中的实体,识别的F1值为96.7%。
来源:2022年第3期
《农业机械学报》期刊编辑部