一种改进的医疗文本分类模型:LS-GRU

doi:10.12068/j.issn.1005-3026.2020.07.005

东北大学学报:自然科学版 ›› 2020, Vol. 41 ›› Issue (7): 938-943.DOI: 10.12068/j.issn.1005-3026.2020.07.005

一种改进的医疗文本分类模型:LS-GRU

李强¹，李瑶坤²，夏书月³，康雁^1,4

1.东北大学医学与生物信息工程学院，辽宁沈阳110169； 2.中国石油天然气管道工程有限公司，河北廊坊065000；3.沈阳医学院附属中心医院，辽宁沈阳110024； 4.深圳技术大学健康与环境工程学院，广东深圳518118)

收稿日期:2019-08-10 修回日期:2019-08-10 出版日期:2020-07-15 发布日期:2020-07-15
通讯作者: 李强
作者简介:李强(1989-)，男，山东曲阜人，东北大学博士研究生；康雁(1964-)，男，辽宁沈阳人，东北大学教授，博士生导师.
基金资助:
国家科技部重点技术研发项目(2017YFC0114200)；国家重点研发计划项目(2018YFC1311900).

An Improved Medical Text Classification Model: LS-GRU

LI Qiang¹， LI Yao-kun²， XIA Shu-yue³， KANG Yan^1,4

1. College of Medicine and Biological Information Engineering， Northeastern University， Shenyang 110169， China; 2. China Petroleum Pipeline Corporation， Langfang 065000， China; 3. The Central Hospital Affiliated to Shenyang Medical， Shenyang 110024， China; 4. College of Health Science and Environmental Engineering， Shenzhen Technology University， Shenzhen 518118， China.

Received:2019-08-10 Revised:2019-08-10 Online:2020-07-15 Published:2020-07-15
Contact: KANG Yan
About author:-
Supported by:
-

摘要/Abstract

摘要： 为了帮助低年资医生阅读胸部CT影像，并更加精确高效地为临床医生反馈影像报告结果，提出一种改进GRU深度学习框架LS-GRU，用来解决影像报告文本分类问题，即可以根据影像科医生描述，自动反馈给临床医生诊断建议.数据来源于呼吸科影像报告1168例，选择了两种描述相近的疾病(肺气肿和肺炎)进行分类，其中肺气肿患者报告大约652例，肺炎约516例.分别验证GRU、BiGRU及LSTM等模型，实验结果表明，LS-GRU模型分类更精确，且具有较高的鲁棒性.

关键词: 深度学习, 医疗文本分类, GRU, 慢阻肺, LSTM

Abstract: In order to help radiologists report the CT image results more accurately and effectively to the clinicians， an improved GRU deep learning framework LS-GRU was proposed to solve the classification of image report text， which can be automatically fed back to clinicians according to radiologists’ descriptions. The data was collected from more than 1168 cases of respiratory imaging reports. Two diseases(emphysema and pneumonia) with similar descriptions of radiologists were classified. About 652 cases of emphysema and 516 cases of pneumonia were reported. The GRU， BiGRU and LSTM models were validated， respectively. The results show that the LS-GRU model is more accurate and robust.

Key words: deep learning, medical text classification, GRU(gate recurrent unit), emphysema, LSTM(long-short term memory)

中图分类号:

TG335.58

李强，李瑶坤，夏书月，康雁. 一种改进的医疗文本分类模型:LS-GRU[J]. 东北大学学报:自然科学版, 2020, 41(7): 938-943.

LI Qiang， LI Yao-kun， XIA Shu-yue， KANG Yan. An Improved Medical Text Classification Model: LS-GRU[J]. Journal of Northeastern University Natural Science, 2020, 41(7): 938-943.

参考文献

[1]Yu S，Indurthi S R，Back S，et al.A multi-stage memory augmented neural network for machine reading comprehension［C］//Proceedings of the Workshop on Machine Reading for Question Answering.Melbourne，2018:21-30.
[2]Vaswani A，Shazeer N，Parmar N，et al.Attention is all you need［C］//Advances in Neural Information Processing Systems.Long Beach，2017:5998-6008.
[3]Lin Y，Shen S，Liu Z，et al.Neural relation extraction with selective attention over instances［C］//Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics.Berlin，2016:2124-2133.
[4]陈志豪，刘子辰，邱大伟，等.基于注意力和字嵌入的中文医疗问答匹配方法［J］.计算机应用，2019，39(6):1639-1645.(Chen Zhi-hao，Liu Zi-chen，Qiu Da-wei，et al.Chinese medical question-and-answer matching method based on attention and word embedding［J］.Computer Application，2019，39(6):1639-1645.)
[5]张浩宇，张鹏飞，李真真，等.基于自注意力机制的阅读理解模型［J］.中文信息学报，2018，32(12):125-131.(Zhang Hao-yu，Zhang Peng-fei，Li Zhen-zhen，et al.Self-attention based machine reading comprehension［J］.Journal of Chinese Information Processing，2018，32(12):125-131.)
[6]Kowsari K，Brown D E，Heidarysafa M，et al.Hdltex:hierarchical deep learning for text classification［C］//2017 16th IEEE International Conference on Machine Learning and Applications.Cancun:IEEE，2017:364-371.
[7]Hochreiter S.The vanishing gradient problem during learning recurrent neural nets and problem solutions［J］.International Journal of Uncertainty，Fuzziness and Knowledge-Based Systems，1998，6(2):107-116.
[8]Zhou P，Shi W，Tian J，et al.Attention-based bidirectional long short-term memory networks for relation classification［C］//Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics.Berlin，2016:207-212.
[9]Huang E H，Socher R，Manning C D，et al.Improving word representations via global context and multiple word prototypes［C］//Proceedings of the 50th Annual Meeting of the Association for Computational Linguistics.Jeju Island，2012:873-882.

[1]	耿蓉，吴亚倩，肖倩倩，徐赛. 基于改进GRU算法的天基信息网资源预测研究[J]. 东北大学学报（自然科学版）, 2023, 44(3): 305-314.
[2]	王瀛，王泽浩，李红，黄文军. 基于深度学习的威胁情报领域命名实体识别[J]. 东北大学学报（自然科学版）, 2023, 44(1): 33-39.
[3]	顾德英，罗聿伦，李文超. 基于改进YOLOv5算法的复杂场景交通目标检测[J]. 东北大学学报（自然科学版）, 2022, 43(8): 1073-1079.
[4]	代茵，刘维宾，董昕阳，宋雨朦. 基于注意力机制的U-Net脑脊液细胞分割[J]. 东北大学学报（自然科学版）, 2022, 43(7): 944-950.
[5]	李鸿儒，任子洋，黄友鹤，于霞. 基于变权重奇异谱分析的心律不齐识别方法[J]. 东北大学学报（自然科学版）, 2022, 43(3): 305-312.
[6]	顾德英，张松，孟范伟. 基于单目视觉的车辆3D空间检测方法[J]. 东北大学学报（自然科学版）, 2022, 43(3): 328-334.
[7]	闫康，黄训江，张强，王登. 基于At-LSTM的产品创新特征识别[J]. 东北大学学报（自然科学版）, 2022, 43(10): 1506-1512.
[8]	贾润达，胡慧明，张树磊. 基于宽度学习的浓密机底流浓度软测量[J]. 东北大学学报（自然科学版）, 2021, 42(9): 1231-1237.
[9]	王新刚，韩凯忠，王超，李林. 基于迁移学习的轴承剩余使用寿命预测方法[J]. 东北大学学报（自然科学版）, 2021, 42(5): 665-672.
[10]	宋欣，李奇，解婉君，李宁. YOLOv3-ADS:一种基于YOLOv3的深度学习目标检测压缩模型[J]. 东北大学学报（自然科学版）, 2021, 42(5): 609-615.
[11]	魏颖，雷志浩，齐林. 基于注意力机制的3D U-Net婴幼儿脑组织MR图像分割[J]. 东北大学学报（自然科学版）, 2021, 42(5): 616-623.
[12]	孟琭，沈凝，祁殷俏，张昊园. 基于强化学习的三维游戏控制算法[J]. 东北大学学报（自然科学版）, 2021, 42(4): 478-483.
[13]	廖志伟，陈琳韬，黄杰栋，庄竞. 基于特征空间变换与LSTM的中短期电煤价格预测[J]. 东北大学学报（自然科学版）, 2021, 42(4): 483-493.
[14]	谢天植，雷为民，张伟，李志远. 一种基于深度学习的实时视频图像背景替换方法[J]. 东北大学学报（自然科学版）, 2021, 42(11): 1540-1546.
[15]	刘宇，魏希来，王帅，戴丽. 基于深度学习的光纤收卷机器视觉自动检测技术[J]. 东北大学学报（自然科学版）, 2021, 42(1): 68-74.

一种改进的医疗文本分类模型:LS-GRU

An Improved Medical Text Classification Model: LS-GRU

RichHTML

PDF (PC)

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics

本文评价