基于BERT预训练模型的心血管疾病识别模型构建研究
A Study on Building a Cardiovascular Disease Recognition Model Based on the BERT Pretrained Model
摘要目的 基于BERT预训练模型构建心血管疾病识别模型,探究自然语言处理技术在医学信息处理中的应用价值,为门诊智能分诊提供新的技术路径.方法 采用双中心回顾性研究,采集皖南医学院第一、第二附属医院符合纳入标准的6 200例患者的医疗数据.通过人工纠正填写错误、k-近邻算法填充缺失值、去除决定性诊断信息进行数据预处理.以BERT-base-Chinese预训练模型为基础,将文本、结构化数据按"标签+内容"拼接,完成编码处理后,基于分类任务需求对模型进行微调,并与轻量化生成式大语言模型的识别能力进行对比.结果 微调后的BERT模型在心血管疾病识别任务中表现优异,准确率、精确率、召回率、F1值均为0.98,ROC曲线下面积趋近于1.轻量生成式大语言模型基于零样本学习的准确率仅为0.53.结论 基于本地医疗数据微调的BERT模型能够准确识别心血管疾病,自然语言处理技术在心血管疾病识别中具有较大的应用潜力.
更多相关知识
- 浏览7
- 被引0
- 下载2

相似文献
- 中文期刊
- 外文期刊
- 学位论文
- 会议论文


换一批



