南非全国基准研究:多模态AI从口头尸检记录推断死因
Multimodal Artificial Intelligence for Cause-of-Death Assignment From Verbal Autopsy Records: A National Benchmark Study in South Africa
研究基于南非全国登记死亡样本中4999份12岁及以上死者的口头尸检记录,以医生判定死因为参考标准,比较仅用叙述文本的预训练语言模型、仅用结构化问卷的机器学习模型及两者在数据、特征和决策层面的融合。
基于南非4999份口头尸检记录,比较语言模型与结构化问卷在死因推断中的分工差异。
摘要
背景 及时的死亡原因(COD)信息可指导卫生政策,但低收入和中等收入国家的许多死亡并未经过医学认证。在非洲,经过医学认证的死亡不足10%。口头尸检(VA)可产生结构化症状问卷和自由文本叙述。死亡监测越来越多地在问卷之外记录叙述,但用于生成基于VA的统计数据的算法仅针对结构化回答设计,因此叙述虽可为医生判定COD提供信息,却不参与算法COD判定。我们评估了监督模型能否同时利用这两种模态来改进COD判定。 方法 我们分析了来自南非(RSA)全国登记死亡样本中4,999份12岁及以上死亡者的VA记录,以医生判定的COD作为参考标准。我们在有标签记录上训练了单模态和多模态流程:仅在叙述上微调的预训练语言模型(PLM)、仅在结构化回答上训练的机器学习(ML)模型,以及二者在数据层、特征层和决策层的组合。我们还对本地部署的生成式大语言模型(LLM)在相同的单模态和多模态输入上进行提示,不更新参数。所有方法均与InSilicoVA进行比较,后者是代表当前自动化实践的操作性对照。我们评估了个体层面判定、人群层面一致性、校准以及在南非各省之间的泛化能力,报告这些指标,而非依据其中任何单一指标对流程进行排名。 结果 每个监督流程在top-1准确率上较InSilicoVA提高8.5-15.9个百分点,在死因别死亡率分数(CSMF)准确率上提高3.5-7.1个百分点。叙述流程与结构化流程在总体上表现相似,但按死因存在差异:63.9%的死亡获得相同预测,11.6%仅由叙述流程正确预测,13.6%仅由问卷流程正确预测,叙述流程对非传染性死因更准确,问卷流程对传染性死因更准确。与单模态方法相比,决策融合流程在top-1准确率上增加4.2-5.4个百分点,集中在最常见死因上,而带跨模态注意力的特征融合改善了较不常见死因,在平衡准确率上增加6.6个百分点(95% CI,1.7-11.5),在宏F1上增加5.5个百分点(95% CI,0.6-10.3)。特征融合达到最高CSMF准确率(95.7%)。与较优单模态代表方法的配对差异范围为-0.2至+3.4个百分点,所有区间均包含零。LLM在个体层面指标上超过InSilicoVA,并达到所有流程中最高的平衡准确率(60.6%),而监督流程保持了更高的CSMF准确率。监督流程的期望校准误差低于InSilicoVA。监督方法的增益在所有九个留出省份中均成立,包括每一项top-1比较以及几乎每一项宏F1和CSMF比较。 结论 仅使用叙述的PLM较当前最佳实践有实质性改善,并与使用结构化回答的ML流程相当,而多种多模态策略在个体COD判定上产生了进一步增益。零样本LLM在罕见死因上表现出特别优势,而监督流程更好地还原了人群死因分布。这些发现支持将叙述作为自动化VA系统的核心输入,并针对预期输出评估具有代表性的融合策略。跨环境和年龄组的外部验证将支持更广泛的实施。
利益冲突声明
作者声明无利益冲突。
作者声明
本人确认已遵守所有相关伦理准则,并已获得必要的 IRB 和/或伦理委员会批准。
是
为所描述研究提供批准或豁免的 IRB/监督机构的详细信息如下:
南非全国死因验证(SANCODV)研究已获南非医学研究理事会(SAMRC)人类研究伦理委员会批准(EC004-2/2017),并按照美国疾病控制与预防中心的人类研究保护程序进行了审查。
本人确认已获得所有必要的患者/参与者同意,且相应的机构表格已存档;所包含的任何患者/参与者/样本标识符在研究组之外无人知晓(例如医院工作人员、患者或参与者本人),因此无法用于识别个人。
是
本人理解所有临床试验及任何其他前瞻性干预性研究必须在 ICMJE 批准的注册机构(如 ClinicalTrials.gov)注册。本人确认手稿中报告的任何此类研究均已注册,并提供了试验注册号(注:如果发布的是回顾性注册的前瞻性研究,请在试验 ID 字段中说明为何未提前注册)。
是
本人已遵循所有适当的研究报告指南,例如任何相关的 EQUATOR Network 研究报告清单及其他相关材料(如适用)。
是
数据可用性
本研究产生的所有数据可在向作者提出合理请求后获取
已声明的资助方信息
俄亥俄州立大学,https://ror.org/00rs6vg23,研究生院奖学金
来源:medRxiv · 临床预印本 · medrxiv.org