医疗AI系统的语言依赖性诊断安全风险

一项发表于medRxiv的预印本研究评估了多种语言模型和视觉语言模型在四种真实临床任务中的表现，发现这些AI系统在英语和中文环境外，诊断错误率显著增加。研究团队开发了一种可审计的检测方法，用于识别不安全输出。该研究首次在真实临床环境中量化了多语言医疗AI部署的患者安全后果，强调需对非高资源语言进行专项验证。作者指出，该研究尚未经过同行评审。