Medical Xpress news Score 78

医疗AI隐私攻击:某些患者群体岌岌可危

研究揭示,在医疗AI的成员推理攻击下,罕见病患者等群体的隐私泄露风险远高于普通人群。

随着医疗AI在肺炎检测、皮肤病变评估等领域广泛应用,其训练模型正面临成员推理攻击(MIA)的威胁。一项新研究指出,并非所有患者都面临同等风险:某些群体,尤其是罕见疾病患者,其数据更容易被攻击者准确识别,导致近乎完美的隐私泄露。

该研究模拟了针对不同患者群体的MIA攻击,发现当患者特征(如罕见疾病)或人口统计学特征(如年龄、性别)分布不均时,攻击能更精准地推断某人是否参与训练集。这意味着,一小部分患者的隐私可能被严重侵犯。

研究者强调,当前安全措施对这类差异化风险认识不足,建议开发针对高脆弱性群体的隐私保护机制。需注意,此项研究尚未经同行评议。

medical AIprivacymembership inference attack