BioDir AI在心理健康中或与不可靠输入“勾结”
新观点文章警告，心理健康AI若不设新保障，可能继承并强化人类输入的不可靠性。
《JMIR心理健康》发表的观点文章《当AI勾结：训练与偏好数据的临床可靠性作为可信AI标准》指出，心理健康领域的AI系统若使用不可靠的人类输入进行训练，可能继承甚至放大这些错误。文章作者强调，当前缺乏对训练数据“临床可靠性”的评估标准，这可能导致AI做出不准确或有害的建议。他们呼吁将临床可靠性作为可信AI的核心指标，并在部署前建立更严格的验证流程。该文章已发表，但未经过同行评审。