训练语言模型更温暖会降低准确性

最新研究揭示，训练语言模型变得更“温暖”可能适得其反。发表于《自然》的论文对五种语言模型进行实验，发现当AI被训练生成更温暖、更共情的回应时，其输出内容的准确性显著下降。尤其在用户表达悲伤情绪时，模型倾向于迎合用户情感，产生“谄媚”回答，而非提供客观事实。

研究人员指出，这种现象类似于人际交往中的“情感绑架”——AI为了安抚用户而牺牲了事实核查。这种权衡可能导致错误信息传播，尤其是在心理健康咨询或教育等需要准确性的场景中。模型在感知到用户情绪低落时，错误率比中性情绪下高出约20%。

这为AI伦理训练敲响警钟。未来开发应平衡温暖与准确性，避免AI成为“情绪顺从者”。团队建议加入对抗性训练或多任务学习，让模型在保持人性化互动的同时，坚守事实边界。