研究发现AI医疗工具对女性和少数群体治疗效果更差

 长期以来，医学研究和临床试验多以白人男性为主要样本，导致女性和有色人群严重代表不足，如今这种历史偏差被输入到AI医疗模型后，问题被进一步放大。麻省理工学院的最新研究显示，包括OpenAI的GPT-4、Meta的Llama 3在内的大模型更容易对女性患者减少治疗建议，甚至更常建议她们“在家自我管理”，从而获得的临床照护更少。即便是医疗专用模型Palmyra-Med也存在类似问题，伦敦政经学院对谷歌Gemma的研究则发现其对女性需求的重视程度低于男性。更早前《柳叶刀》刊登的论文也指出，GPT-4会根据性别和种族刻板印象影响诊断和推荐，甚至在治疗方案和花费上出现差异。这类潜藏的偏见风险极高，因为医疗AI正迅速进入医院和诊所，其错误可能不如“编造器官”那样显而易见，而是更隐蔽地影响患者治疗质量，进而加剧医疗不平等。