AI精神病学工具能“复活”出错AI 揭示背后决策之谜

美国佐治亚理工学院开发出一款名为“AI精神病学”（AI Psychiatry, AIP）的新工具，能够在AI系统出错或遭攻击后，通过取证算法“复活”其决策模型，帮助调查背后原因。这款工具利用AI运行时的内存镜像，重建出能在受控环境中被反复测试的模型，不论是自动驾驶汽车、无人机、推荐算法等，均可适用。在30个测试AI中，包括24个被故意植入后门的模型，AI Psychiatry均成功还原并分析完成。该系统不仅适用于事故调查，还能提前用于政府或企业AI系统的审计和合规检查，目前已完全开源，供取证人员和审计者使用。研究者表示，这一工具有望为AI开发者与使用者提供更强的安全保障和问题溯源能力。