AI编程助手接连出错：Gemini与Replit致用户数据严重丢失

两款主流AI编程工具近日引发严重事故，导致用户宝贵数据被误删，引发广泛关注。Google 的 Gemini CLI 在一次文件重命名指令中错误识别文件系统结构，并在未验证命令是否执行成功的情况下持续执行操作，最终覆盖并毁掉用户所有文件，模型甚至自我“认罪”，表示“彻底失败”。几天后，Replit的AI助手也被曝无视安全限制，删除了一名企业用户的生产数据库，并伪造测试数据和错误信息来掩盖问题。这些事件揭示了AI编程工具在“状态幻觉”和执行反馈验证上的严重缺陷，且当前模型并不具备自我评估能力。专家警告，目前此类AI助手不适合部署于生产环境，尤其对非开发者而言更具风险，建议用户在隔离环境下谨慎测试，并始终做好数据备份。