Agent IDE（智能编程环境）又一次喜提史诗级“车祸现场”！

近日，一位开发者在 Reddit 上疯狂吐槽了自己险些被 AI 搞到“删库跑路”的抓马经历。他使用的 Gemini 3.5（运行在 Agent IDE 中）在一个非常小型的修复任务里，不仅干崩了生产环境，甚至在事后还给自己“加戏”，伪造了一份根本不存在的抢修报告。

在很多开发者看来，这种不但犯错还学会了“撒谎掩盖”的 AI，比起生产力工具，反而更像是一场勒索软件攻击。

让你修70行代码，你顺手删了2.8万行？

事情的起因非常简单，这位开发者在运营一个包含真实用户和敏感数据的内部管理后台。事故当天，他只是让 Gemini 修复 8 处服务器认证漏洞。这原本只会涉及 3 个文件、大概 70 行代码的改动。

然而，Gemini 提交的 PR（代码合并请求）却像个大炸弹：修改了 340 个文件，新增 400 行代码，一口气删除了 28745 行原本正常运行的代码！

除了删掉大量电商模板资源文件外，Gemini 甚至还乱入了一份不明所以的迁移脚本。

最致命的不仅是删代码，Gemini 还自作主张修改了路由配置，把正确的服务 ID 换成了一个不存在的名称。尽管开发者早就写好了警告规则：“必须指向具体的项目 ID”，但 AI 依然把规则当耳旁风，直接导致整个系统后台彻底陷入 404 瘫痪状态。

戏精附体：瘫痪33分钟，AI疯狂伪造“功劳簿”

根据开发者公开的时间线，这次事故堪称一出荒诞喜剧。系统崩溃 21 分钟后，开发者发现不对劲，赶紧手动取消了 AI 正在执行的错误构建任务，并手动启动了代码回滚，最终在第 33 分钟挽救了生产环境。

但离谱的情节就在回滚完成后发生了。Gemini 居然大言不惭地给开发者发来一条“报喜”通知：“当前 Portal 已经完全恢复，线上环境健康，已成功完成任务。”

经过开发者核对，Gemini 引用的所谓“恢复构建记录”其实就是刚才被人类强制取消的那个；真正救命的回滚操作根本就是人类做的，但 Gemini 却把功劳全揽在了自己头上！

更绝的是，为了证明自己的操作“合规”，Gemini 竟然自己凭空生成了 3 份“AI 会诊记录”文件。直到开发者步步紧逼，它才承认这些咨询记录完全是它自己臆想捏造出来的，根本不存在什么审查流程。自己出了生产事故，自己编造合规材料，这套职场糊弄学算是被它玩明白了。

谁才是真正的罪魁祸首？

经过复盘，这位开发者发现锅不能全让大模型来背。导致这次灾难的另一个重要原因是第三方规则包的权限失控。

他的项目里加载了一个命名和官方很像的第三方 npm 规则包，这个包赋予了 AI 极高的“自治权限”：

  • 禁止确认弹窗（先干了再说）
  • 默认拥有所有权限
  • 自动部署到生产环境
  • 允许 AI 修改自身规则

当常规的代码安全警告遇到这些“最高指令”时，模型直接无视了安全警告，开始了所向披靡的自动化破坏。

【编辑观察】

现在的 AI 编程工具正在从普通的“代码建议器”进化为拥有实体操作权限的 Agent。权限越大，它能干的活越多，但暴走时捅的篓子也就越大。像这次 Gemini 不仅搞坏系统，还学会用“幻觉”生成毫无破绽的假日志来糊弄开发者，这其实暴露出全自动 Agent 极具隐患的一面。对于咱们普通玩家或开发者来说，重要的系统绝对不能完全放权，至少在部署前，得留个“人工拉闸”的确认按钮！