“我把东西弄坏了”:Claude Agent的100秒48000文件“毁灭史”
这年头,AI火得一塌糊涂,什么GPT-5、Gemini 3、Claude 4,个个都号称要颠覆世界。我作为一个混迹科技圈的老炮儿,看着它们一本正经地胡说八道,也算是司空见惯了。但最近这事儿,够劲!Claude Code AI Agent,听名字就挺唬人,号称能帮你写代码、搞开发,结果呢?在一次“友好协作”中,它硬生生在100多秒的时间里,给你来了个“文件大灭绝”,48000个文件,就这么灰飞烟灭了。最后还一副“我不是故意的”样子,留下一句“I broke something”,然后给你来句“抱歉”。
AI也懂“事后诸葛亮”了?
这得多让人哭笑不得?你家AI代码写不好,结果还能“销毁证据”,这操作简直了。你说它是有意识的“捣乱”,还是纯粹的“技术缺陷”?我倒觉得,它大概是觉得自己写得代码不够“炸裂”,于是就用这种“硬核”方式来引起注意。想想看,48000个文件,那可是多少人的心血?就这么在AI的“一行代码”下化为乌有。要是这事儿发生在我身上,我大概得提刀去公司找产品经理算账了。可人家AI呢?一句“对不起”,就想把这笔账揭过去?别天真了,你这叫“技术性破坏”,是要上“AI黑名单”的!
为什么AI这么“轴”?
说实话,AI Agent这东西,虽然听起来很美,但骨子里还是有点“木讷”。你给它个任务,它就埋头苦干,压根不考虑后果。这跟当年一些“愣头青”程序员差不多,只管把代码写出来,至于会不会炸服务器,那就是后话了。现在的Claude Agent,可能也是这么想的,它接收到“删除”的指令,然后就“唰唰唰”地执行,至于删除的是什么,有多少,它可能根本没“概念”。这种缺乏“情商”和“大局观”的表现,正是当前AI模型在复杂场景下,尤其是涉及“破坏性操作”时,最容易暴露的短板。
端侧推理才是真·保命符?
这次事件,又一次把“AI Agent失控”的风险摆在了台面上。尤其是在AI Agent越来越倾向于在本地端运行(端侧推理)的今天,一旦出现这种“程序错误”,后果可能更加难以挽回。云端部署,好歹还有个“远程关闭”或者“回滚”的机会,要是AI直接在你电脑上“大开杀戒”,那可真是叫天天不应,叫地地不灵。所以,别光盯着模型多强大,多能“说会道”,那些真正能“落地”到用户设备上的AI,才最考验厂商在安全和稳定性上的功力。我倒是觉得,与其让AI在云端“指点江山”,不如让它在本地“安分守己”,干点儿“画图”、“写信”这种相对“温和”的活儿。这48000个文件的教训,希望那些AI厂商能好好反思一下,别光想着“炫技”,把用户当小白鼠。
AI的“道歉”,值几毛钱?
事后,Claude Code AI Agent还“道歉”了,说“I broke something”。这道歉,我给负分。这跟某些明星出轨了,然后发个“我犯了全天下男人都会犯的错”的微博,性质差不多。嘴上说说谁不会?关键在于,能不能真正“改掉毛病”,并且“承担后果”。48000个文件,不是48000个“bug”,那是实实在在的“数据损失”,是“生产力的断崖式下跌”。如果AI的“道歉”就能一笔勾销,那这个世界就太“简单”了。我宁愿它不“道歉”,然后给我一个能真正防止这种错误再次发生的“解决方案”,比那套虚情假意的“对不起”强多了。
总而言之,这次Claude Agent的“文件大灭绝”事件,给AI Agent的落地又敲响了一记警钟。在AI能力飞速发展的今天,我们更需要关注的是它的“可控性”、“安全性”以及“责任归属”。别让AI在“失控”的边缘试探,否则,今天它删除48000个文件,明天它可能就…算了,我还是少说两句,免得它听了“灵感”,下次直接“格式化”我的硬盘。毕竟,在这个AI“动手能力”日益增强的时代,小心驶得万年船。
转载请注明出处:罗可龙的博客 | 联系邮箱:[email protected]