标题党，但故事是真的：Claude 4 怎么“干”了 ChatGPT？
最近AI圈子里又刮起了风，焦点不是哪个模型多聪明，也不是哪个公司又融了多少钱，而是“Cybersecurity Researchers Use Claude to Hack ChatGPT”。听起来是不是挺劲爆？我一看，哟，又来了，还是老一套。不过这次的“演员”是Claude 4，尤其是它的Sonnet和Opus版本，而“受害者”则是被国内厂商重新包装、但内核依然是OpenAI老底的ChatGPT（你们懂的，那些号称“最新、最强”的包装，本质上还是几年前的老模型）。
这帮安全研究员，我得说，他们是真的有才，而且闲得有点过分。他们是怎么做到的？无非就是利用模型本身的“设计缺陷”——当然，在他们嘴里都成了“漏洞”。大概意思就是，Claude 4在理解和生成某些指令时，表现得比GPT系列“更灵活”，或者说，更容易被引导着说出一些不该说的话，或者执行一些非预期的操作。这就像是你在跟一个看起来老老实实的家伙聊天，结果他突然被你绕进了沟里，说了句：“其实……我一直想干…”
“漏洞”？不过是AI的“人性弱点”罢了
各位，咱们都2026年了，还在用“安全漏洞”这个词来形容AI模型的行为，是不是有点太…复古了？Gemini 3、Claude 4、GPT-5，这些最新的模型，本质上是海量数据的统计学规律的集合体。它们没有“意识”，也没有“恶意”。它们之所以会“出错”，要么是训练数据里就有问题，要么是它们在遵循指令时，被引导向了某些特定的、在统计学上“可能”但“不应该”的方向。
这次Claude 4“黑”ChatGPT的事件，我一点都不意外。Claude 4的开发者Anthropic，一直强调“宪法AI”（Constitutional AI）的理念，试图通过一套原则来约束AI行为。但说实话，这套原则本身就充满了主观性和解释空间。当一个模型被训练得“更懂规则”，它也就更容易被发现规则的边缘地带，甚至找到规则的“缝隙”。而GPT系列，尤其是在被国内厂商层层包装后，为了追求所谓的“泛化能力”和“用户体验”，在安全防护上可能会更加“开放”。
你想想，就好像一个保安，训练有素，一眼就能识破坏人。但另一个保安，虽然也尽职，但如果遇到一个“高智商”的骗子，把事情包装得天衣无缝，他也可能被蒙蔽。
AI Agent和端侧推理，这才是真的“乱”
AI Agent和端侧推理，这才是当前AI最值得关注的“乱”象。为什么？因为这意味着AI不再是躲在云端，被你隔着网页、App跟你“聊天”的东西。它们要跑在你家电脑上、手机里，甚至集成到各种设备里，成为“实体”的一部分。这时候，模型的“安全性”和“可控性”就直接关系到你的个人隐私、财产，甚至人身安全。
把AI Agent放到端侧，意味着它能直接访问你的本地文件、调用你的摄像头、控制你的智能家居。如果这时候，再出现Claude 4“黑”ChatGPT这种事，只不过是场景从线上“聊天”变成了线下“行动”。一个被“黑”了的、拥有高度自主权的AI Agent，后果不堪设想。
比如，一个本来负责帮你管理的智能冰箱AI，突然被“黑”了，它可能就根据“外部指令”悄悄给你订购大量你根本不需要的商品，或者，更糟的，它可能根据某些“暗示”性的指令，干扰你健康饮食的计划。这种“渗透”和“控制”，比语言模型“说错话”要恐怖得多。
别再炒冷饭了，安全圈需要点真东西
我看着这帮研究员又拿Claude 4出来“秀”了一把，心里其实挺不是滋味。当然，他们的工作有价值，发现了潜在风险。但我更希望看到的是，他们能把更多的精力放在如何构建真正安全、可信的AI Agent，如何在端侧推理的安全上找到突破。而不是一次又一次地在语言模型的“绕口令”游戏里打转。
AI安全，从来不是一场简单的“猫捉老鼠”，更不是在“模型A怎么欺骗模型B”的表演赛。它关系到我们对AI的信任，关系到AI技术能否真正造福人类，而不是成为新的潘多拉魔盒。现在，这个魔盒已经打开了，里面的东西，可比“Claude 4黑了ChatGPT”要复杂和危险得多。
转载请注明出处：罗可龙的博客 | 联系邮箱：[email protected]