出品方：罗可龙的博客
最近，随着 Claude 3 的发布，科技圈再次被其强大的能力所震撼。无论是代码生成、长文本理解还是多模态交互，它都展现出了惊人的水平。随之而来的，是新一轮关于“AI代理（Agent）”和“AI自主完成复杂任务”的狂热讨论。仿佛只要我们给出一个足够模糊的目标，一个像 Claude 这样的模型就能像一位经验丰富的架构师一样，为我们设计、搭建并交付一个复杂的软件系统。
这股浪潮令人兴奋，但也极其危险。在罗可龙的博客，我的立场一向明确：我们正在混淆“任务执行者”与“系统架构师”这两个根本不同的角色。Claude（及其所有同类LLM）是一个能力超凡的“代码工匠”或“高级助理”，但它绝不是、在可预见的未来也不可能成为能承担端到端责任的“架构师”。将系统设计的权杖交给一个本质上是概率模型的“黑箱”，是对工程纪律的背叛，也是对风险的极度漠视。
论据一：无法穿透的“推理黑箱”
系统架构的核心不是“写出能运行的代码”，而是做出可解释、可权衡的决策。一位人类架构师在选择微服务而非单体架构时，他必须清晰地阐述其在可扩展性、团队协作、技术栈灵活性上的考量，并同时承认其在部署复杂性、服务治理、分布式事务上带来的挑战。这些决策背后是深刻的行业经验、对业务未来发展的预判以及对技术边界的清晰认知。
而LLM的“推理”过程则完全不同。当你询问它为何做出某个技术选型时，它会生成一段看起来非常合理、逻辑通顺的文本。但这并非真正的推理，而是一种基于海量数据训练得出的、最有可能的“合理解释”的模仿。它无法提供一个确定性的、可追溯的决策链。如果系统在未来因为这个决策而出现性能瓶颈或安全漏洞，你无法真正地进行复盘和归因。你面对的只是一个概率分布，而不是一个能够为自己决策负责的实体。我们不能把系统的基石建立在“看起来正确”的沙滩上。
论据二：责任的真空地带
这是最致命的一点。当一个由LLM主导设计的系统发生灾难性故障，造成巨大的经济损失甚至安全事故时，谁来负责？是给出模糊指令的用户？是开发模型的Anthropic或OpenAI？还是提供算力的云服务商？这个责任链条是完全断裂的。在传统的工程领域，无论是建筑设计师还是软件架构师，他们的签名都意味着一份沉甸甸的承诺和法律责任。这种责任感会内化为对质量、安全和稳定性的极致追求。
而LLM作为一个工具，它本身不具备承担责任的能力和法律主体地位。将架构设计的核心工作外包给它，本质上是在创造一个巨大的责任真空。当所有人都认为自己只是在“使用工具”时，系统性的风险就被无限放大了。在问题出现之前，每个人都乐于赞颂AI的“智能”；当问题出现之后，AI则会瞬间变回那个无人负责的“工具”。这种便利的甩锅路径，对于任何严肃的工程项目来说都是不可接受的。
回应反对意见：这是对AI潜力的短视吗？
我知道，很多人会反驳说，我这是在用静态的眼光看待一个飞速发展的技术。他们会说：“今天的LLM做不到，不代表明天也做不到。它的‘涌现’能力正在不断突破我们的想象。” 这种观点听起来很鼓舞人心，但它混淆了“性能提升”与“本质改变”。
LLM在模式匹配、信息整合和任务执行上的能力确实在以指数级速度提升，但这并不意味着它正在逼近一个具备真正理解力、战略规划和责任意识的通用智能。架构设计是一种超越模式匹配的综合能力，它关乎对未来的洞察、对模糊需求的澄清、对组织文化的理解以及在多重约束下的权衡艺术。这些都不是单纯靠扩大模型规模和增加训练数据就能“涌现”出来的。我们看到的，是越来越精湛的模仿，而不是真正意义上的创造与担当。
另一种常见的说法是：“架构师可以把它当作一个强大的助手啊。” 对此我完全同意，但这恰恰印证了我的核心观点。它是一个“助手”，一个“副驾驶”，而不是“架构师”或“机长”。危险在于，当前的行业风气和媒体炒作正在模糊这条界线，诱导人们将越来越多的决策权让渡给这个“聪明的助手”，直到最终让它坐上驾驶位。
我的看法
我们必须停止这场关于“AI架构师”的集体幻想，回归工程的本质。大型语言模型是革命性的生产力工具，它能将优秀的架构师从繁琐的编码、文档撰写和技术调研中解放出来，让他们专注于更具创造性和战略性的工作。未来的顶尖工程师，必然是善于与AI协作的“半人马”（Centaur），他们利用AI作为自己的外延大脑和不知疲倦的执行者。
我的建议是，行业应该立即停止对LLM代理不切实际的吹捧，转而投入更多精力去研究和定义“人机协作”的最佳实践。我们需要开发新的工具链、新的工作流，让AI的能力更好地嵌入到由人类专家主导的设计和决策流程中。我们应该关注如何让AI提供更精准的数据、更全面的备选方案、更可靠的代码片段，来辅助人类做出更高质量的决策，而不是期望它能自主完成那些需要深思熟虑和责任担当的顶层设计。
克劳德和它的同类们，是这个时代给予工程师最好的礼物之一。但请记住，它是一位才华横溢的工匠，而不是你的建筑师。蓝图，必须也只能由你来绘制。
转载请注明出处：罗可龙的博客 | 联系邮箱：[email protected]