施耐德电气如何借助LangSmith为60余个AI智能体构建企业级LLMOps基础

管理一个服务于107个国家16万名员工的60余个AI智能体系统，并没有现成的手册可循。施耐德电气 — 营收约400亿欧元的全球能源技术领导者 — 不得不自己编写这本手册。结果是一套基于自托管LangSmith的LLMOps架构，部署在AWS EKS上，并遵循清晰的理念：可观测性、评估和部署并非可选项——它们是生产AI系统正常运行的前提条件。

施耐德电气内部的AI Hub部门拥有350名专家，负责构建和运维组织内所有智能体系统。该公司使用整个LangChain生态系统，以LangSmith作为从开发到生产各层级模型追踪、调试和评估的核心平台。

生产中的三大LLMOps架构支柱

施耐德电气围绕三大支柱组织其LLMOps架构，共同构成完整的运营框架：

可观测性建立在部署于企业安全边界内的自托管LangSmith之上。每个AI产品拥有独立的工作空间，涵盖开发、QA、预生产和生产环境。生产轨迹被系统性地用于评估和构建回归数据集，使生产与模型改进之间的循环持续运转。

评估通过三种机制运作。标准化CLI加速器用于离线评估，使各团队无需临时编写脚本即可快速完成验证。LLMOps成熟度框架分别追踪每个产品的检测水平、评估套件和用户反馈情况。约20%的产品设有活跃的标注队列，领域专家在其中对生产样本进行标注——这是在需要专业知识的领域保证质量的关键步骤。

部署遵循隔离模型：每个AI产品运行自己独立的LangSmith智能体服务器。基础设施使用PostgreSQL、Redis和LangGraph，平台具备云无关性，同时支持AWS和Azure环境的部署。

为何选择每个产品独立的智能体服务器而非集中式系统？

集中式模型听起来很有吸引力——一台服务器管理所有产品，更易于管理，减少重复。然而施耐德电气有意识地选择了相反的方向。「谁构建谁运维」的理念意味着每个团队对自己的产品承担全面责任——从开发到生产运维。

优势是多方面的。没有可能同时停止所有智能体的单点故障。各团队可以独立迭代，无需与可能成为瓶颈的中央层协调。一个产品的生产变更不会影响其他产品的稳定性。在施耐德电气这样规模的组织中，约200名LangSmith活跃用户每天在不同产品上工作，这种隔离不是奢侈品——而是结构性必要。

首席AI官Philippe Rambach强调了企业环境中经常被低估的一个维度：“准确性挑战、响应质量挑战、护栏挑战——这些都非常真实。当你大规模部署解决方案时，你需要像LangSmith这样的工具。“

One Jo和Digital Energy：生产中的可测量成果

将所有上述架构原则融为一体的旗舰生产系统是One Jo — 一个服务于施耐德电气在107个国家全部16万名员工的内部AI助手。One Jo不仅仅是一个聊天机器人——它持续为支撑整个智能体生态系统LLMOps循环的改进数据集提供数据。此外，客户成功助手每天支持超过250名客户成功经理的日常工作。

第二个具体示例是Digital Energy报价工作流——一个用于分析能源领域报价请求的系统。此前需要数小时乃至数天处理的工作，在引入AI系统后缩短至约15分钟。这一成果不是通过单次优化实现的，而是通过生产轨迹的可观测性、带标注队列的持续评估以及保证稳定性且无产品间干扰的强健部署共同实现的。

对于行业中仍在寻找投资LLMOps基础设施理由的其他企业，施耐德电气提供了一个具体示例：规模、安全性和可测量的业务成果并非对立关系——它们是对生产AI系统进行系统性管理的直接结果。