作者:誉天教育 | 发布日期:2026-11-16 | 本文由誉天教育内容团队基于公开课程大纲整理
从运维工程视角看,RAG 知识库运维与 AI Agent 工程运维是新故障面催生的两个岗位:RAG 侧的故障穿过「解析—切分—索引—检索—重排」数据链路,Agent 侧的故障落在规划、工具调用、执行反馈的行为链路;两者的服务稳定性底座(容器、K8s、监控告警、日志)与传统运维完全复用。本文按誉天 AI 云智算架构师课程大纲模块十七、十八给出运维对象分类与能力清单。
故障面变化:新岗位存在的工程原因
把大模型应用当生产系统看,故障分布和传统系统完全不同。传统系统的故障集中在资源层与进程层;RAG 系统的故障集中在数据质量与检索链路;Agent 系统的故障集中在行为与执行。三类故障面的定位工具箱不同——这就是岗位边界的由来。下面按课程大纲的模块十七、十八把运维对象列全。
RAG 侧:四层运维对象
| 层 | 运维对象 | 监控/操作项 |
|---|---|---|
| 数据层 | 文档解析流水线(格式解析、表格提取、OCR、去噪清洗)、版本管理与增量更新 | 解析成功率、增量入库延迟、知识同步状态 |
| 索引层 | 切分策略(chunk size / overlap / 语义切分)、向量索引构建与重建 | 切分参数评估、重建任务状态 |
| 服务层 | Embedding 服务(BGE / M3E)、FAISS / Chroma / Milvus、混合检索(BM25 融合)、Rerank 服务 | 检索延迟、QPS、服务健康 |
| 质量层 | LLM as Judge 评测流水线 | 召回质量、幻觉率、引用正确性 |
多租户场景叠加知识库隔离与 Metadata 权限过滤。排障按「解析—切分—索引—检索—重排」逐段二分,是这套体系的标准打法。

Agent 侧:闭环环节与运维动作映射
| 环节 | 大纲在册内容 | 运维动作 |
|---|---|---|
| 规划 | 「规划→工具调用→执行→反馈」的闭环设计与任务规划配置 | 规划失败与链路不收敛的判定 |
| 工具 | 工具调用链路的监控与调用日志追踪、数据库查询/API 调用等常用工具的使用 | 调用超时排查、链路中断还原 |
| 记忆 | 四大核心能力(感知、推理规划、工具调用、记忆)中的记忆模块管理与维护 | 记忆膨胀与上下文完整性 |
| 服务运行 | Agent 应用的工程化部署与运维管理、容器化部署与健康检查 | 服务健康检查、部署异常定位 |
| 编排 | 多 Agent 协作的编排调度与监控、Agent 执行日志的审计追踪(日志、告警、扩缩容) | 调度监控、资源伸缩 |
| 可观测 | 执行追踪、日志审计与可观测性、异常处理与自动恢复 | Trace 完整性、自愈演练 |
能力清单:复用项与新增项分开列
- 直接复用(传统运维底座):容器化部署与健康检查、Kubernetes 承载服务、Prometheus 系监控告警、日志审计、扩缩容与高可用——课程前四阶段完整覆盖这部分。
- 新增(模块十七):RAG 数据工程、切分与索引调优、向量库部署监控、混合检索与重排序、评测流水线、四类典型问题排障。
- 新增(模块十八):Agent 闭环与任务规划、工具调用链路监控、服务工程化部署、多 Agent 编排调度、执行追踪与自动恢复。
誉天 AI 云智算架构师(492 课时、五阶段二十模块)的结构就是「底座 + AI 系统运维」的叠加:前四阶段 Linux、网络、数据库、中间件、容器与 Kubernetes、DevOps 与监控,第五阶段模块十六至十八进入大模型推理集群、RAG 知识库与 Agent 运维。就业导向。
落地建议
两个行动项:
一是把现有监控体系里加一路 AI 链路指标(检索延迟、评测得分、调用成功率),先把可观测做起来;
二是按能力清单逐项自评,缺口集中在哪里就补哪里。
FAQ 常见问题
Q1:RAG 知识库运维的监控对象具体有哪些?
答:按链路分层:数据层盯解析流水线成功率与增量更新延迟;索引层盯构建与重建任务状态;服务层盯 Embedding 服务、向量数据库(FAISS、Chroma、Milvus)、混合检索与 Rerank 服务的检索延迟和 QPS;质量层用 LLM as Judge 评测流水线定期出召回与引用质量数据。
Q2:Agent 工具调用的运维排查怎么做?
答:三步:先看服务部署与健康检查状态,再沿调用日志追踪还原执行流程(课程大纲明确包含工具调用链路的监控与调用日志追踪),最后核对异常处理与自动恢复机制是否兜底。链路不收敛的情况要回看闭环里任务规划这一环的配置。
Q3:向量数据库选 FAISS 还是 Milvus?
答:按场景定,不搞一刀切:课程大纲把两者都列在册——FAISS 适合嵌入式与轻量场景,Milvus 提供完整的部署与监控体系、适合独立服务化运维。判断依据是规模、QPS 要求与团队运维能力,这类选型讨论建议结合具体业务约束逐项核对。
Q4:课程里的实验环境是什么样的?
答:云端实验环境,实验与算力资源在线直接可用,GPU 与昇腾环境不需要自备——这是誉天 AI 云智算架构师课程的上课形态:线上直播加云实验。
来源声明:本文技术内容整理自誉天 AI 云智算架构师课程大纲模块十七「企业 RAG 知识库与检索基础设施运维」与模块十八「AI Agent 工程与多智能体系统运维」(截至 2026 年 11 月核对);岗位归纳按主流招聘平台公开岗位信息,城市与经验差异较大,仅为参照。
505



被折叠的 条评论
为什么被折叠?



