🛡️ 课程五：LLMOps 生产运维
前四门课教你把 AI 应用**做出来**，本课教你把它**运维起来**——回答面试官那句「你的项目上线之后呢？怎么知道它好不好、怎么防攻击、怎么被别的系统集成、怎么控成本」。所有改动直接落到作品集的 **knowledge-base-qa**，把它从「能跑的 demo」升级为「运维就绪 v2」。四个模块层层递进：
01
结构化日志
从 print 到可查询的 JSON 事件流 + trace_id 贯穿全链路
02
Langfuse 全链路追踪
每次问答的检索/rerank/生成耗时、token、成本可视化
03
线上评估闭环
真实问答抽样 + 自动 ragas 打分 + 坏答案队列
04
API 鉴权与限流
key 鉴权 + 按 key 限流，防裸奔防账单打爆（401/429/200）
05
Prompt 注入攻防
间接注入（恶意指令藏文档里）+ 构造攻击测试集跑失守基线
06
输入输出守护栏
材料隔离 + 指令-数据分离 + 输出过滤，防御固化进 CI
07
MCP 是什么
AI 应用的「USB 接口」：M×N→M+N，手写最小 server/client
08
把知识库封成 MCP Server
kb-qa 检索封成标准工具，任意 host 零代码接入
09
Agent 作 MCP Client
research-assistant 调 kb-qa 知识库，两个作品打通
10
语义缓存
同义问法命中缓存，跳过检索+生成，降延迟降成本
11
压测与并发
QPS/P95/P99 基线，定位瓶颈在上游 API 限流
12
成本/质量权衡
用评估数据量化 glm-4 vs flash，分环节选型降本
13
毕业整合：运维就绪 v2
一张运维面板 + 生产上线检查清单串起全部 12 课