课程信息
- 官网主题：Safety 2: Observability and Monitoring
- 所属模块：安全与框架
- 授课日期：2026-10-22
- 主讲人：Eric Wallace
学习重点
- 设计覆盖提示、工具、轨迹、成本、延迟和错误的观测体系。
- 理解离线评测、在线监控与事件响应之间的联系。
- 分析提示注入、异常行为和策略漂移的检测方法。
核心问题
- 一条可审计的智能体轨迹必须记录哪些信息？
- 哪些指标能提前暴露可靠性或安全性退化？
- 如何在可观测性与用户隐私之间取得平衡？
学习记录
- [ ] 看完课程视频或完成对应阅读。
- [ ] 整理本讲的核心概念、方法与系统结构。
- [ ] 记录关键实验、评测指标和失败案例。
- [ ] 补充一个能够动手验证的实现或复现实验。