在实际生产部署时，应从哪些维度构建 Agent 系统的安全防护体系？具体需要规避哪些类型的风险？

回答思路

1. 【回答框架 1】定义安全目标：Agent 系统涉及与大模型交互、工具调用、外部环境操作，安全需覆盖数据安全、行为安全、访问控制与合规。风险包括提示注入、数据泄露、工具滥用、不当行为等。
2. 【回答框架 2】具体风险：提示注入（恶意指令覆盖系统提示）、数据窃取（通过 prompt 诱导输出敏感信息）、工具滥用（Agent 调用工具执行危险操作）、越权访问（Agent 身份权限过大）、模型幻觉导致错误决策。
3. 【回答框架 3】防护措施：输入过滤与沙箱隔离，对工具调用进行白名单和权限最小化；对输出进行敏感信息检测；使用人工审核或熔断机制；采用鲁棒性评估，如对抗性测试。
4. 【回答框架 4】实践方案：结合身份认证与授权，实施操作审计；对高风险操作设置需人工确认；使用监控和日志记录，便于溯源；遵循最小权限原则。
5. 【回答框架 5】风险取舍：安全措施可能增加延迟、降低效率，需平衡安全与可用性；同时定期更新安全策略以应对新型攻击。
6. 【关键点 1】提示注入是 Agent 特有风险，需通过输入过滤和对话级防护缓解。
7. 【关键点 2】最小权限原则应用于工具调用和外部系统访问。
8. 【关键点 3】输出敏感信息检测防止数据泄露。
9. 【关键点 4】审计与监控是安全体系必需环节，支持溯源与应急。
10. 【易错点 1】仅依靠模型自身过滤不充分，需结合基础设施层面控制。
11. 【易错点 2】过度安全限制可能降低 Agent 实用性，需平衡。
12. 【易错点 3】忽视内部威胁（如员工误操作）也是风险。