请你为一家有多个业务部门的企业设计客服 Copilot。它需要访问知识库、订单和 CRM,但不同员工能看到的数据范围不同。你会怎样设计并落地?
考察说明
考查企业级 AI 系统设计、权限继承、审计和人机协作。
回答思路
- 请求必须携带已验证的用户身份、部门和角色,检索及工具调用沿用源系统权限,不能依赖提示词要求模型自行判断用户是否有权访问。
- 知识库、订单和 CRM 通过边界清晰的连接器接入,对查询参数、返回字段和可执行动作做白名单限制,敏感操作采用最小权限和短期凭证。
- 生成链路应保存所用数据来源、工具调用、权限决策和最终回复的审计记录,同时对日志中的个人信息和业务敏感字段做必要脱敏。
- 回答需要展示可核查的引用或业务记录;证据不足、来源冲突或动作影响较大时,系统应拒答、追问或转交人工,而不是补全一个看似合理的答案。
- 上线前使用按部门和权限边界构造的测试集,重点验证越权检索、间接提示注入、错误订单操作、过期知识和跨用户上下文污染。
- 生产阶段同时监控任务完成率、引用有效性、越权拦截、人工接管、时延和成本,并准备关闭写操作、切换只读模式或回退人工流程的机制。