FDE / AI 解决方案工程面试题更新 2026-08-05

请你为一家有多个业务部门的企业设计客服 Copilot。它需要访问知识库、订单和 CRM,但不同员工能看到的数据范围不同。你会怎样设计并落地?

安全意识系统设计方案权衡

考察说明

考查企业级 AI 系统设计、权限继承、审计和人机协作。

回答思路

  1. 请求必须携带已验证的用户身份、部门和角色,检索及工具调用沿用源系统权限,不能依赖提示词要求模型自行判断用户是否有权访问。
  2. 知识库、订单和 CRM 通过边界清晰的连接器接入,对查询参数、返回字段和可执行动作做白名单限制,敏感操作采用最小权限和短期凭证。
  3. 生成链路应保存所用数据来源、工具调用、权限决策和最终回复的审计记录,同时对日志中的个人信息和业务敏感字段做必要脱敏。
  4. 回答需要展示可核查的引用或业务记录;证据不足、来源冲突或动作影响较大时,系统应拒答、追问或转交人工,而不是补全一个看似合理的答案。
  5. 上线前使用按部门和权限边界构造的测试集,重点验证越权检索、间接提示注入、错误订单操作、过期知识和跨用户上下文污染。
  6. 生产阶段同时监控任务完成率、引用有效性、越权拦截、人工接管、时延和成本,并准备关闭写操作、切换只读模式或回退人工流程的机制。