FDE / AI 解决方案工程面试题更新 2026-08-05

系统上线后,有用户反馈 AI 回答中出现了另一个部门的内部信息。你正在客户现场,会如何处置这次事故?

风险判断安全意识问题排查

考察说明

考查安全事故响应、客户沟通和根因修复能力。

回答思路

  1. 立即停止相关检索或生成功能,必要时切换只读或人工流程,并保全请求、身份、权限判断、检索结果和工具调用等审计证据。
  2. 在不扩大敏感信息传播的前提下确认影响范围,包括涉及的数据、用户、时间段和可重复路径,同时通知客户指定的安全与事件负责人。
  3. 根因排查应覆盖索引分区、访问控制、缓存键、会话隔离、连接器权限和日志脱敏,不能只修改提示词或删除单条回答。
  4. 修复时让权限校验发生在数据检索和工具执行层,清理可能受污染的缓存或索引,并为跨部门访问、间接提示注入和上下文串扰补充回归测试。
  5. 恢复服务前由客户安全、业务和工程负责人共同确认验证结果及分阶段开放范围;若无法证明边界恢复,应继续保持受影响能力关闭。
  6. 事后报告应如实说明原因、影响、处置、长期预防措施和仍存风险,并将可复用的安全缺陷反馈给平台团队,而不是把责任归结为用户提问方式。