系统上线后,有用户反馈 AI 回答中出现了另一个部门的内部信息。你正在客户现场,会如何处置这次事故?
考察说明
考查安全事故响应、客户沟通和根因修复能力。
回答思路
- 立即停止相关检索或生成功能,必要时切换只读或人工流程,并保全请求、身份、权限判断、检索结果和工具调用等审计证据。
- 在不扩大敏感信息传播的前提下确认影响范围,包括涉及的数据、用户、时间段和可重复路径,同时通知客户指定的安全与事件负责人。
- 根因排查应覆盖索引分区、访问控制、缓存键、会话隔离、连接器权限和日志脱敏,不能只修改提示词或删除单条回答。
- 修复时让权限校验发生在数据检索和工具执行层,清理可能受污染的缓存或索引,并为跨部门访问、间接提示注入和上下文串扰补充回归测试。
- 恢复服务前由客户安全、业务和工程负责人共同确认验证结果及分阶段开放范围;若无法证明边界恢复,应继续保持受影响能力关闭。
- 事后报告应如实说明原因、影响、处置、长期预防措施和仍存风险,并将可复用的安全缺陷反馈给平台团队,而不是把责任归结为用户提问方式。