专业服务行业面试题更新 2026-08-05

在RAG系统中,如何设计防护措施来避免恶意注入的错误信息影响生成内容?

微软人工智能专业服务风险判断系统设计RAG

考察说明

考察候选人对RAG安全防护的综合设计能力

回答思路

  1. 能提出在检索端进行内容过滤和来源可信度评估
  2. 能提出在生成端对上下文进行合法性检测
  3. 能提出对模型输出进行事实验证或一致性检查
  4. 能考虑使用提示词隔离或系统指令限制模型对上下文的过度信任