人工智能面试题更新 2026-08-05

请解释提示压缩的含义,并阐述在 RAG 应用中为何需要引入提示压缩机制。

人工智能技术原理方案权衡LLMRAG

考察说明

考查对 RAG 中提示压缩概念及必要性的理解。

回答思路

  1. 【回答框架 1】提示压缩是指在将检索到的文档或上下文输入大语言模型之前,通过摘要、提取关键信息、去除冗余等方式减少提示长度,同时保留核心内容。
  2. 【回答框架 2】RAG 中需要提示压缩的主要原因包括:减少 token 消耗以降低成本;缩短输入长度以降低延迟;过滤噪声信息,减少对模型生成的干扰,提升回答准确度。
  3. 【回答框架 3】压缩方式多样,如基于规则的截断、基于摘要模型的重写、基于相关性的筛选等,需在信息保留和压缩率之间权衡。
  4. 【回答框架 4】提示压缩还能帮助模型聚焦关键证据,尤其在长上下文场景下,减少信息过载导致的性能下降。
  5. 【关键点 1】提示压缩为对输入给 LLM 的提示内容进行精简优化。
  6. 【关键点 2】RAG 中压缩可降低成本、降低延迟并提升回答质量。
  7. 【关键点 3】压缩需在保留核心信息与减少噪声之间取得平衡。
  8. 【易错点 1】过度压缩可能丢失关键证据,导致回答不准确。
  9. 【易错点 2】将压缩等同于简单截断,忽视语义保留。