人工智能面试题更新 2026-08-05

在构建检索增强生成(RAG)系统时,选择嵌入模型(Embedding Model)应基于哪些关键因素?请给出选择时的考虑点。

人工智能技术选型方案权衡RAG

考察说明

考查候选人对RAG系统中嵌入模型选择维度的全面理解。

回答思路

  1. 【回答框架 1】嵌入模型的核心作用是将文本映射为向量,其质量直接决定检索召回效果。选择时首先考虑模型性能,包括在公开基准(如MTEB)上的得分,以及针对领域数据的测评,因为不同模型在语义相似度、跨语言任务上表现差异显著。
  2. 【回答框架 2】其次考虑模型规模与推理成本。大型嵌入模型可能效果更好但延迟高、资源占用大,需根据QPS要求和硬件限制(如GPU显存)平衡。通常使用中等规模模型(如bge-large)可达到不错效果。
  3. 【回答框架 3】还需考虑模型的上下文长度限制,因为长文档可能被截断,影响向量表征。若处理长文档,需选择支持较长序列的模型或采用分块策略。
  4. 【回答框架 4】此外,需评估模型对特定领域(如代码、医疗、法律)的适配度,可能需在领域语料上微调或选择领域预训练模型。最后,需考虑生态兼容性,如模型是否支持批量推理、是否容易集成到现有框架(如LangChain)。
  5. 【回答框架 5】最终应通过离线评估(如召回率、命中率)和在线指标(如用户反馈)进行选择,并在实际数据集上对比候选模型的性能与成本。
  6. 【关键点 1】模型性能(如MTEB得分)是首要因素,但需结合领域数据测评。
  7. 【关键点 2】模型规模与推理成本需权衡,匹配硬件和延迟要求。
  8. 【关键点 3】上下文长度限制影响长文本处理,需配合分块策略。
  9. 【关键点 4】领域适配性可通过微调或选择专用模型提升。
  10. 【关键点 5】最终选择应基于实际数据集的离线评估和在线反馈。
  11. 【易错点 1】过度依赖公开基准,忽视领域数据下的实际表现。
  12. 【易错点 2】忽视模型推理延迟和硬件成本,导致系统不可用。
  13. 【易错点 3】忽略上下文长度限制,导致长文档信息丢失。