阿里巴巴面试题更新 2026-08-05

为什么通常采用LLM最后一层隐藏状态做pooling?

阿里巴巴人工智能电商技术原理方案权衡LLM

考察说明

考察对语言模型表征生成机制的理解及其在下游任务中的应用

回答思路

  1. 解释最后一层隐藏状态包含完整的语义和上下文信息
  2. 说明与早期层相比,最后一层更贴合目标任务
  3. 对比其他pooling方式如平均池化、CLS等
  4. 讨论在生成式模型或回归任务中使用最后一层隐藏状态的合理性
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。