互联网/IT行业面试题更新 2026-08-05

你觉得 GLM 第一代的特殊结构有什么优劣?(作为 prefix LM,训练时采用自回归空白填充,并保持上下文部分全可见)

北京智谱华章科技人工智能互联网/IT技术原理方案权衡

考察说明

考察对 GLM 语言模型架构设计及其在生成与理解任务上的能力权衡

回答思路

  1. 说明前缀语言模型(prefix LM)的自回归空白填充训练目标
  2. 分析其相比标准因果 LM 在理解上下文的优势(如双向注意力)
  3. 指出其在长文本生成或推理效率上的潜在劣势
  4. 能够联系实际任务场景,如 NLU 与生成性能的平衡