教育/培训行业面试题更新 2026-08-05

请描述 Llama 模型的整体架构,并说明其与早期 GPT 架构的主要区别。

好未来人工智能教育/培训技术原理技术选型Transformer

考察说明

考察对主流开源大模型架构的理解与细节掌握

回答思路

  1. 准确描述 Llama 的层数、注意力头数、嵌入维度等可配置结构
  2. 说明 RoPE、RMSNorm、SwiGLU 等关键模块的作用
  3. 对比 Llama 与 GPT 在归一化位置、激活函数等方面的差异