人工智能面试题更新 2026-08-05

Llama2 的 transformer block 相比原始 transformer 做了哪些关键改变?

商汤科技人工智能技术原理技术选型Transformer

考察说明

考察对 Llama2 架构中 RMSNorm、RoPE、SwiGLU、PreNorm 等核心组件的理解

回答思路

  1. 准确说明 RMSNorm 替代 LayerNorm 及作用
  2. 准确说明 RoPE 旋转位置编码的作用与实现
  3. 准确说明 SwiGLU 激活函数及门控机制
  4. 说明 PreNorm 残差结构及其训练稳定性优势
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。