阿里巴巴面试题更新 2026-08-05

请介绍 Llama2 的网络架构,并说明它使用了哪些注意力机制。

阿里巴巴人工智能电商技术原理方案权衡

考察说明

考察对 Llama2 架构细节和注意力机制的理解

回答思路

  1. 能说清 Llama2 是仅解码器的 Transformer 结构
  2. 能提及 RMSNorm、SwiGLU 激活、旋转位置编码
  3. 能说明因果注意力并讲解 GQA 分组查询注意力
  4. 能解释与 MHA 的区别及 GQA 的动机
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。