阿里巴巴面试题更新 2026-08-05
请介绍 Llama2 的网络架构,并说明它使用了哪些注意力机制。
阿里巴巴人工智能电商技术原理方案权衡
考察说明
考察对 Llama2 架构细节和注意力机制的理解
回答思路
- 能说清 Llama2 是仅解码器的 Transformer 结构
- 能提及 RMSNorm、SwiGLU 激活、旋转位置编码
- 能说明因果注意力并讲解 GQA 分组查询注意力
- 能解释与 MHA 的区别及 GQA 的动机
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。