人工智能面试题更新 2026-08-05
介绍一下LLaMA的位置编码方式
商汤科技人工智能技术原理
考察说明
考察对LLaMA模型位置编码原理及其与标准Transformer差异的理解
回答思路
- 准确说明LLaMA使用旋转位置编码(RoPE)而非原始Transformer的正弦位置编码
- 解释RoPE通过旋转矩阵注入相对位置信息
- 说明RoPE对长序列外推能力的改进
- 提及LLaMA中未使用偏置项(bias)的设置
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。