人工智能面试题更新 2026-08-05
大模型训练和推理中常用的位置编码方案有哪些?请分别说明每种编码方式的优势、局限性及适用模型。
百度人工智能专业服务技术原理技术选型方案权衡Transformer
考察说明
考察对位置编码原理、演进和适用场景的深入理解
回答思路
- 能列举绝对位置编码(如正弦)、相对位置编码(如RoPE、ALiBi)、可学习位置编码等主流方案
- 能说明各方案的核心思想与数学形式
- 能指出各方案在长度外推、训练稳定性和推理效率上的优劣
- 能举例说明典型模型采用的编码方案
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。