互联网/IT行业面试题更新 2026-08-05
介绍一下Transformer中的位置编码；你还了解其他位置编码方案吗？
字节跳动人工智能互联网/IT技术原理方案权衡
考察说明
考察对Transformer位置编码原理及替代方案的理解深度
回答思路
- 解释为什么要引入位置编码及自注意力对顺序的敏感性
- 说明正弦余弦位置编码的公式、周期性与外推能力
- 对比可学习位置编码、相对位置编码、RoPE等方案的优劣
- 结合具体场景讨论位置编码对长序列和训练稳定性的影响
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
