什么是旋转位置编码，它解决了什么问题，为什么有效？

Question

Accepted Answer

考察点：考察对RoPE原理、动机及有效性的理解。回答思路：准确说明RoPE通过旋转矩阵为token引入位置信息 指出其解决相对位置依赖与绝对位置编码的问题 解释其数学性质如相对位置内积、外推性 说明实际应用如LLaMA、Qwen中的使用

考察说明