手撕 RoPE：对比 llama GitHub 源码中 rope 介绍与你的实现，说明区别和改进点。

Question

Accepted Answer

考察点：考察对旋转位置编码原理与源码理解的一致性及细节掌握。回答思路：正确推导 RoPE 旋转公式及应用位置 对比源码实现细节，如高频/低频、频率缓存 说明自己实现的差异、边界或性能问题 讨论扩展序列长度的方案或改进方向

考察说明