商汤科技面试题更新 2026-08-05

为什么用RoPE不用绝对位置编码,RoPE能表示绝对位置信息吗?

商汤科技人工智能技术原理方案权衡

考察说明

考察对RoPE原理及其与绝对位置编码关系的理解

回答思路

  1. 说明绝对位置编码的局限(如外推性差、无法捕获相对位置)
  2. 解释RoPE通过旋转矩阵注入位置信息,使attention依赖相对位置
  3. 明确RoPE本身能编码绝对位置,但方式不同
  4. 提到RoPE更好的外推性和相对位置建模优势
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。