人工智能面试题更新 2026-08-05

请手写正余弦位置编码的公式,并简要说明其设计思路。

字节跳动人工智能互联网/IT编码实现技术原理Transformer

考察说明

考察对Transformer位置编码原理的掌握与推导能力

回答思路

  1. 写出位置编码公式:PE(pos,2i)=sin(pos/10000^(2i/d)), PE(pos,2i+1)=cos(pos/10000^(2i/d))
  2. 解释维度、频率随维度递减的特点
  3. 说明为何选择三角函数及其相对位置线性表示性质
  4. 能联系注意力机制说明位置信息注入方式
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。