Transformer位置编码为什么选择基于正弦和余弦函数的sincos编码？

Question

Accepted Answer

考察点：考察对sincos位置编码设计原理的理解，包括相对位置和学习特性。回答思路：能说出sincos编码具有相对位置线性表达能力 说明编码值范围稳定且能外推到更长序列 能对比可学习位置编码并讨论其优缺点

考察说明