BERT使用什么位置编码？为何用正弦余弦函数？请介绍其他常见位置编码方式。

Question

Accepted Answer

考察点：考察对位置编码原理和演进的理解。回答思路：正确指出BERT使用可学习位置编码而非正弦余弦 解释正弦余弦位置编码的周期性与外推能力优势 列举RoPE、ALiBi等新型位置编码并简述其特点

考察说明