腾讯面试题 · 问题拆解 · Transformer
腾讯相关面试题,按最终去重题目聚合。
共 3056 道真题 · 当前筛选命中 5 道 · 更新 2026-08-05
筛选题目已选:问题拆解 · Transformer
考察点
技术栈
第 1 题Transformer 中 Padding 的策略是什么? 考察对 Transformer 输入处理中 Padding 机制的理解第 2 题Attention为什么要除以根号dk? 考察对Transformer中缩放点积注意力机制原理的理解第 3 题请谈谈Transformer是如何实现并行化计算的。在计算注意力得分时,为什么通常要对点积结果进行缩放(即除以根号dk)? 考察Transformer并行计算原理及注意力机制中缩放因子的数学动机第 4 题大模型实现的原理大概是怎样的? 考察对大语言模型核心原理的整体理解与表述能力第 5 题请讲讲Transformer中的并行化,以及为什么注意力计算中要除以根号dk? 考察对Transformer并行化原理和注意力机制缩放因子的理解