淘宝闪购面试题 · 技术原理 · tech:transformer
淘宝闪购相关面试题，按最终去重题目聚合。
共 1902 道真题 · 当前筛选命中 7 道 · 更新 2026-08-05
筛选题目已选：技术原理 · tech:transformer
考察点
技术栈
第 1 题请手动实现多头注意力机制（MHA）的核心代码。 考察对Transformer多头注意力机制的深入理解与编码实现能力第 2 题Baichuan和Qwen系列模型在设计上有哪些主要区别？ 考察对大模型家族技术路线和控制点的理解第 3 题MHA、GQA、MQA三种注意力机制的区别是什么？ 考察对注意力机制效率优化演进的理解第 4 题请介绍Transformer中的Attention机制，并解释为什么在计算中要除以sqrt(dk)。 考察对Transformer核心机制的原理理解与设计动机第 5 题Transformer 中多头注意力为什么要将注意力分数除以 sqrt(dk)？ 考察注意力机制数值稳定性与理论依据第 6 题谈谈你对ChatGPT本身的理解，包括它的工作原理和核心能力。 考察对ChatGPT技术原理、能力边界和局限性的理解第 7 题Self Attention和Position Embedding通常是直接相加的，如果改成concat会有什么影响？ 考察对Transformer输入融合方式及其对模型语义和参数量的理解