快手面试题 · Transformer
快手相关面试题，按最终去重题目聚合。
共 3254 道真题 · 当前筛选命中 53 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 41 题请介绍Transformer的核心组件，并说明每个组件的作用。 考察对Transformer架构关键模块及其功能的理解第 42 题请介绍一下 BERT 的模型原理和核心特点。 考察对 BERT 预训练模型架构、训练任务及关键机制的理解第 43 题Transformer的Attention计算过程中为什么要对QK的点积进行scale？ 考察对Attention机制中数值稳定性和Softmax梯度的理解第 44 题请介绍BERT的模型结构及其核心组件。 考察对BERT架构的理解，包括Transformer层、注意力机制和预训练任务第 45 题RoPE 旋转位置编码是如何运作的？为什么它适合长文本？ 考察对 RoPE 数学原理及其长文本外推优势的理解第 46 题Encoder-Decoder、Decoder-Only 哪种方式更好？ 考察对两类模型架构的适用场景和技术权衡的理解第 47 题请介绍你对大模型推理中 KV Cache 的理解，包括它的作用、存储内容以及可能带来的问题。 考察对大模型推理优化核心机制的理解深度第 48 题Transformer现有架构在什么情况下，哪个模块会导致用户意图判别不准？ 考察对Transformer各模块原理及意图判别失败场景的理解第 49 题目前大模型架构有哪些？ 考察对大模型主流架构类型的掌握与分类能力第 50 题在多头注意力中，存在哪些常见的变体？如何设计新的变体？ 考察对注意力机制变体的了解与设计思考第 51 题请详细说明Transformer中Attention机制的q、k、v分别代表什么，以及它们如何通过计算得到最终输出，其中Softmax起到什么作用？ 考察对注意力机制核心原理、计算流程及Softmax作用的理解第 52 题请解释 Transformer 中 Self-Attention 和 Target Attention 的区别。 考察对注意力机制的理解以及两种注意力在不同场景下的应用第 53 题讲讲MHA、Attention公式，为什么需要除以根号 dk。 考察对Transformer核心组件及缩放点积注意力原理的掌握