小红书面试题 · 方案权衡 · Transformer
小红书相关面试题，按最终去重题目聚合。
共 2200 道真题 · 当前筛选命中 8 道 · 更新 2026-08-05
筛选题目已选：方案权衡 · Transformer
考察点
技术栈
第 1 题Encoder中的self-attention和Decoder中的self-attention有什么区别？ 考察对Transformer编码器与解码器注意力机制差异的理解第 2 题使用 KV Cache 之后，效果与改进前相比有什么变化？请分析。 考察对 KV Cache 作用、效果与代价的理解第 3 题请说明 Transformer 与 RNN 在理论架构上的核心区别，以及这些区别在实际计算效率上的体现。 考察对 Transformer 与 RNN 架构差异及其计算特性的理解第 4 题八股：多头和单头的情况下有什么区别？ 考察对多头注意力机制原理、计算与效果差异的理解第 5 题Transformer的normalization,为什么用LayerNorm不用其他的;介绍RMSNorm 考察对Transformer归一化机制的理解与归一化技术选型的权衡第 6 题介绍几种Attention技术的不同 考察对多种Attention变体的理解与区分能力第 7 题多头和单头的区别在哪里？ 考察对多头注意力机制与单头注意力机制的理解和对比能力第 8 题请解释 Self-Attention、Cross-Attention 和 GQA（Grouped Query Attention）在 Transformer 中的作用与区别。 考察对 Transformer 注意力机制变体及原理的理解