度小满面试题 · 问题拆解 · Transformer
度小满相关面试题,按最终去重题目聚合。
共 807 道真题 · 当前筛选命中 5 道 · 更新 2026-08-05
筛选题目已选:问题拆解 · Transformer
考察点
技术栈
第 1 题对于一个BERT模型,假设序列长度为n、隐藏维度为d、层数为l,如何计算其总参数量?请给出估算公式。 考察对Transformer/BERT模型结构的理解及参数量估算能力第 2 题请说明KV Cache在推理时占用的内存量级,并计算它相比不缓存键值时降低了多少时间复杂度。 考察对KV Cache内存代价与计算复杂度收益的量化理解第 3 题分析Transformer的空间复杂度 考察Transformer模型空间复杂度分析能力第 4 题在Transformer模型中,哪个部分通常最占用显存(GPU内存)? 考察对Transformer各组件显存开销来源的理解第 5 题请谈谈你对大模型底层逻辑的理解。 考察对大模型基本原理和技术细节的掌握程度