互联网/IT行业面试题 · 问题拆解 · Transformer
互联网/IT行业相关面试题，按题目行业基础数据聚合。
共 47588 道真题 · 当前筛选命中 77 道 · 更新 2026-08-05
筛选题目已选：问题拆解 · Transformer
考察点
技术栈
第 41 题大模型实现的原理大概是怎样的？ 考察对大语言模型核心原理的整体理解与表述能力第 42 题Transformer中Encoder和Decoder的注意力机制分别是什么？Decoder中的注意力机制能否称为Self-Attention？ 考察Transformer架构中注意力机制的类型区分与原理理解第 43 题序列中每个token的embedding经过多层self-attention后变得越来越相似，原因是什么？ 考察对Transformer中self-attention各层表征退化和各向异性现象的理解第 44 题你了解 ChatGPT 的模型和原理吗？请简述其核心工作机制。 考察对大语言模型基础原理的理解深度第 45 题八股:Transformer Encoder 中 FFN 的作用是什么? 考察对 Transformer 前馈网络功能与设计原理的理解第 46 题Transformer的encoder和decoder结构有什么区别？ 考察对Transformer核心组件差异的理解第 47 题实习时你微调过Qwen2，请说说Qwen2的模型结构，以及相比Qwen1做了哪些改进？ 考察对大语言模型结构演进的理解和对比分析能力第 48 题请描述Transformer模型中不同模块（如词嵌入、多头注意力、前馈网络）输入输出张量的维度变化过程。 考察对Transformer内部张量维度流转及多头注意力机制的理解第 49 题Transformer 中的 Q、K、V 分别是什么含义？ 考察对注意力机制核心概念的理解第 50 题请实现多头自注意力机制。 考察对Transformer核心组件的理解与编码实现能力第 51 题请介绍多模态大模型（如视觉-语言模型）的典型网络结构，并说明各模块的作用。 考察对多模态大模型架构组成及其职责的理解第 52 题Qwen与传统的Transformer模型相比,有什么结构上的改进? 考察对大模型架构演进的理解及对比分析能力第 53 题Transformer 中因果注意力和双向注意力的区别是什么？ 考察对 Transformer 注意力机制在不同任务中应用差异的理解第 54 题LLM中常用的激活函数有哪些？ 考察对主流大语言模型架构中激活函数选型的理解第 55 题推导并计算多头注意力机制的时间与空间复杂度 考察对Transformer注意力机制计算复杂度的理解与推导能力第 56 题请讲讲 Transformer 中的自注意力机制是如何工作的？ 考察对自注意力机制原理、计算流程和关键组成部分的理解第 57 题请介绍BERT的模型结构及其核心组件。 考察对BERT架构的理解，包括Transformer层、注意力机制和预训练任务第 58 题如何理解多模态技术，并结合实际场景说明它的应用与挑战？ 考察对多模态概念的理解深度、实际应用认知和工程挑战识别第 59 题Transformer 中 Padding 的策略是什么？ 考察对 Transformer 输入处理中 Padding 机制的理解第 60 题请详细讲解多头注意力机制，以及 Q/K/V 是如何计算的？ 考察对 Transformer 多头注意力机制原理与计算流程的理解