人工智能行业面试题 · 问题拆解 · Transformer
人工智能行业相关面试题，按题目行业基础数据聚合。
共 6000 道真题 · 当前筛选命中 17 道 · 更新 2026-08-05
筛选题目已选：问题拆解 · Transformer
考察点
技术栈
第 1 题讲解Transformer的Decoder结构，包括它包含几层Attention，以及Cross Attention在其中的位置和作用。 考察对Transformer Decoder内部结构、Attention层组成及跨注意力机制的理解第 2 题分析Transformer的复杂度 考察对Transformer网络结构和计算复杂度的理解第 3 题介绍Transformer多头注意力机制，并重点说明计算过程。 考察对多头注意力机制原理与计算流程的掌握第 4 题请解释自注意力机制的基本原理，并说明它相对于循环神经网络的优势。 考察对自注意力机制的理解及其在序列建模中的优势第 5 题如果我更改了输入数据的量级，比如将输入的数据从长度100改成了1000，增加了10倍，Transformer的时间复杂度是会怎么变，参数量会怎么变？ 考察Transformer模型对输入序列长度的计算复杂度与参数量理解第 6 题请讲解你读过的 Transformer 源码，并结合代码说明其核心模块。 考察对 Transformer 架构的理解深度与代码阅读能力第 7 题请阐述ViT的结构、计算复杂度以及它如何应用于图像分类。 考察对ViT架构原理、复杂度来源和任务适配的理解第 8 题为什么 Self-Attention 中要对点积结果除以 sqrt(d_k) 做缩放？请解释其数学原理和实际作用。 考察对 Transformer 中注意力缩放机制原理的理解第 9 题讲解Transformer的Encoder结构 考察对Transformer编码器组件、计算流程与设计动机的理解第 10 题当输入长度超过模型的最大长度限制时，常见处理方案有哪些（如padding、截断）？ 考察对长序列处理策略的掌握与权衡第 11 题请解释从Embedding到Transformer的核心工作原理。 考察对Transformer基础架构和Embedding机制的理解第 12 题Transformer的decoder是怎么防止信息泄露的呢？ 考察对Transformer解码器自注意力掩码机制的理解第 13 题请手写并解释Transformer网络的核心结构，包括编码器和解码器的主要组件。 考察对Transformer架构的深入理解与代码实现能力第 14 题BERT一层encoder的transformer block包含了哪些元素，或者说算子是如何forward的？ 考察对Transformer编码器内部结构和前向计算流程的掌握程度第 15 题请讲解Transformer的总体结构及各组成部分的作用。 考察对Transformer核心架构的理解与表达能力第 16 题请阐述一个你最熟悉的视觉语言（VL）模型，包括其核心架构与典型应用场景。 考察对视觉语言模型架构理解、关键机制掌握及实际应用认知第 17 题请解释注意力机制的核心思想及常见实现方式。 考察对序列建模中依赖捕获与加权融合的理解