人工智能面试题 · 编码实现 · PyTorch
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 85 道 · 更新 2026-08-05
筛选题目已选：编码实现 · PyTorch
考察点
技术栈
第 61 题请手写并解释多头注意力（Multi-Head Attention）机制的代码实现。 考察多头注意力的实现细节与原理理解第 62 题在不修改数据集的前提下，如何修改PyTorch代码解决多分类中的数据不平衡问题？ 考察在不改动数据时通过代码层面处理不平衡的能力第 63 题Transformer和LLaMA的Layer Normalization有什么区别？请手写RMSNorm。 考察对模型架构中归一化机制的理解及编码实现能力第 64 题SFT阶段如何避免对padding token计算loss？ 考察大模型微调时对padding token的loss屏蔽处理及其原理第 65 题请手写实现Transformer Decoder层，并说明如何实现mask机制以支持自回归生成。 考察对Transformer Decoder结构、自注意力mask和因果掩码的实现能力第 66 题如何使用 PyTorch 实现 Grouped Query Attention（GQA）？ 考察对多头注意力机制的变体理解及 PyTorch 编码实现能力第 67 题手撕 RoPE：对比 llama GitHub 源码中 rope 介绍与你的实现，说明区别和改进点。 考察对旋转位置编码原理与源码理解的一致性及细节掌握第 68 题请用PyTorch定义一个简单的神经网络，例如一个两层全连接网络。 考察PyTorch中网络定义的基本能力和代码实现第 69 题请手写实现一个 cross-attention 层，并说明其与 self-attention 的区别。 考察对注意力机制原理的理解及代码实现能力第 70 题请手写并讲解一个使用PyTorch实现的模型训练pipeline,包含数据加载、模型定义、训练循环和评估过程。 考察PyTorch训练流程的完整性、正确性和代码组织能力第 71 题请实现三个函数：IoU计算、Focal Loss和ROI Pooling，并说明各自的输入输出。 考察深度学习经典组件实现及边界情况处理能力第 72 题请手写实现多头注意力机制（MHA）的核心代码。 考察对Transformer多头注意力机制的理解与编码实现能力第 73 题PyTorch怎么创建层 考察PyTorch中自定义网络层的基本方法与接口规范第 74 题请手写实现一个 multi-head attention 模块，并说明其计算过程。 考察对 multi-head attention 原理与实现的掌握，以及代码正确性与清晰度第 75 题详细描述，如果给一个txt存储的文本，从预处理到SFT的训练流程，要包括对数据的预处理、tokenize、forward、loss计算、参数更新，越细越好。 考察大模型SFT全流程的技术细节与工程实现能力第 76 题有没有用PyTorch搭过网络？ 考察PyTorch建模实操经验与网络搭建能力第 77 题请用 PyTorch 编写 SFT 训练中的损失计算代码，并说明为什么需要将标签序列右移一位。 考察 masked language modeling 损失实现与序列对齐理解第 78 题在PyTorch中，如何冻结模型的某些层或参数？请说明常见方法及注意事项。 考察对PyTorch模型参数冻结机制的理解及实际应用第 79 题在监督微调（SFT）中，如何实现损失函数只计算回答部分而忽略提示词和 padding token？ 考察对 SFT 训练细节、标签构造和损失计算的理解第 80 题以大模型预测 token 为例，请讲清楚 Beam Search 的搜索树如何构建，以及如何得到最终解码结果（可用 PyTorch 做简单说明）。 考察对 Beam Search 原理、束宽管理与终止条件的理解