人工智能面试题 · 问题拆解 · PyTorch
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 48 道 · 更新 2026-08-05
筛选题目已选：问题拆解 · PyTorch
考察点
技术栈
第 41 题详细描述，如果给一个txt存储的文本，从预处理到SFT的训练流程，要包括对数据的预处理、tokenize、forward、loss计算、参数更新，越细越好。 考察大模型SFT全流程的技术细节与工程实现能力第 42 题给定一个7B参数的模型，使用LoRA进行微调时，优化器状态的内存分配是怎样的？请说明优化器所需内存的计算方式。 考察对LoRA参数效率和优化器内存分配的理解第 43 题对于一个约 7B 参数的模型，推理一个 token 大概需要多少显存？请给出估算思路。 考察对模型推理显存估算的工程直觉与计算能力第 44 题在监督微调（SFT）中，如何实现损失函数只计算回答部分而忽略提示词和 padding token？ 考察对 SFT 训练细节、标签构造和损失计算的理解第 45 题请描述 CLIP 模型的整体架构和训练流程。 考察对 CLIP 模型架构和训练细节的理解第 46 题请实现并解释一个 Multi-Head Attention 模块。 考察多头注意力机制的理解、编码实现与代码解释能力第 47 题请手写对比学习的损失函数计算，并说明其关键组件。 考察对比学习损失函数的实现细节与设计理解第 48 题请用PyTorch编写一个Transformer的多头注意力模块，并说明其余结构的实现思路。 考察Transformer多头注意力的编码实现能力与整体架构理解