淘天集团面试题 · tech:bert
淘天集团相关面试题，按最终去重题目聚合。
共 2775 道真题 · 当前筛选命中 7 道 · 更新 2026-08-05
筛选题目已选：tech:bert
考察点
技术栈
第 1 题请介绍BERT系列模型的训练流程，并说明常见变体（如RoBERTa、ALBERT、DistilBERT）的主要改进。 考察对BERT预训练与微调流程的理解及对常见变体的知识广度第 2 题在构建数据集时，你会如何验证其有效性？是否会用传统方法或BERT等模型进行辅助验证？ 考察候选人对数据集质量验证的方法论与技术实践第 3 题用BERT做分类时，softmax应该添加在哪个层级，维度如何选择？ 考察BERT分类头的实现细节与输出维度设计第 4 题用LLM做文本分类时，如何选择encoder架构和decoder架构？ 考察对LLM架构原理及其在分类任务中适用性的理解第 5 题请介绍你对大语言模型和多模态大模型发展脉络的了解，并谈谈 Transformer、BERT、GPT、LLaMA、Qwen 系列以及 o1 推理模型各自的关键贡献与联系。 考察对生成式AI技术演进、代表性模型核心贡献及代际关系的理解第 6 题预训练时为什么要用Masked LM而不是直接预测下一个token？ 考察对语言模型预训练目标设计原理的理解第 7 题请梳理大模型发展历程，从 Transformer 到 BERT、GPT、LLaMA、Qwen 以及 o1 推理模型的主要演进脉络。 考察对模型架构演进和技术路线变迁的理解