人工智能面试题更新 2026-08-05

BERT和Transformer的区别是什么?

网易人工智能互联网/IT技术原理技术选型BERTTransformer

考察说明

考察对模型架构演进和预训练任务的理解

回答思路

  1. 能说明Transformer是基础架构,BERT是基于Transformer的预训练模型
  2. 能指出BERT使用Transformer的Encoder部分,而非Decoder
  3. 能解释BERT的预训练任务(MLM和NSP)与Transformer的差异
  4. 能说明BERT在下游任务中的微调应用
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。