互联网/IT行业面试题更新 2026-08-05

在Transformer的encoder中,感受野理论上覆盖所有token。你认为感受野越大越好还是越小越好?请说明你的判断依据和潜在权衡。

字节跳动人工智能互联网/IT系统设计技术原理Transformer

考察说明

考察对Transformer全局注意力机制原理、性能与计算开销权衡的理解

回答思路

  1. 能解释encoder全局感受野源于自注意力机制
  2. 能分析大感受野在捕捉长距离依赖上的优势
  3. 能指出大感受野带来的计算复杂度、过拟合或局部噪声问题
  4. 能根据任务和模型结构权衡优劣,而非绝对立场
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。