互联网/IT行业面试题更新 2026-08-05
在Transformer的encoder中,感受野理论上覆盖所有token。你认为感受野越大越好还是越小越好?请说明你的判断依据和潜在权衡。
字节跳动人工智能互联网/IT系统设计技术原理Transformer
考察说明
考察对Transformer全局注意力机制原理、性能与计算开销权衡的理解
回答思路
- 能解释encoder全局感受野源于自注意力机制
- 能分析大感受野在捕捉长距离依赖上的优势
- 能指出大感受野带来的计算复杂度、过拟合或局部噪声问题
- 能根据任务和模型结构权衡优劣,而非绝对立场
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。