互联网/IT行业面试题更新 2026-08-05
Transformer 中因果注意力和双向注意力的区别是什么？
字节跳动人工智能互联网/IT问题拆解技术原理Transformer
考察说明
考察对 Transformer 注意力机制在不同任务中应用差异的理解
回答思路
- 准确描述因果注意力掩码限制只能看到当前位置及之前的信息
- 准确描述双向注意力可以同时看到序列中所有位置的信息
- 说明两种注意力分别适用的典型任务（如自回归生成 vs 编码任务）
- 能够解释掩码机制如何影响训练和推理
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
