百度面试题更新 2026-08-05
请解释 Transformer 中因果注意力与双向注意力的核心区别,并说明各自适用的场景。
百度人工智能专业服务技术原理技术选型Transformer
考察说明
考察对注意力机制两种形态的理解及场景适配能力
回答思路
- 准确说明因果注意力禁止未来信息、双向注意力可见全局
- 解释掩码机制在因果注意力中的实现
- 结合自回归生成和编码任务说明适用场景
- 指出因果注意力用于训练时的高效并行特性
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。