电子/半导体行业面试题更新 2026-08-05
在计算attention score时如何对padding做mask操作？
华为HUAWEI人工智能电子/半导体编码实现技术原理Transformer
考察说明
考察Transformer中padding mask的原理与实现细节
回答思路
- 解释padding token需要被mask的原因
- 说明mask的具体操作方式（加负无穷或置极大负数）
- 说明mask应加在softmax之前而非之后
- 区分padding mask与causal mask
- 说明实现时如何处理batch内不同长度序列
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
