百度面试题更新 2026-08-05

介绍Self-Attention的计算公式,为什么除以根号下dk。

百度人工智能专业服务技术原理

考察说明

考察对Transformer核心机制的理解及数学细节的掌握

回答思路

  1. 准确写出Self-Attention的关键公式
  2. 解释softmax输入缩放的重要性
  3. 说明除以根号dk对数值稳定性和梯度的影响
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。