AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
首页
面试题库
华为HUAWEI面试题
Transformer中的自注意力机制为何要除以…
华为HUAWEI面试题
更新 2026-08-05
Transformer中的自注意力机制为何要除以dk?如果不除以dk,梯度会有什么问题?
华为HUAWEI
人工智能
电子/半导体
问题拆解
技术原理
考察说明
考察对注意力缩放原理与数值稳定性的理解
回答思路
说出dk为注意力头维度
解释点积随维度增大导致方差变大的问题
说明除以dk对softmax梯度稳定性的作用
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。
开始模拟面试
登录查看答题指导
换一题
上一题
三极管共射极放大器、三极管非门、OD门,用这个电路驱动一个LED,要将LED接到哪,亮度大小该调节哪个电阻?
下一题
请详细介绍你的[你的项目]在结构设计和核心算法原理上的关键思路,以及生产装配流程中遇到的具体问题与解决方法。
本题还出现在
电子/半导体行业面试题
人工智能面试题