AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
首页
面试题库
哔哩哔哩面试题
手撕多头注意力机制的实现,并解释为什么缩放因子是…
哔哩哔哩面试题
更新 2026-08-05
手撕多头注意力机制的实现,并解释为什么缩放因子是根号下dk。
哔哩哔哩
人工智能
编码实现
技术原理
PyTorch
考察说明
考察多头注意力机制的实现细节与缩放因子的数学原理
回答思路
能写出Q、K、V线性变换与头部切分
能写出注意力分数计算与softmax归一化
能解释缩放因子防止点积过大导致梯度消失
能说明多头拼接与输出投影
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。
开始模拟面试
登录查看答题指导
换一题
上一题
Unlink 和 delete 的区别是什么?
下一题
Vuex 和 Pinia 的区别有哪些?
本题还出现在
人工智能面试题