互联网/IT行业面试题更新 2026-08-05
请手写实现一个 cross-attention 层,并说明其与 self-attention 的区别。
字节跳动人工智能互联网/IT编码实现技术原理PyTorch
回答思路
- 正确实现 Q、K、V 的线性投影
- 展示跨序列(source 与 target)的 Q、K、V 来源差异
- 正确计算缩放点积注意力并应用 softmax
- 说明维度兼容性与 mask 处理的一般思路
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。