阿里巴巴面试题更新 2026-08-05
Multi-Head Attention为什么要切分？为什么要做成多头的？
阿里巴巴人工智能电商系统设计技术原理Transformer
考察说明
考察对Transformer多头注意力机制原理及优势的理解
回答思路
- 解释多头切分的动机：让模型在不同子空间中学习不同特征表示
- 说明多头注意力相比单头注意力的优势：增强表达能力和关注不同位置
- 能结合计算和效果平衡，说明头数的选择与维度分配
- 举例说明多头如何分别关注语法、语义等不同方面
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
