互联网/IT行业面试题更新 2026-08-05

请描述Transformer模型中不同模块(如词嵌入、多头注意力、前馈网络)输入输出张量的维度变化过程。

360集团人工智能互联网/IT问题拆解技术原理Transformer

考察说明

考察对Transformer内部张量维度流转及多头注意力机制的理解

回答思路

  1. 能准确说明词嵌入后维度为序列长度×嵌入维度
  2. 清楚多头注意力中Q、K、V的拆分与拼接维度变化
  3. 能描述残差连接、层归一化前后维度保持不变
  4. 能说明前馈网络内部维度扩张后再恢复的过程
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。