阿里云面试题更新 2026-08-05

为什么某些模型参数量会比基础规模多出约3倍,主要多在哪里?

阿里云人工智能专业服务问题拆解技术原理

考察说明

考察对模型参数量构成和不同模块规模差异的理解

回答思路

  1. 能够指出模型总参数量由嵌入层、注意力、前馈层等构成
  2. 说明各模块参数量随隐藏层维度、层数和词表大小的变化关系
  3. 能结合具体模型结构(如层数、头数、词汇量)估算参数分布
  4. 提及额外组件(如偏置、归一化层、位置编码)对参数总量的影响