阿里巴巴面试题更新 2026-08-05

一个MoE模型的总参数量大致由哪些部分构成?如果模型约700亿参数,通常专家部分占多大比例?

阿里巴巴人工智能电商问题拆解技术原理

考察说明

考察对MoE参数构成和量级的估算能力

回答思路

  1. 说明总参数=共享层参数+专家层参数+路由参数
  2. 能给出专家参数占比的合理估算
  3. 能联系常见开源模型(如Mixtral 8x7B)说明量级