专业服务行业面试题更新 2026-08-05
为什么Transformer中前馈网络FFN的隐藏维度通常是输入维度的4倍（d到4d）？
阿里云人工智能专业服务技术原理方案权衡Transformer
考察说明
考察对Transformer架构设计动机和参数权衡的理解
回答思路
- 解释FFN的作用：引入非线性特征变换和通道间信息混合
- 说明4倍扩展提供足够容量进行特征表达和交叉通道整合
- 讨论从d到4d再回到d的瓶颈结构对参数效率和计算复杂度的影响
- 提及实践中4倍是容量与计算开销的平衡选择，并非严格最优
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
