百度面试题更新 2026-08-05
请解释RMSNorm、PreNorm和PostNorm的区别及其应用场景。
百度人工智能专业服务技术原理方案权衡
考察说明
考察对三种归一化方法原理、位置差异及适用场景的理解
回答思路
- 准确说明RMSNorm的归一化方式（仅基于均方根）与其与LayerNorm的区别
- 解释PreNorm和PostNorm在Transformer结构中的位置差异及对训练稳定性和表达能力的权衡
- 说明各自在LLM中的常见使用场景
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
