小红书面试题更新 2026-08-05

针对ReLU的缺点,有哪些改进方案?

小红书人工智能专业服务技术原理技术选型

考察说明

考察对ReLU改进方法和现代激活函数的了解

回答思路

  1. 列举Leaky ReLU、PReLU、ELU等改进
  2. 说明各自解决神经元死亡的设计
  3. 能联系实际模型如LLaMA使用SwiGLU