我要招人登录

专业服务行业面试题更新 2026-08-05

针对ReLU的缺点，有哪些改进方案？

小红书人工智能专业服务技术原理技术选型

考察说明

考察对ReLU改进方法和现代激活函数的了解

回答思路

列举Leaky ReLU、PReLU、ELU等改进
说明各自解决神经元死亡的设计
能联系实际模型如LLaMA使用SwiGLU