互联网/IT行业面试题更新 2026-08-05
在Attention的Softmax计算中，为什么通常要减去输入向量中的最大值？这种处理方式是否适用于其他函数？
网易人工智能互联网/IT风险判断技术原理问题排查
考察说明
考察数值稳定性意识与Softmax特性迁移的判断
回答思路
- 说明减去最大值为防止指数溢出
- 解释数学上等价性：整体平移不影响softmax结果
- 分析其他类似归一化函数（如sigmoid、sparsemax）的处理差异
- 强调此为数值技巧而非数学必需
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
