微软面试题更新 2026-08-05
请解释交叉熵与KL散度的定义、关系，并说明二者在机器学习中的应用区别。
微软滴滴人工智能专业服务技术原理
考察说明
考察对信息论中交叉熵与KL散度概念的理解、数学关系及其在损失函数设计中的实际意义
回答思路
- 准确给出交叉熵与KL散度的数学定义式
- 说明交叉熵等于熵加KL散度的关系
- 指出最小化交叉熵等价于最小化KL散度（固定真实分布时）
- 能举例说明在分类任务和生成模型（如变分自编码器）中的不同用途
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
