请分别解释 KL 散度的含义及其与逻辑回归损失函数的关系。

Question

Accepted Answer

考察点：考察信息论基础知识及与逻辑回归的关联。回答思路：准确定义 KL 散度及其非对称性 说明逻辑回归交叉熵损失与 KL 散度的联系 指出最小化交叉熵等价于最小化 KL 散度 能解释在优化时省略常数项的原因

考察说明