请解释一下 LSTM 的核心工作原理，并说明它解决了什么问题。
考察说明
考察对 LSTM 结构及其设计动机的掌握程度，以及是否理解其在处理序列数据中的作用。
回答思路
- 【回答框架 1】LSTM 是一种特殊的循环神经网络，旨在解决标准 RNN 在长序列训练中出现的梯度消失和梯度爆炸问题。其核心是引入门控机制，通过细胞状态 C_t 的线性传递，使信息能在长时间跨度内稳定流动。
- 【回答框架 2】LSTM 每个单元由三个门组成：遗忘门、输入门和输出门。遗忘门决定从细胞状态中丢弃哪些信息，输入门决定哪些新信息被存入细胞状态，输出门则控制基于当前细胞状态输出什么信息。门控通常使用 sigmoid 函数，取值范围在 0 到 1 之间，表示通过信息的比例。
- 【回答框架 3】细胞状态 C_t 的更新公式为：C_t = f_t * C_{t-1} + i_t * C_t_tilde，其中 f_t 是遗忘门输出，i_t 是输入门输出，C_t_tilde 是由当前输入和上一隐藏状态计算出的候选状态。最终隐藏状态 h_t = o_t * tanh(C_t)，其中 o_t 是输出门输出。
- 【回答框架 4】这种结构使梯度能够在细胞状态中持续传递，有效缓解了梯度消失问题，从而能够捕捉长距离依赖关系。LSTM 广泛应用于自然语言处理、语音识别、时间序列预测等领域，是序列建模的经典方案。
- 【关键点 1】LSTM 通过门控机制控制信息流入、流出和保留，解决标准 RNN 的梯度消失问题。
- 【关键点 2】三个门分别是遗忘门、输入门和输出门，均使用 sigmoid 激活函数。
- 【关键点 3】细胞状态 C_t 是信息传递的主线，更新公式中旧状态与新候选状态加权融合。
- 【关键点 4】最终隐藏状态由输出门和经过 tanh 激活的细胞状态共同决定。
- 【易错点 1】LSTM 虽缓解了梯度消失，但并非绝对消除，极端长序列下仍可能出现梯度问题。
- 【易错点 2】门控机制增加了参数数量，训练开销和学习难度相比 RNN 更高。
- 【易错点 3】LSTM 不能并行化计算，训练速度较慢，在数据量极大时需考虑 Transformer 等替代方案。