请阐述 ELMo 技术的核心原理，并分析它的优点和缺点。它是否具备处理一词多义的能力？请解释原因。
考察说明
考查对 ELMo 模型原理、特性及其在多义词表示方面能力的理解。
回答思路
- 【回答框架 1】ELMo 是一种基于双向 LSTM 的深度上下文词向量模型，它通过在大规模语料上预训练语言模型来获得词的表示。其核心特点是动态词向量，即同一个词在不同上下文中会得到不同的表示。
- 【回答框架 2】ELMo 的优点包括能够捕捉词义随上下文的变化，从而处理一词多义问题；它可以作为特征附加到下游模型的输入中，提升性能；同时利用了深度双向信息，能够捕捉更丰富的语义和句法特征。
- 【回答框架 3】ELMo 的缺点包括：模型结构相对复杂，训练和推理成本较高；只利用了单向或双向的 LSTM，对长距离依赖的建模能力有限；得到的表示是多个层的线性组合，可解释性不强。
- 【回答框架 4】ELMo 确实可以做到一词多义，因为它生成的词向量是上下文的函数，同一个词在不同语境下有不同的向量表示，从而可以实现多义区分。这是由于其预训练目标以及动态生成的机制导致的。
- 【关键点 1】ELMo 是动态词向量模型，基于双向语言模型。
- 【关键点 2】优点：捕捉上下文相关语义、可处理多义词、提升下游任务性能。
- 【关键点 3】缺点：计算量大、LSTM 长依赖有限、可解释性弱。
- 【关键点 4】能处理一词多义，因为向量随上下文变化。
- 【易错点 1】ELMo 不是静态词向量，不能与 Word2Vec 等混为一谈。
- 【易错点 2】ELMo 的表示是分层组合，不能简单认为只有顶层有用。
- 【易错点 3】一词多义的能力依赖于上下文，短语境下可能区分不明显。