请解释MLA（多头潜在注意力）的基本原理及其在大模型中的作用。

Question

Accepted Answer

考察点：考察对大模型关键注意力机制变体的理解深度。回答思路：能清晰说明MLA的核心思想：通过低秩压缩减少KV缓存 能指出MLA与标准多头注意力的区别和优势 能结合实际说明MLA在推理性能或内存上的收益

考察说明