美团面试题更新 2026-08-05

DeepSeek 用的 MLA(Multi-head Latent Attention)注意力机制是如何实现的?

美团人工智能互联网/IT性能优化技术原理Transformer

考察说明

考察对 MLA 压缩注意力机制原理的理解

回答思路

  1. 能说明 MLA 通过低秩压缩 KV 减少缓存
  2. 能解释查询、键、值的联合压缩或解耦
  3. 能提及与标准 MHA 的区别及其收益