我要招人

腾讯面试题更新 2026-08-05

训练或推理 Transformer 模型时有哪些常用加速方式？

腾讯人工智能互联网/IT性能优化技术选型Transformer

考察说明

考察对模型计算优化方法的广度与原理理解

回答思路

  1. 从算子优化、硬件适配、模型架构压缩三层面回答
  2. 提及并行策略如数据并行、张量并行
  3. 能说明推理阶段优化如 KV Cache、量化
  4. 有具体工具或框架佐证