百度面试题更新 2026-08-05

在序列建模任务中,你会从哪些方面考虑效率优化?请结合具体技术手段说明。

百度人工智能专业服务性能优化技术原理方案权衡Transformer

考察说明

考察对序列模型计算瓶颈的认识及工程优化能力

回答思路

  1. 明确序列建模的计算瓶颈(如自注意力复杂度、RNN时序依赖)
  2. 列举至少两种效率优化技术(如稀疏注意力、剪枝、蒸馏)
  3. 说明优化带来的收益(速度、显存)与精度权衡
  4. 体现对工程实践与可落地性的理解