深圳虾皮信息科技有限公司面试题更新 2026-08-05

你说你之前做过深度学习,那你知道为什么AI会容易忘记上下文吗?

深圳虾皮信息科技有限公司前端/移动开发互联网/IT技术原理问题排查Transformer

考察说明

考察对上下文管理机制与长文本处理瓶颈的理解

回答思路

  1. 能区分训练期与推理期的上下文遗忘
  2. 能解释Transformer自注意力机制的计算限制
  3. 能关联关键知识:上下文窗口、token限制、长距离依赖
  4. 能提出或描述缓解方案(如摘要、检索、滑动窗口)