我要招人登录

游戏行业面试题更新 2026-08-05

LLaMA使用的注意力机制是什么？

网易游戏人工智能游戏技术原理技术选型Transformer

考察说明

考察对主流大模型注意力机制原理的掌握程度

回答思路

能准确说明LLaMA使用自回归Transformer架构
能指出其采用旋转位置编码和GQA或MQA等细节
能说明与标准注意力机制的差异及原因