请描述你对大模型做过哪些剪枝或量化优化，并说明最终线上采用的方案及原因。

Question

Accepted Answer

考察点：考察对大模型压缩技术的理解和实际选型能力。回答思路：能列举剪枝（结构化/非结构化）与量化（PTQ/QAT）等方法及适用场景 说明最终方案的选择依据，如精度损失、加速比、硬件兼容性 对比过不同方案并给出量化或剪枝的具体效果数据

考察说明