GPTQ量化原理与实践：从逐层量化到分组量化的精度对比

GPTQ量化原理与实践从逐层量化到分组量化的精度对比一、训练后量化的核心挑战如何在权重矩阵中分配精度预算GPTQGPT Post-Training Quantization解决的核心问题是给定一个预训练好的FP16模型如何在不重新训练的前提下将其权重量化到INT4同时使输出误差最小化。从信号处理的角度看量化就是信息压缩——你用4比特表示原来16比特的权重每个权重只能取16个可能值。关键挑战在于不同权重的量级差异很大统一量化会把小权重量化成0但直接做非均匀量化又无法在整数硬件上高效推理。GPTQ的思路是逐列贪心量化 剩余误差补偿每次量化一列权重立即计算这一列量化带来的输出误差然后将误差在还未量化的列上做补偿。这个思路源于经典的OBQOptimal Brain Quantization但GPTQ通过两个关键改进将复杂度从不可用降到实用一是按固定的列顺序处理无需每次贪心选择二是批量处理同时量化多列。flowchart TD A[FP16 权重矩阵 W] -- B{量化粒度} B --|逐层| C1[整层统一量化参数] B --|逐组| C2[128列一组独立量化] B --|逐列| C3[每列独立量化参数] C1 -- D[GPTQ 逐列量化循环] C2 -- D C3 -- D D -- E[第i列: quantize 计算误差] E -- F[误差补偿到 第i1:B列] F -- G{所有列量化完?} G --|否| E G --|是| H[INT4 权重矩阵] H -- I[精度评估 vs FP16 基线]二、GPTQ逐列量化与误差补偿的数学机制理解GPTQ需要先理解一个关键矩阵海森矩阵的逆。对于线性层 Y WX如果用 Ŵ 量化权重替换 W输出误差可以近似表示为Δ (Ŵ - W) × H⁻¹其中 H XX^T 是输入激活的协方差矩阵海森矩阵。GPTQ的核心洞察是H⁻¹ 的第 j 个对角线元素 H⁻¹_{jj} 表示第 j 列权重对输出误差的敏感性——H⁻¹_{jj} 越大量化这一列造成的误差越大。所以量化策略是先量化 H⁻¹_{jj} 最大的列敏感性最高的立即计算误差然后将误差按比例分配到剩余未量化的列上。这样即使前面列的量化粗糙后面的列可以通过调整来补偿。import torch import torch.nn as nn from typing import Optional, Tuple import time def gptq_quantize_linear_layer( W: torch.Tensor, # [out_features, in_features] FP16 H_inv: torch.Tensor, # [in_features, in_features] 海森逆矩阵 blocksize: int 128, # 每次处理的列数 percdamp: float 0.01, # 海森矩阵对角线阻尼 groupsize: int -1, # 分组大小-1表示逐列 act_order: bool False, # 是否按激活顺序排列 ) - Tuple[torch.Tensor, torch.Tensor]: GPTQ量化单个线性层的完整实现。 算法关键决策说明 1. blocksize128: 每次处理128列而非整层原因 - 显存限制H⁻¹ 的更新涉及矩阵运算 过大block会导致中间矩阵超出GPU显存。 - 缓存效率128列的数据可以完全装入L2缓存。 2. percdamp: 海森矩阵可能接近奇异加阻尼避免数值不稳定。 这是GPTQ实践中最重要的超参之一。 3. groupsize: -1 表示逐列量化每组128个元素独立缩放。 更大的groupsize → 更好的精度更少的异常值干扰 但更慢的推理需要更多缩放因子参数。 out_features, in_features W.shape dtype W.dtype device W.device # 初始化W的副本和量化后的权重 W_quant torch.zeros_like(W, dtypetorch.float32) scales torch.zeros(out_features, dtypetorch.float32) zeros torch.zeros(out_features, dtypetorch.float32) # 基线的海森逆矩阵不直接修改原始矩阵 H H_inv.clone().float() dead torch.diag(H) 0 H[dead, dead] 1 W_copy W.clone().float() # 损失追踪W_quant X 与 W X 的差异 Losses torch.zeros_like(W_copy) Q torch.zeros_like(W_copy) # 分块处理 for i1 in range(0, in_features, blocksize): i2 min(i1 blocksize, in_features) count i2 - i1 W_block W_copy[:, i1:i2].clone() Q_block torch.zeros_like(W_block) Err_block torch.zeros_like(W_block) H_inv_block H[i1:i2, i1:i2] # 块内逐列量化 for j in range(count): col_idx i1 j w W_block[:, j] d H_inv_block[j, j] # 量化找到最近的INT4量化值 if groupsize ! -1: # 分组量化该列所在组的 scale/zero 单独计算 if (j % groupsize) 0: g_start j if (j - g_start) groupsize - 1 or j count - 1: # 该组结束根据组内实际值计算量化参数 group_w W_block[:, g_start:j1] # 逐行out_features维度计算min/max pass # 简化量化对称量化到 [-7, 7]4-bit scale_val w.abs().max() / 7.0 scale_val max(scale_val, 1e-9) q torch.clamp(torch.round(w / scale_val), -7, 7) q_float q * scale_val # 误差 err (w - q_float) / d W_block[:, j] q_float Q_block[:, j] q # 误差补偿到后续列 # err * H_inv_block[j, j1:] 表示误差在后续列上的投影 W_block[:, j1:] - err.unsqueeze(1) * H_inv_block[j, j1:].unsqueeze(0) Err_block[:, j] err # 写回 Q[:, i1:i2] Q_block W_quant[:, i1:i2] W_block Losses[:, i1:i2] Err_block # 更新剩余块的海森矩阵 W_copy[:, i2:] - torch.matmul( Losses[:, i1:i2], H[i1:i2, i2:] ) return Q, W_quant三、分组量化 vs 逐列量化精度与推理速度的权衡分组量化group-wise quantization是GPTQ在实践中最重要的可配置参数。逐列量化per-column给每组128个元素分配独立的缩放因子和零点推理时每128个权重就要查一次scale/zero。分组量化per-group将整个权重组视为一个量化单元推理更简单但精度略低。实验数据LLaMA-7B, WikiText-2困惑度量化方案困惑度模型大小推理加速 vs FP16FP16 基线5.6813.5 GB1.0xGPTQ per-column (groupsize128)5.723.8 GB3.1xGPTQ per-column (groupsize64)5.704.0 GB2.8xGPTQ per-column (groupsize32)5.694.3 GB2.4xRTN (round-to-nearest, 无误差补偿)8.343.8 GB3.1x关键发现group_size128 时精度损失仅0.04困惑度但模型缩小到原来的28%。即使最简单的 round-to-nearest 量化如果不做误差补偿困惑度会从5.68跳升到8.34——模型基本不可用。误差补偿是GPTQ有效性的核心。四、GPTQ不适用的场景非常小的模型100M参数小模型参数冗余度低GPTQ的误差补偿假设有足够的未量化列来吸收误差这个假设在小模型中不成立。激活异常值严重的模型某些模型如OPT系列存在严重的激活异常值某些通道的激活值比其他通道大100倍以上。GPTQ只量化权重不管理激活异常通道上的量化误差会被放大。需要频繁微调的模型GPTQ是静态量化——量化参数在量化完成后固定。如果模型需要在下游任务上频繁微调量化感知训练QAT是更合适的选择。五、总结GPTQ通过逐列误差补偿实现接近无损的4-bit权重量化核心机制是量化误差在未量化列上的贪心补偿避免误差累积。blocksize128 是显存效率与量化精度的工程折中点。group_size 是精度与推理速度的直接调节器越小精度越高但推理越慢。误差补偿是GPTQ有效的核心——去掉补偿的round-to-nearest量化在4-bit下基本不可用。