Quantization-Aware Training (QAT)

Définition

La Quantization-Aware Training (QAT) est une technique d'optimisation qui integre la simulation de la quantisation pendant l'entrainement du modele, permettant au modele d'apprendre a minimiser l'impact de la quantisation sur sa precision. Contrairement a la Post-Training Quantization (PTQ) qui quantifie les poids apres entrainement, la QAT 'corrige' le modele pendant l'entrainement pour etre robuste a la quantisation. Le mecanisme QAT : des operations de 'fake quantization' sont inserees dans le forward pass — les poids sont quantifies en INT8/INT4 (valeurs discretisees) puis dequantifies en FP32/BF16 pour le calcul effectif. Lors du backward pass, les gradients passent a travers ces operations de quantisation via le Straight-Through Estimator (STE). Le modele apprend ainsi a distribuer ses poids pour minimiser l'erreur de quantisation. Les avantages de QAT sur PTQ : (1) Qualite superieure — le modele apprend a compenser l'erreur de quantisation, reduisant la degradation de 50-70% par rapport a PTQ pour les quantisations agressives (4-bit), (2) Gestion des outliers — le modele apprend a eviter les outliers dans ses activations qui causent des problemes a la quantisation. Les outils QAT pour les LLMs : (1) NVIDIA TensorRT-LLM QAT — pipeline complet de QAT pour les modeles LLaMA/Mistral avec quantisation INT8/INT4 W8A8/W4A16, (2) HuggingFace + bitsandbytes QLoRA — une forme de QAT implicite ou le gradient est calcule sur le modele quantifie, (3) LLM-QAT (PTQ → SFT) — fine-tuner un modele quantifie PTQ pour corriger la degradation. La QAT est plus chere que la PTQ : elle necessite plusieurs passes d'entrainement supplementaires (quelques % du budget total d'entrainement), mais le gain en qualite sur les quantisations agressives (4-bit) est souvent worth it pour les deployments en production ou la precision est critique.