Aller au contenu principal
Expert Cybersécurité & IAv9.0
Centres de ressources conformité
Besoin d'un accompagnement expert ?
Devis personnalisé sous 24h — audit, conformité, incident
Checklists Sécurité — Audit & Durcissement
Formats disponibles
📄 PDF 📊 Excel 🌐 Web

11 checklists professionnelles couvrant 2 200+ points de contrôle. Téléchargement gratuit, aucune inscription.

Entraînement en précision FP8 (FP8 Training)

ia

Définition

L'entraînement en précision FP8 est une technique qui utilise un format numérique à virgule flottante sur huit bits pour représenter les poids, les activations ou les gradients d'un réseau de neurones pendant l'entraînement, réduisant encore davantage la mémoire et le temps de calcul par rapport à la précision mixte en seize bits. Deux variantes principales coexistent, normalisées conjointement par NVIDIA, ARM et Intel : E4M3, avec quatre bits d'exposant et trois bits de mantisse, offrant plus de précision mais une plage dynamique réduite, utilisé surtout pour les poids et les activations en propagation avant, et E5M2, avec cinq bits d'exposant et deux bits de mantisse, offrant une plage dynamique plus large adaptée à la rétropropagation des gradients. Le FP8 est supporté nativement par les Tensor Core des architectures NVIDIA Hopper et Blackwell, et permet des gains de débit de calcul significatifs par rapport au BF16, tout en exigeant des techniques additionnelles de mise à l'échelle dynamique par bloc pour préserver la stabilité numérique de l'entraînement, la plage dynamique du FP8 étant nettement plus étroite que celle du BF16. Des laboratoires comme Meta ou Mistral ont documenté l'usage du FP8 pour le pré-entraînement de grands modèles de langage à grande échelle, avec des gains de vitesse rapportés selon les configurations matérielles utilisées.

Articles liés

Un projet cybersécurité ?

Expert dispo · Réponse 24h

Devis