Heap Overflow

Définition

Le heap overflow est une vulnérabilité mémoire où une écriture dépasse les limites d'un tampon alloué sur le heap (tas), corrompant des données adjacentes dans le heap. Contrairement au stack overflow qui cible des structures de contrôle prévisibles (adresse de retour, saved base pointer), le heap overflow nécessite une compréhension approfondie des structures internes de l'allocateur mémoire. Les allocateurs de mémoire modernes (ptmalloc2 de glibc, jemalloc de Firefox, tcmalloc de Chrome) maintiennent des métadonnées de gestion des blocs (chunks) adjacentes aux données utilisateur. Un heap overflow corrompt souvent ces métadonnées (taille du chunk, pointeurs de liste chaînée dans les bins de l'allocateur), ce qui peut être exploité lors des opérations d'allocation/désallocation suivantes pour obtenir une écriture arbitraire. Les techniques d'exploitation du heap overflow incluent : la corruption de l'en-tête de chunk suivant (prev_size, size) pour manipuler la consolidation de chunks (unlink attack, house of force), la corruption de bins de l'allocateur (tcache poisoning, fastbin corruption) pour obtenir une allocation dans une zone mémoire arbitraire, et la corruption d'objets C++ adjacents (vtables, function pointers) pour rediriger l'exécution. La technique House of Force (obsolète sur glibc récent mais pédagogique) illustre l'exploitation : en overflowant le wilderness chunk (le chunk de mémoire libre restant), l'attaquant peut modifier sa taille pour qu'un prochain malloc() alloue un chunk à une adresse arbitraire. Les techniques modernes comme Tcache Poisoning exploitent les caches de l'allocateur pour allouer des chunks à des adresses contrôlées. Les heap grooming (arrangement préalable de l'état du heap pour créer des conditions exploitables) et le heap spraying (remplissage du heap avec des données contrôlées) sont des techniques préparatoires essentielles pour la réussite des exploitations heap.