Espace Latent (Latent Space)

Définition

L'espace latent, ou latent space, désigne la représentation interne compressée et continue dans laquelle un réseau de neurones encode les données d'entrée après avoir appris à en extraire les structures et relations sémantiques essentielles, réduisant une donnée initialement haute-dimensionnelle et souvent redondante à une représentation nettement plus compacte capturant l'information la plus pertinente pour la tâche apprise. Dans les autoencodeurs, cet espace correspond à la sortie de la partie encodeur du réseau, dont la reconstruction par le décodeur associé permet de vérifier que l'information essentielle a bien été préservée malgré la compression. Dans les autoencodeurs variationnels (VAE), cet espace est en outre contraint à suivre une distribution statistique continue et régulière, généralement gaussienne, ce qui rend possible l'échantillonnage de nouveaux points cohérents et donc la génération de contenu inédit. Dans les grands modèles de langage, les représentations internes successives à travers les couches du Transformer constituent également une forme d'espace latent évolutif, où des concepts sémantiquement proches occupent des régions voisines. Cette propriété permet notamment l'interpolation entre concepts, en se déplaçant continûment d'un point à un autre de cet espace, une capacité exploitée en génération d'image et dans l'analyse d'interprétabilité mécanistique cherchant à identifier les directions correspondant à des concepts humains identifiables.