Liquid Neural Networks

Définition

Les Liquid Neural Networks, ou réseaux de neurones liquides, sont une architecture développée notamment par des chercheurs du MIT, inspirée du système nerveux minimaliste du ver C. elegans, dont les neurones biologiques ajustent dynamiquement leurs connexions synaptiques en fonction du contexte plutôt que d'appliquer des poids fixes après entraînement. Contrairement aux réseaux de neurones classiques dont les paramètres sont figés une fois l'entraînement terminé, les liquid neural networks modélisent le comportement des neurones via des équations différentielles ordinaires (ODE) à constante de temps variable, leur permettant d'adapter leur réponse en continu à des flux de données temporelles même après le déploiement, sans réentraînement complet. Cette propriété les rend particulièrement adaptés aux tâches nécessitant robustesse face à des données bruitées ou changeantes dans le temps, comme la conduite autonome, le pilotage de drones ou l'analyse de séries temporelles issues de capteurs industriels. Un avantage notable est leur compacité : des réseaux comptant seulement quelques dizaines de neurones peuvent accomplir des tâches nécessitant des milliers de neurones dans des architectures classiques, réduisant les besoins en puissance de calcul embarquée. Cette efficacité et cette interprétabilité accrue en font un candidat prometteur pour l'IA embarquée en environnement contraint, bien que l'architecture reste à ce jour moins mature et moins standardisée industriellement que les Transformers.