Accélérateur NPU (Neural Processing Unit)

Définition

Un accélérateur NPU, pour Neural Processing Unit, est un circuit intégré spécialisé conçu pour exécuter efficacement les calculs d'inférence de réseaux de neurones directement sur un dispositif local, comme un ordinateur portable, un smartphone ou un objet connecté, avec une consommation énergétique très inférieure à celle d'un GPU pour une charge de travail équivalente. Les NPU sont aujourd'hui intégrés dans de nombreux processeurs grand public, dont les puces Apple Silicon avec leur Neural Engine, les processeurs Intel Core Ultra avec leur NPU dédié, les puces Qualcomm Snapdragon, et les puces AMD Ryzen AI, portés par la montée des fonctionnalités d'IA embarquées dans les systèmes d'exploitation comme Windows et macOS, sous la désignation marketing d'ordinateurs Copilot+ PC pour Microsoft. Un NPU exécute typiquement des modèles déjà quantifiés, souvent en INT8 ou 4 bits, pour des tâches comme la reconnaissance vocale locale, le floutage d'arrière-plan en visioconférence, ou de petits modèles de langage embarqués. L'intérêt principal du NPU est de traiter les données localement sans les envoyer vers un service cloud, ce qui répond à des enjeux de latence, de fonctionnement hors ligne et de confidentialité des données. Pour une DSI et un DPO, le développement des NPU ouvre la voie à des déploiements d'IA en périphérie qui réduisent l'exposition des données sensibles à des tiers externes.