DeepSeek open-source DeepInfer, son moteur d'inférence IA

Ce qui s'est passé

Le 20 octobre 2026, la startup chinoise DeepSeek a rendu public DeepInfer, le moteur d'inférence distribué qu'elle utilise en production pour servir ses modèles à grande échelle. Le dépôt est disponible sur GitHub sous la licence Apache 2.0, permettant une réutilisation commerciale sans restriction. Cette publication constitue l'un des actes d'ouverture les plus significatifs dans le domaine de l'inférence à grande échelle depuis la mise à disposition de vLLM par l'Université de Californie à Berkeley en 2023.

DeepInfer est présenté par DeepSeek comme « le framework qui fait tourner nos services en production ». Contrairement à de nombreuses publications open source qui correspondent à des versions simplifiées ou expurgées d'outils internes, la société affirme avoir publié le code effectivement déployé sur ses clusters de production. Le document technique accompagnant la publication indique que c'est ce même framework qui assure le service de l'API publique DeepSeek-V4.1-Flash, le modèle phare de la gamme V4.1 présenté en mai 2026.

Sur le plan technique, DeepInfer intègre plusieurs bibliothèques que DeepSeek avait déjà open-sourcées séparément au cours des derniers mois : FlashMLA pour l'attention multi-latence, DeepGEMM pour les multiplications matricielles optimisées, et DeepEP pour les communications entre processeurs dans un contexte d'inférence distribuée. DeepInfer est donc la couche d'orchestration qui assemble ces briques et ajoute un ordonnanceur de requêtes, un pipeline de tokenisation et les mécanismes de distribution de la charge à travers plusieurs puces.

L'un des aspects les plus remarquables de cette publication est le support matériel annoncé. DeepInfer fonctionne sur les GPU Nvidia SM100 — la génération Blackwell Ultra lancée début 2026 — mais également sur les NPU Huawei Ascend 950. Cette double compatibilité est inédite pour un moteur d'inférence de production open source. Elle reflète la réalité opérationnelle de DeepSeek, qui doit composer avec les restrictions américaines à l'exportation de GPU Nvidia vers la Chine et a donc développé une expertise réelle sur le matériel Huawei. Le support de l'Ascend 950 représente en pratique un avantage stratégique majeur pour les organisations chinoises ou celles souhaitant s'affranchir de la dépendance à l'écosystème Nvidia.

Les chiffres de performance publiés dans la documentation technique sont impressionnants. Un cluster DeepSeek opéré avec DeepInfer traite 155 000 milliards de tokens par jour — soit environ 1,8 milliard de tokens par seconde. À titre de comparaison, GPT-4o de OpenAI était estimé à environ 500 millions de tokens par seconde sur l'ensemble de son infrastructure en 2025, selon des analyses tierces. DeepSeek revendique également un coût de 38 dollars par GPU-heure en tarif hors-pic, ce qui se traduit par des coûts d'inférence parmi les plus bas de l'industrie pour un modèle de premier niveau.

La publication de DeepInfer intervient dans un contexte de compétition intense entre les acteurs de l'inférence distribuée. La stack dominante reste aujourd'hui vLLM, qui a bénéficié de l'appui d'Anyscale et d'un écosystème de contributeurs très actif. TensorRT-LLM de Nvidia est le choix de prédilection pour les déploiements purement Nvidia en environnement contrôlé. SGLang, développé par l'Université de Washington, s'est positionné comme une alternative performante pour les workloads à forte interaction. DeepInfer arrive avec un argument différenciant clair : c'est le code qui fait effectivement tourner l'un des services d'IA les plus utilisés au monde, dans des conditions de charge et de coûts réels.

Pour les développeurs et les DSI, l'intérêt pratique de DeepInfer est multiple. En premier lieu, il offre une référence d'implémentation pour le déploiement de grands modèles de langage à très grande échelle, avec des optimisations validées en conditions de production. En second lieu, le support natif de l'Ascend 950 ouvre des perspectives pour les organisations européennes engagées dans des projets de souveraineté numérique qui souhaitent éviter la dépendance exclusive à Nvidia. En troisième lieu, la licence Apache 2.0 permet une adoption commerciale sans royalties ni contraintes restrictives.

La communauté open source a réagi rapidement à cette publication. Dans les 24 heures suivant le dépôt GitHub, DeepInfer avait déjà recueilli plus de 8 000 étoiles et une centaine de forks, selon les données observées par des analystes du secteur. Des premières pull requests de la communauté ont été soumises pour ajouter la compatibilité avec les GPU AMD ROCm et les processeurs AWS Trainium 3, ce qui témoigne de l'intérêt immédiat pour étendre le support matériel au-delà de l'annonce initiale.

Pourquoi c'est important

La publication de DeepInfer s'inscrit dans une trajectoire cohérente de la stratégie open source de DeepSeek depuis son émergence sur la scène mondiale début 2025. En rendant publics successivement ses modèles (DeepSeek-V2, V3, V4), ses bibliothèques d'optimisation (FlashMLA, DeepGEMM, DeepEP) et désormais son moteur d'inférence complet, DeepSeek adopte une approche radicalement différente de celle d'OpenAI ou d'Anthropic, qui maintiennent leurs infrastructures fermées. Cette stratégie d'ouverture génère un effet de communauté et d'adoption qui démultiplie la portée des travaux de la startup.

Sur le plan géopolitique, le support simultané de l'Ascend 950 de Huawei est une déclaration de fait. DeepSeek démontre qu'il est possible de faire tourner un moteur d'inférence de niveau mondial sans dépendre exclusivement des GPU Nvidia, au cœur du contrôle américain sur la chaîne d'approvisionnement en IA. Pour les acteurs non américains — entreprises européennes, gouvernements, organisations cherchant à diversifier leurs fournisseurs de calcul — cette publication ouvre des perspectives concrètes d'indépendance technologique.

Pour l'écosystème français de l'IA et les entreprises déployant des LLM on-premise ou en cloud souverain, DeepInfer représente une alternative sérieuse à envisager. Les projets utilisant des modèles de la famille DeepSeek-V4 peuvent bénéficier d'optimisations de performance significatives par rapport à des stacks génériques comme vLLM vanilla. Cela est particulièrement pertinent pour les déploiements en cloud souverain OVHcloud, Scaleway ou Outscale, où la maîtrise du coût d'inférence est un facteur décisif.

Enfin, la documentation détaillée publiée avec DeepInfer est en elle-même une ressource de valeur pour la communauté académique et les ingénieurs MLOps. Elle décrit des choix d'architecture qui ne sont généralement accessibles que dans des articles de recherche ou des présentations de conférences, avec en plus le bénéfice d'être validée en conditions de production réelles. C'est un apport substantiel à la compréhension collective du fonctionnement des systèmes d'inférence à grande échelle.

Ce qu'il faut retenir

• DeepInfer est disponible sous Apache 2.0 sur GitHub et peut être adopté immédiatement pour les déploiements de DeepSeek-V4.1-Flash en production.
• Le support de l'Ascend 950 de Huawei offre une voie concrète vers une infrastructure d'inférence IA diversifiée, hors dépendance exclusive à Nvidia.
• Avec 155 000 milliards de tokens/jour servis en production, les performances annoncées en font la référence de performance la plus documentée disponible en open source à ce jour.