Ollama

Fonctionnement et architecture

Ollama est une surcouche au-dessus d'un moteur d'inférence dérivé de llama.cpp. Un daemon résident charge les poids, les décharge après inactivité et répartit les couches entre GPU (CUDA, ROCm, Metal) et CPU selon la VRAM disponible.

• Modelfile : descripteur inspiré du Dockerfile, fixant le modèle de base, le system prompt et les paramètres d'échantillonnage.
• Poids quantifiés en 4 à 8 bits : un modèle de 8 milliards de paramètres tourne sur une machine de bureau.
• API REST locale sur le port 11434, avec une couche de compatibilité OpenAI facilitant la bascule vers un LLM auto-hébergé.

Cas d'usage en cybersécurité

Pour un SOC, l'atout décisif est la souveraineté des données : rien ne quitte le périmètre, autorisant des traitements impossibles via une API tierce.

• Triage de journaux et d'alertes contenant des données personnelles, en conformité RGPD.
• Analyse de phishing, de scripts obfusqués ou de code propriétaire sans fuite externe.
• Rédaction de rapports de pentest et de règles de détection, en environnement cloisonné.
• Socle d'un RAG interne indexant procédures et référentiel de vulnérabilités.

Configuration et durcissement

• OLLAMA_HOST : le service écoute par défaut sur la boucle locale. Le basculer sur 0.0.0.0 expose une API dépourvue d'authentification : modèles interrogeables, GPU détourné. Toute exposition réseau impose un reverse proxy authentifié et un filtrage IP.
• OLLAMA_MODELS et OLLAMA_KEEP_ALIVE : emplacement des poids et durée de rétention en mémoire.
• Des failles critiques d'exécution de code à distance ont été corrigées récemment : maintenir le binaire à jour est impératif.

Avantages et limites

Ollama apporte confidentialité, coût nul et fonctionnement hors ligne. En contrepartie, les modèles quantifiés restent en retrait des modèles propriétaires de pointe sur le raisonnement complexe, et l'exécution locale ne protège nullement du prompt injection. S'y ajoute un risque de chaîne d'approvisionnement : un modèle tiré d'un dépôt tiers embarque des poids et un Modelfile non audités.

Intégration et écosystème

Ollama sert de moteur local à Open WebUI, aux extensions d'IDE, aux frameworks d'orchestration comme LangChain et aux plugins d'analyse pour Ghidra ou Burp Suite. Sa compatibilité avec le schéma d'API OpenAI en fait un substitut direct en développement comme en production.

--- Notes : ~2990 caractères (compté avec `wc -m`), 5 sections, balises limitées à la liste autorisée — pas de `

/` malgré le contenu existant, et la section « installation » a été orientée **configuration/durcissement** pour ne pas dupliquer les commandes déjà présentes. Je n'ai pas cité de CVE nominative faute de pouvoir la vérifier ici (la formulation reste exacte sans numéro).