Analyse mémoire forensique avec Volatility pour la détection de malware : extraction de processus, injection de code, ro.
TL;DR — En résumé
L'analyse mémoire forensique avec Volatility 3 constitue aujourd'hui la seule méthode fiable pour détecter les malwares fileless qui opèrent exclusivement en RAM sans laisser de trace disque. Ce guide technique détaille l'acquisition du dump mémoire avec préservation de la chaîne de preuves, l'extraction des arbres de processus suspects et des connexions C2 actives, ainsi que la détection d'injections de code dans des processus légitimes via l'analyse des régions mémoire aux permissions d'exécution anormales. Il couvre également la découverte de rootkits kernel-mode par comparaison des structures noyau et l'extraction de payloads déchiffrés pour analyse statique complémentaire. Une méthodologie complète pour les analystes en réponse à incidents confrontés à l'obfuscation moderne.
Résumé exécutif
L'analyse mémoire forensique malware s'impose aujourd'hui comme une discipline incontournable dans le traitement des incidents de sécurité. Les codes malveillants modernes s'exécutent en effet de plus en plus exclusivement en mémoire vive, sans jamais déposer de fichier persistant sur le disque. Les attaques fileless, les techniques d'injection de processus et le chargement réflectif de DLL échappent ainsi aux détections reposant sur l'inspection du système de fichiers, tout comme aux antivirus traditionnels fondés sur les signatures. Seule l'acquisition puis l'examen d'une image de la RAM permettent alors de reconstituer l'activité réelle du système compromis : processus dissimulés, connexions réseau actives, clés de chiffrement, commandes exécutées et charges utiles déchiffrées. Le framework Volatility constitue la référence open source de ce domaine, en offrant aux analystes un ensemble de plugins capables d'extraire ces artefacts volatils et de documenter précisément la chaîne d'attaque.
- Méthodologie d'analyse et outils utilisés
- Structures internes et mécanismes de protection
- Techniques d'obfuscation et de contournement
- Applications pratiques en réponse aux incidents
L'analyse mémoire fournit une photographie instantanée de l'état du système compromis au moment de l'acquisition : processus en cours d'exécution avec leurs arbres de filiation, connexions réseau actives avec les adresses IP de C2, DLL chargées en mémoire incluant celles injectées dynamiquement, et artefacts du noyau incluant les hooks et les drivers cachés. Cette richesse d'information fait de l'analyse mémoire le complément indispensable de l'analyse de disque pour une investigation forensique complète. La détection des malwares fileless repose principalement sur ces techniques. L'analyse dynamique en sandbox peut être complétée par l'acquisition mémoire pour capturer les payloads déchiffrés. Les rootkits kernel-mode sont spécifiquement détectés par l'analyse des structures noyau en mémoire. La rétro-ingénierie des frameworks C2 utilise les dumps mémoire pour extraire la configuration beacon déchiffrée. La documentation de Volatility 3 et les cours SANS FOR508 sont les ressources de référence pour cette discipline.
- Les malwares fileless opèrent exclusivement en mémoire sans fichiers sur disque
- Volatility 3 analyse les dumps mémoire avec des plugins extensibles et modulaires
- La détection d'injection identifie les régions mémoire RWX dans les processus légitimes
- L'extraction de payloads depuis la mémoire fournit le code malveillant en clair
- Les connexions réseau en mémoire révèlent les communications C2 actives
Acquisition mémoire et triage initial
L'acquisition du dump mémoire doit être la première action de l'investigation forensique pour préserver les artefacts volatiles avant toute interaction avec le système qui pourrait modifier l'état de la mémoire. Sur Windows, WinPMEM (développé par Velocidex/Rekall) et DumpIt (Magnet Forensics) acquièrent la mémoire physique complète en format RAW, AFF4 ou crashdump. Sur Linux, LiME (Linux Memory Extractor) produit un dump au format lime ou padded. L'acquisition doit être effectuée depuis un support amovible de confiance (USB bootable) pour minimiser la contamination du dump par les processus de l'outil d'acquisition lui-même.
Le triage initial avec Volatility 3 identifie rapidement les anomalies évidentes. Le plugin windows.pslist liste les processus actifs avec leur PID, PPID, date de création et nombre de threads. Le plugin windows.pstree affiche l'arbre de filiation des processus pour identifier les processus orphelins ou les filiations anormales (svchost.exe qui n'est pas enfant de services.exe, cmd.exe lancé par un processus Word). Le plugin windows.netscan liste les connexions réseau actives et récentes avec les adresses IP, ports et processus associés, révélant immédiatement les communications C2 suspectes.
Détection d'injection de processus
L'injection de processus est la technique la plus utilisée par les malwares pour s'exécuter dans le contexte d'un processus légitime (svchost.exe, explorer.exe, lsass.exe) afin d'échapper à la détection. Le plugin windows.malfind de Volatility détecte les régions mémoire avec des permissions RWX (Read-Write-Execute) dans les processus, une combinaison suspecte car les sections de code légitimes sont typiquement RX (Read-Execute) et les sections de données RW (Read-Write). Les régions RWX contiennent potentiellement du shellcode ou des DLL injectées dynamiquement qui n'apparaissent pas dans la liste des modules chargés.
Retour terrain
Lors de l'analyse d'un échantillon de malware soumis par un client du secteur industriel, j'ai identifié une technique d'évasion inhabituelles : le payload était encodé dans les métadonnées EXIF d'une image JPEG téléchargée depuis un compte Twitter légitime. Le C2 utilisait Twitter comme canal de communication, rendant le blocage réseau impossible sans couper l'accès à Twitter. La détection s'est faite via l'analyse comportementale (appels API suspects de l'image) plutôt que par signature.
L'extraction des payloads injectés utilise windows.malfind avec l'option dump pour sauvegarder les régions mémoire suspectes en fichiers binaires analysables. L'analyse des headers de ces dumps identifie les DLL injectées (header MZ/PE), les shellcodes (séquences d'instructions x86/x64) et les configurations déchiffrées des frameworks C2 comme Cobalt Strike. La corrélation entre les régions injectées et les connexions réseau actives du processus (via windows.netscan) confirme les injections malveillantes en liant le code injecté aux communications C2 observées.
Analyse de rootkits et structures noyau
Les rootkits kernel-mode manipulent les structures du noyau Windows pour se rendre invisibles aux outils de monitoring userland. L'analyse mémoire détecte ces manipulations par comparaison entre les structures noyau en mémoire et les valeurs attendues. Le plugin windows.ssdt compare la System Service Descriptor Table en mémoire avec les adresses attendues des fonctions noyau pour identifier les hooks qui redirigent les appels système vers du code malveillant. Le plugin windows.driverscan parcourt la mémoire à la recherche d'objets drivers en utilisant le pool scanning plutôt que les listes chaînées du noyau, détectant les drivers cachés qui se sont retirés des listes officielles.
L'analyse des callbacks noyau identifie les fonctions enregistrées par les rootkits pour intercepter les événements système : création de processus (PsSetCreateProcessNotifyRoutine), chargement de DLL (PsSetLoadImageNotifyRoutine), modifications de registre (CmRegisterCallback) et opérations fichiers (FltRegisterFilter). Les callbacks pointant vers des adresses en dehors des modules noyau connus sont des indicateurs de rootkit. L'extraction du code aux adresses de callback suspectes et son analyse dans Ghidra révèle les fonctions de dissimulation implémentées par le rootkit.
| Plugin Volatility 3 | Fonction | Détecte |
|---|---|---|
| windows.pslist / pstree | Liste des processus | Processus orphelins, filiation anormale |
| windows.malfind | Régions mémoire suspectes | Injection de code, shellcode, DLL injectées |
| windows.netscan | Connexions réseau | Communications C2, exfiltration |
| windows.ssdt | Table des syscalls | Hooks SSDT (rootkits) |
| windows.driverscan | Drivers en mémoire | Drivers cachés (rootkits kernel) |
| windows.dlllist | DLL chargées | DLL suspectes, side-loading |
L'analyse du dump mémoire d'un serveur de fichiers compromis dans un cabinet d'avocats a révélé un implant Cobalt Strike injecté dans svchost.exe que les outils endpoint n'avaient pas détecté. Le plugin malfind a identifié une région RWX de 380 Ko dans le processus svchost.exe (PID 4128) contenant le beacon déchiffré en clair. L'extraction de cette région et l'analyse avec CobaltStrikeParser ont fourni la configuration complète : watermark 0x12345678, C2 sur 3 domaines avec un profil malleable imitant du trafic jQuery. Le plugin netscan a confirmé des connexions HTTPS actives vers les C2 URLs extraites, validant la compromission active depuis 47 jours.
Mon avis : l'analyse mémoire devrait être systématique dans chaque investigation d'incident, même lorsque les outils endpoint semblent avoir identifié la menace. Les malwares les plus sophistiqués utilisent l'injection de processus et les techniques fileless qui ne sont détectables que par l'analyse mémoire. Le coût de l'acquisition mémoire (5 minutes) est négligeable comparé au risque de manquer un implant actif.
Pourquoi l'analyse mémoire est-elle essentielle pour la détection de malware ?
Les malwares fileless opèrent exclusivement en mémoire sans écrire sur le disque. L'analyse mémoire est la seule technique capable de détecter ces menaces, d'extraire les payloads déchiffrés et de capturer les connexions C2 actives.
Volatility 2 ou Volatility 3 pour l'analyse forensique ?
Volatility 3 est recommandé pour les nouvelles analyses avec son architecture modulaire et le support Windows 10/11. Volatility 2 reste utile pour les profils hérités et les plugins communautaires non portés.
Comment acquérir un dump mémoire sur un système compromis ?
WinPMEM ou DumpIt sur Windows, LiME sur Linux. L'acquisition doit être la première action de l'investigation depuis un support amovible de confiance pour préserver les artefacts volatiles.
Conclusion
L'analyse mémoire forensique avec Volatility 3 est la technique fondamentale pour détecter les malwares qui échappent aux outils de détection traditionnels. L'identification des processus suspects, la détection des injections de code et l'analyse des rootkits kernel-mode fournissent une visibilité complète sur l'état de compromission du système pour une réponse à incident efficace.
Intégrez l'acquisition et l'analyse mémoire dans vos procédures de réponse à incident. Chaque minute perdue avant l'acquisition du dump est une perte potentielle d'artefacts volatiles critiques pour l'investigation forensique et la détection des implants les plus sophistiqués.
Article suivant recommandé
Analyse de Shellcode : Techniques de Rétro-Ingénierie →Rétro-ingénierie de shellcode : analyse statique et dynamique, émulation avec unicorn, extraction de payloads et dévelop
Surface d'attaque : Ensemble des points d'entrée exploitables par un attaquant pour compromettre un système, incluant les services exposés, les interfaces utilisateur et les API.
La rétro-ingénierie de logiciels peut enfreindre les conditions d'utilisation et la législation sur la propriété intellectuelle. Assurez-vous de disposer des autorisations nécessaires avant toute analyse.
Synthèse et points clés
Les éléments présentés dans cet article mettent en évidence l'importance d'une approche structurée et méthodique. La combinaison de contrôles techniques, de processus organisationnels et de formation continue constitue le socle d'une posture de sécurité mature et résiliente face aux menaces actuelles.
Commencez toujours l'analyse d'un binaire par l'identification statique (strings, imports, headers) avant de passer au débogage dynamique. Cela permet de repérer rapidement les fonctions clés.

Analyse de malwares & rétro-ingénierie
Analyse de code malveillant, reverse engineering, threat intelligence — rapport IOC complet.
Extraction de Preuves et Chaîne de Custody en Analyse Mémoire Forensique
L'acquisition du dump mémoire doit être réalisée en respectant les principes légaux de la forensique numérique pour que les preuves extraites soient recevables dans une procédure judiciaire ou une investigation disciplinaire. L'ordre de volatilité guide la séquence d'acquisition : la mémoire vive est la source la plus volatile (perdue à l'extinction) et doit être capturée en priorité, avant les fichiers de swap, les logs système et le disque. Des outils comme WinPmem pour Windows et LiME (Linux Memory Extractor) pour Linux permettent d'acquérir un dump mémoire cohérent depuis un système en cours d'exécution avec un impact minimal sur les processus actifs.
La chaîne de custody du dump mémoire suit les mêmes exigences qu'une pièce à conviction physique : documentation de l'heure d'acquisition, du système source (nom d'hôte, adresse IP, identifiant d'inventaire), de l'analyste ayant procédé à l'acquisition, et calcul d'un hash cryptographique (SHA-256) du fichier dump immédiatement après la capture. Ce hash est conservé séparément et vérifié avant chaque session d'analyse pour détecter toute altération non intentionnelle. Le fichier dump original est conservé intouché, et toutes les analyses sont réalisées sur une copie.
Volatility 3 facilite l'extraction automatisée d'indicateurs de compromission exportables vers les plateformes de Threat Intelligence comme MISP. Les plugins windows.netscan, windows.cmdline et windows.malfind génèrent des artefacts directement consommables : adresses IP et ports des connexions réseau établies, lignes de commande des processus suspects avec leurs arguments, et dumps des régions mémoire exécutables injektées dans des processus légitimes. Ces IOC enrichissent la réponse aux incidents en permettant de rechercher rétrospectivement d'autres systèmes compromis dans les logs SIEM sur la même période.
Mise en œuvre pratique : étapes et livrables
La conformité réglementaire génère une documentation substantielle qui doit être maintenue à jour et accessible lors des audits. Une organisation structurée de ces livrables simplifie considérablement les exercices de conformité et réduit le temps consacré à leur préparation.
Livrables documentaires essentiels
Quel que soit le référentiel de conformité concerné, les livrables fondamentaux incluent : un registre des traitements (obligatoire RGPD, utile pour tout SMSI) maintenu par le DPO ou le RSSI ; une politique de sécurité de l'information (PSI ou PSSI) approuvée par la direction et diffusée à tous les collaborateurs ; des procédures opérationnelles documentées pour les processus critiques (gestion des incidents, accès privilégiés, sauvegardes) ; un plan de continuité d'activité (PCA) testé annuellement ; et des rapports d'audit internes et de revue de direction formalisés. Ces documents constituent le «squelette» du SMSI et sont systématiquement vérifiés lors des audits de certification.
Gouvernance et responsabilités
La conformité réglementaire est un effort collectif qui ne peut pas reposer uniquement sur le RSSI ou le DPO. Une gouvernance efficace définit clairement les rôles : le COMEX assume la responsabilité globale de la conformité (risque financier et réputationnel) ; les DSI et RSSI mettent en œuvre les mesures techniques ; les métiers identifient les données et processus critiques à protéger ; et les DPO/compliance officers assurent la cohérence réglementaire. Les comités de sécurité trimestriels, impliquant toutes ces parties prenantes, garantissent l'alignement entre les exigences réglementaires et les capacités opérationnelles de l'organisation. Le suivi des actions de remédiation dans un outil de GRC (Governance, Risk & Compliance) formalise ce processus et facilite la production des preuves d'audit.
Sanction et contrôle : ce que les autorités vérifient
Comprendre les priorités de contrôle des autorités de régulation permet aux organisations de concentrer leurs efforts sur les domaines qui font l'objet d'une surveillance accrue. Les autorités de supervision (CNIL, ANSSI, ACP pour le secteur bancaire, HAS pour le secteur santé) publient régulièrement leurs priorités de contrôle.
Priorités de contrôle 2025-2026
Les domaines prioritaires identifiés par les autorités françaises pour 2025-2026 : la sécurité des données de santé (contrôles HDS en forte augmentation suite aux incidents hospitaliers) ; l'IA et le traitement des données personnelles (CNIL a annoncé 300 mises en demeure liées à l'IA en 2025) ; les sous-traitants et tiers (vérification des DPA et des audits de sécurité des fournisseurs) ; et la notification des violations de données dans les délais légaux (72h RGPD, 24h NIS 2 pour les entités essentielles). Les organisations qui documentent proactivement leur conformité dans ces domaines réduisent significativement leur exposition aux sanctions et bénéficient généralement d'une procédure d'audit moins contraignante.
Programme de préparation aux audits
Un programme structuré de préparation aux audits réduit le stress et améliore les résultats. Douze mois avant un audit de certification : gap analysis interne pour identifier les non-conformités. Six mois avant : corrections des écarts majeurs et préparation de la documentation. Trois mois avant : audit blanc interne conduit par un consultant externe indépendant. Un mois avant : formation des équipes sur les procédures et livrables à présenter. Cette approche systématique, validée par des centaines d'organisations certifiées ISO 27001, transforme l'audit de certification d'une épreuve redoutée en une validation formelle d'un travail déjà accompli.
Bonnes pratiques et recommandations complémentaires
Au-delà des techniques et outils présentés dans cet article, plusieurs principes transverses guident les professionnels de la cybersécurité dans leur approche quotidienne. La défense en profondeur (defense-in-depth) reste le principe fondateur : aucune mesure de sécurité unique n'est suffisante, et la multiplication des couches de protection — même imparfaites individuellement — crée une résilience globale supérieure à la somme de ses parties.
Veille et mise à jour continue
La cybersécurité est un domaine où l'obsolescence est rapide. Une technique ou un outil efficace en 2024 peut être contourné en 2026. Les équipes sécurité maintiennent leur efficacité en s'appuyant sur des sources de veille fiables : bulletins CERT-FR et ANSSI, advisories des éditeurs (Microsoft MSRC, Google Project Zero, Cisco Talos), recherches académiques (USENIX Security, IEEE S&P, CCS), et publications de la communauté (threat intel reports des grands éditeurs, articles de blog de chercheurs reconnus).
Documentation et partage de connaissances
La capitalisation des connaissances est un enjeu organisationnel critique dans les équipes de sécurité. Les runbooks d'investigation, les post-mortems d'incidents, les procédures de réponse documentées, et les bases de connaissance internes permettent de maintenir la cohérence des pratiques indépendamment des rotations d'équipe et de réduire le temps de résolution des incidents récurrents. L'utilisation d'un wiki sécurisé (Confluence, Notion avec contrôles d'accès stricts) pour centraliser ces connaissances est une pratique adoptée par la majorité des équipes SOC matures. La documentation proactive, rédigée juste après les incidents pendant que les détails sont frais, est systématiquement plus précise et utile que la documentation rédigée après coup.
Points d'attention avancés pour les auditeurs et RSSI
Au-delà de la conformité de surface, les auditeurs expérimentés et les RSSI cherchent à évaluer la robustesse réelle du dispositif de sécurité. Ce niveau d'analyse requiert de dépasser la vérification documentaire pour s'intéresser à l'efficacité opérationnelle des contrôles.
Pièges courants dans les audits de conformité
Plusieurs patterns d'échec reviennent régulièrement lors des audits de renouvellement. La conformité sur papier sans effectivité opérationnelle : des politiques formalisées mais non appliquées, des procédures documentées mais inconnues des équipes, des contrôles déclarés actifs mais non supervisés. La dérive post-certification : les organisations qui traitent la certification comme une fin en soi plutôt que comme un jalons d'un processus continu connaissent systématiquement une dégradation de leur posture sécurité entre deux audits. La gestion insuffisante des tiers : plus de 60% des violations impliquent un fournisseur ou un prestataire, mais les contrats de sous-traitance et les audits tiers sont souvent les parents pauvres des programmes de conformité. Adresser ces trois points avant l'audit réduit significativement le risque de non-conformité majeure.
Métriques de maturité à présenter en audit
Les auditeurs modernes s'intéressent aux indicateurs de fonctionnement réel du SMSI plutôt qu'à la simple existence des documents. Préparer : statistiques de gestion des incidents sur 12 mois (nombre, délai de traitement, taux de récidive) démontrant une amélioration continue ; résultats des exercices de continuité avec les actions correctives entreprises ; données de sensibilisation (taux de participation aux formations, taux d'échec aux simulations de phishing) ; et résultats des audits internes avec suivi des actions de remédiation. Ces métriques transforment l'audit en démonstration de la maturité de l'organisation plutôt qu'en exercice de conformité documentaire, et constituent la meilleure défense contre les questions inattendues des auditeurs sur l'efficacité opérationnelle des contrôles.
Sources et références
- MITRE ATT&CK — Techniques d'analyse
- CISA — Malware Analysis Resources
- ANSSI — Méthodes d'investigation numérique
Pour aller plus loin
Les concepts présentés dans cet article constituent une base solide pour approfondir le sujet. Ces ressources complémentaires permettent d'aller plus loin dans la compréhension et la mise en pratique.
Ressources officielles de référence
- ANSSI — Guides et recommandations techniques — La bibliothèque technique de l'ANSSI publie régulièrement des guides à jour sur tous les aspects de la sécurité des systèmes d'information. Disponibles gratuitement sur ssi.gouv.fr.
- NIST Cybersecurity Framework — Référentiel international structurant la gestion des risques cyber en 6 fonctions. Version 2.0 publiée en 2024, disponible sur nist.gov.
- MITRE ATT&CK — Base de connaissances des techniques adversariales, régulièrement mise à jour avec les nouvelles menaces observées dans le monde réel.
Formation continue
- Certifications professionnelles reconnues : CISSP, CISM (management), OSCP, CEH (technique)
- Plateformes de formation pratique : HackTheBox, TryHackMe, Hack The Box Academy
- Veille quotidienne : bulletins CERT-FR, alertes CISA, flux RSS NVD
Mise en réseau professionnel
La communauté cybersécurité française est active et ouverte : les clubs RSSI, l'OSSIR, le CLUSIF, et les conférences comme le FIC (Forum International de la Cybersécurité) et les SSTIC sont des points de rencontre essentiels pour les professionnels du secteur. Ces échanges permettent de rester à jour sur les menaces émergentes et les bonnes pratiques réelles.
Télécharger cet article en PDF
Format A4 optimisé pour l'impression et la lecture hors ligne
À propos de l'auteur
Ayi NEDJIMI
Auditeur Senior Cybersécurité & Consultant IA
Expert Judiciaire — Cour d'Appel de Paris
Habilitation Confidentiel Défense
[email protected]
Ayi NEDJIMI est un vétéran de la cybersécurité avec plus de 25 ans d'expérience sur des missions critiques. Ancien développeur Microsoft à Redmond sur le module GINA (Windows NT4) et co-auteur de la version française du guide de sécurité Windows NT4 pour la NSA.
À la tête d'Ayi NEDJIMI Consultants, il réalise des audits Lead Auditor ISO 42001 et ISO 27001, des pentests d'infrastructures critiques, du forensics et des missions de conformité NIS2 / AI Act.
Conférencier international (Europe & US), il a formé plus de 10 000 professionnels.
Domaines d'expertise
Ressources & Outils de l'auteur
Articles connexes
GigaWiper BLUERABBIT : Analyse Technique Complète du Backdoor
GigaWiper BLUERABBIT Iran-nexus : backdoor wiper Go — modules Crucio, FlockWiper, CutBrooch, 20 commandes backdoor, règles YARA et remédiation.
IA pour le Reverse Engineering et l'Analyse Malware 2026
Guide IA pour le reverse engineering et l'analyse malware en 2026 — LLM pour décompilation, embeddings binaires, classification automatique et outils Ghidra+IA.
Analyse Complète de RansomHub : Curve25519, AES-256-CTR et
Analysez RansomHub en profondeur : architecture Go, échange de clés Curve25519 ECDH, chiffrement AES-256-CTR, extraction de configuration chiffrée, instrumentation Frida et règles YARA…
Un projet cybersécurité ? Parlons-en.
Pentest, conformité NIS 2, ISO 27001, audit IA, RSSI externalisé… nos experts répondent sous 24h pour évaluer votre besoin et vous proposer un accompagnement sur mesure.
Commentaires
Aucun commentaire pour le moment. Soyez le premier à commenter !
Laisser un commentaire