Confidential Computing ML

Définition

Le Confidential Computing pour le Machine Learning est l'utilisation de Trusted Execution Environments (TEE) — des enclaves materielles isolees et chiffrees au niveau du processeur — pour executer des LLMs et autres modeles ML de maniere a proteger simultanement les donnees d'entree (sensibles) ET le modele (IP proprietaire) des acces non autorises, y compris par le fournisseur cloud. Les technologies TEE disponibles : Intel TDX (Trust Domain Extensions), AMD SEV-SNP (Secure Encrypted Virtualization - Secure Nested Paging), ARM TrustZone, et Intel SGX (Software Guard Extensions). Ces technologies chiffrent la memoire de l'enclave avec des cles materielle inaccessibles a l'OS, a l'hyperviseur et aux administrateurs cloud. Les cas d'usage du Confidential Computing ML : (1) Inference ML sur donnees patients confidentielles dans le cloud sans exposer les donnees a l'hopital cloud, (2) Fine-tuning de LLM sur des donnees client sensibles sans exposer ces donnees a l'editeur logiciel, (3) Deploiement de modeles proprietaires dans le cloud tiers sans risque d'extraction du modele, (4) Audits de conformite ou les donnees ne peuvent pas quitter l'enclave. Le Confidential Space (Google), Azure Confidential Computing et AWS Nitro Enclaves sont des implementations cloud qui permettent de deployer des conteneurs dans des VMs confidentielles. Le Remote Attestation permet au client de verifier cryptographiquement que son code s'execute bien dans une enclave authentique et non modifiee. Les limitations actuelles : (1) Performance — l'encryption memoire ajoute 5-15% d'overhead, (2) Taille — les enclaves SGX etaient limitees a quelques GB de memoire (TDX et SEV-SNP n'ont plus cette contrainte), (3) Complexite de developpement — porter un LLM dans une enclave necessite des adaptations significatives, (4) Couts — les instances confidentielles coutent 15-30% de plus que les instances standard.