Modele de langage a poids ouverts

Définition

Un modele de langage a poids ouverts, ou open-weight LLM, est un modele dont les parametres entraines sont publies et telechargeables librement ou sous licence permissive, permettant a un tiers de l'executer, de l'affiner et parfois de le modifier sur sa propre infrastructure. Cette notion se distingue de l'open source au sens strict, car le code d'entrainement, les jeux de donnees utilises et la methodologie complete ne sont pas toujours divulgues, seuls les poids finaux le sont. Des familles comme Llama, Mistral, Qwen ou Gemma illustrent cette approche. Pour une entreprise, l'interet principal est la souverainete : le modele peut etre deploye on-premise ou dans un cloud prive, garantissant qu'aucune donnee sensible ne transite vers un tiers, ce qui repond a des exigences de confidentialite, de residence des donnees ou de conformite sectorielle. Les poids ouverts permettent aussi un fine-tuning specialise et un audit plus approfondi du comportement du modele que via une simple API. En contrepartie, l'entreprise assume la responsabilite de l'infrastructure, de la securisation du modele contre le vol de poids ou l'extraction de donnees d'entrainement, et de la maintenance face aux vulnerabilites decouvertes. L'AI Act prevoit des exemptions partielles pour les modeles a poids ouverts sous certaines conditions de transparence.