System Card

Définition

Une System Card est un document de transparence et de securite publie par les labs IA pour leurs modeles frontiere decrivant en detail les evaluations de securite conduites, les risques identifies, les mesures de mitigation appliquees et les comportements potentiellement dangereux testes. Le terme a ete popularise par OpenAI pour GPT-4 (2023). Une System Card va au-dela de la Model Card classique en se concentrant sur la securite : evaluations des dangerous capabilities (capacites potentiellement dangereuses en biologie, chimie, cybersecurite), resultats du red teaming externe (equipes independantes), etudes de deploiement avec acces precoce, et methodes d'alignment utilisees. La System Card GPT-4 d'OpenAI (mars 2023) est devenue le document de reference : elle documente les evaluations de l'uplift en biosecurite (aide a la creation d'armes biologiques ?), les capacites de cyberoffensive (generation d'exploits), et les mesures de refus sur les contenus dangereux. La Responsible Scaling Policy (RSP) d'Anthropic et les Preparedness Framework d'OpenAI definissent des protocoles formels : les modeles ne peuvent etre deployes que si leurs evaluations de securite se situent en-dessous de certains seuils de risque, documentes dans ces system cards. Pour les RSSI et equipes de conformite deplorant des LLMs, les System Cards sont des sources d'information essentielles pour evaluer les risques operationnels et documenter les decisions d'acceptation de risque dans les processus de due diligence.