Aller au contenu principal
Expert Cybersécurité & IAv9.0
Centres de ressources conformité
Besoin d'un accompagnement expert ?
Devis personnalisé sous 24h — audit, conformité, incident
Checklists Sécurité — Audit & Durcissement
Formats disponibles
📄 PDF 📊 Excel 🌐 Web

11 checklists professionnelles couvrant 2 200+ points de contrôle. Téléchargement gratuit, aucune inscription.

Tokenizer SentencePiece

ia

Définition

SentencePiece est un tokeniseur open source developpe par Google qui decoupe un texte brut en unites de sous-mots sans dependre d'une segmentation prealable en mots separes par des espaces. Il traite le texte comme une sequence de caracteres Unicode, ce qui le rend independant de la langue et utilisable aussi bien pour le francais, le japonais que le code source. SentencePiece implemente deux algorithmes principaux : Byte-Pair Encoding (BPE) et Unigram Language Model, tous deux entraines pour construire un vocabulaire de taille fixe, typiquement entre 8000 et 64000 unites. Contrairement aux tokeniseurs bases sur les espaces, il gere nativement les espaces comme un caractere special (souvent note par un underscore), ce qui permet une reconstruction exacte du texte original (reversibilite). Il est utilise par des modeles comme T5, ALBERT, ou Llama pour preparer les donnees d'entrainement et d'inference. Pour un RSSI ou un DPO, le choix du tokeniseur influence indirectement la surface d'attaque d'un systeme : un vocabulaire mal calibre peut faciliter des attaques par contournement de filtres (obfuscation via decoupage inhabituel de tokens sensibles), un point evalue dans les tests de securite des LLM au titre de l'OWASP LLM Top 10 (prompt injection).

Articles liés

Un projet cybersécurité ?

Expert dispo · Réponse 24h

Devis