Detection d'hallucination automatisee

Définition

La detection d'hallucination automatisee est un ensemble de techniques qui identifient, sans intervention humaine systematique, les affirmations produites par un modele de langage qui sont fausses, non fondees sur les sources fournies, ou inventees sans base factuelle reelle. Plusieurs familles d'approches coexistent : les methodes fondees sur l'incertitude du modele, qui analysent l'entropie des probabilites de token lors de la generation, une faible confiance du modele sur certains passages correlant souvent avec un risque d'hallucination ; les methodes de verification croisee, qui comparent plusieurs generations independantes du meme modele sur le meme prompt et signalent les incoherences entre elles (approche dite de self-consistency) ; et les methodes d'ancrage documentaire, qui verifient chaque affirmation generee contre un corpus source dans le cadre d'un systeme RAG, signalant les passages non traces jusqu'a une source. Des outils specialises comme SelfCheckGPT implementent des variantes de ces approches en boite noire, sans acces aux probabilites internes du modele. Ces detecteurs restent eux-memes imparfaits : ils produisent des faux positifs sur des affirmations correctes mais formulees avec un vocabulaire inhabituel, et des faux negatifs sur des hallucinations formulees avec une grande confiance apparente, un phenomene documente ou le ton assure d'une reponse ne correlait pas avec son exactitude. Pour un RSSI, la detection d'hallucination automatisee constitue une couche de defense complementaire au human-in-the-loop, particulierement critique pour les applications IA sans supervision humaine systematique en production.