distinguer compromission du LLM de compromission du système : accepter qu'un jailbreak produise du texte hors politique, mais garantir que des contrôles externes bornent les conséquences (actions, données, décisions critiques hors de la génération libre).
La menace
contournement des garde-fous par formulations adverses (rôles, négociation, encodages) pour sortir le modèle de sa politique.
Angle mortPourquoi les grilles classiques la ratent
c'est une attaque sur la politique du modèle, pas sur un composant ; fréquente, difficile à éradiquer par simple renforcement d'instructions.
MitigationSolution proposée
distinguer compromission du LLM de compromission du système : accepter qu'un jailbreak produise du texte hors politique, mais garantir que des contrôles externes bornent les conséquences (actions, données, décisions critiques hors de la génération libre).
Le contrôle proposé
les actions et décisions critiques restent hors de la génération libre.
Preuve attendue
démontrer qu'un jailbreak réussi ne débouche sur aucune action critique non soumise aux contrôles.