instructions vitales déterministes hors du modèle (le chemin critique reste hors de la génération libre), garde-fous de plausibilité et de confirmation, supervision de la dérive.
La menace
le modèle produit une réponse plausible mais fausse, avec un impact potentiellement critique si elle pilote une action ; la dérive (model drift) dégrade la fiabilité dans le temps.
Angle mortPourquoi les grilles classiques la ratent
elles n'ont pas de notion de « sortie probabiliste » ; pour elles une sortie est vraie ou fausse, pas « plausible mais non garantie ».
MitigationSolution proposée
instructions vitales déterministes hors du modèle (le chemin critique reste hors de la génération libre), garde-fous de plausibilité et de confirmation, supervision de la dérive.
Le contrôle proposé
les sorties à fort impact passent par une logique déterministe indépendante du modèle.
Preuve attendue
montrer que les sorties à fort impact passent par une logique déterministe indépendante du modèle.