Human-in-the-loop : concevoir des gates d’approbation qui scalent

L’automatisation totale d’un pipeline d’ingénierie est séduisante — et dangereuse. La validation humaine reste indispensable aux points critiques. Tout l’art consiste à la placer où elle compte, sans transformer chaque étape en goulet d’étranglement.

Pourquoi des gates ?

Un agent peut produire du code plausible mais inadapté au contexte métier. Une gate est un point d’arrêt explicite où un humain valide, corrige ou rejette avant de poursuivre. Elle transforme « faites confiance à l’IA » en « vérifiez ce qui compte ».

Où les placer

• Après l’architecture : c’est la décision la plus structurante. Une erreur ici coûte cher en aval.
• Avant tout changement irréversible : migration de schéma, suppression, déploiement en production.
• Sur les zones sensibles : sécurité, conformité, données personnelles.

À l’inverse, inutile de valider manuellement la génération d’un test unitaire trivial : la gate y crée plus de friction que de valeur.

Des gates qui scalent

Pour éviter l’engorgement, plusieurs mécanismes se combinent :

• Approbation N-of-M : exiger l’accord d’un nombre minimal de relecteurs, pas de tous.
• Auto-approve avec timeout : sur les étapes à faible risque, on poursuit automatiquement passé un délai sans objection.
• Niveaux de risque : le niveau de validation s’adapte à la criticité de l’étape.

La traçabilité, corollaire indispensable

Chaque décision de gate — qui, quoi, quand, pourquoi — est consignée dans un audit trail immuable. C’est ce qui rend le processus défendable lors d’un audit, et ce qui permet d’améliorer le placement des gates au fil du temps.