Que fait la personne qui supervise un agent IA ?
La personne qui supervise un agent IA décide lesquelles des actions qu'il propose ont vraiment lieu. L'agent prépare le travail : un remboursement, une modification DNS, une fusion. La personne qui supervise lit ce qu'il ferait vraiment, vérifie qui a demandé et pourquoi, puis approuve, choisit une option plus sûre, refuse ou arrête un agent qui a été manipulé.
Essayez : une proposition, quatre décisions
L'agent prépare la modification ; rien n'atteint la plateforme avant la décision de la personne qui supervise. Choisissez une décision et regardez où va la proposition.
Approuver : la modification passe exactement telle que proposée.
Pourquoi ce rôle existe
Les agents IA agissent au moyen de clés : une clé Stripe, un jeton Cloudflare, une application GitHub. Avec une clé, un agent peut faire tout ce que la clé permet, immédiatement. La plupart de ce qu'il propose est routinier et juste. Certaines actions sont irréversibles, déplacent de l'argent ou donnent un accès à quelqu'un, et certaines demandes parviennent à l'agent de personnes qui n'ont pas à lui donner d'ordres.
La supervision se place entre la proposition et la modification. Rien ne se passe avant qu'une personne ait regardé.
Les quatre décisions
- Approuver ce qui est routinier et juste. Bloquer du vrai travail a aussi un coût.
- Choisir l'autre option quand l'agent propose une version plus restreinte et plus sûre, et qu'elle est vraiment la meilleure.
- Refuser ce qui est faux ou dangereux. L'agent peut revenir avec une meilleure proposition.
- Refuser et bloquer un agent qui a été manipulé, par exemple par des instructions cachées dans un e-mail ou un journal. Un agent maladroit n'a besoin que d'un refus.
Ce que vérifie une bonne supervision
- Ce qui se passerait exactement, écrit par l'outil, pas par l'agent
- Combien d'argent, quel site, quel dépôt, quelles personnes
- Qui a demandé, par quel canal, et si cette personne en avait le droit
- Si l'on peut revenir en arrière
- Si l'agent suit une instruction trouvée dans les données qu'il était en train de lire
Sans savoir programmer
Superviser un agent, c'est lire une proposition, pas écrire du code. Il faut du jugement et quelques faits sur la plateforme : ce que fait vraiment un remboursement, pourquoi un enregistrement DNS supprimé coupe l'e-mail, pourquoi une étiquette de version déplacée casse les installations de la clientèle.
Comment l'apprendre
Human Queue Training propose trois cours gratuits, chacun sur le modèle d'une vraie plateforme, où un agent fait des propositions réalistes et où vous décidez. Après chaque décision, vous voyez ce qu'était vraiment la proposition et comment fonctionne la plateforme. Réussissez un examen et vous devenez Certified AI Agent Supervisor.