Peux-tu confier ton travail aux agents IA ?
Les agents IA ont besoin de délégation et de supervision. Voici comment nous avons conçu un système qui repère ses propres erreurs et les empêche de se reproduire.
Zachary Sheldon6 min de lectureSur cette page
Construire un meilleur système
Dans le dernier article, je t’ai montré les calculs que les démos omettent. Un agent IA fiable à 95 % à chaque étape d’une tâche n’est pas fiable à 95 % sur l’ensemble du travail.
Le vrai travail est fait de longues chaînes, donc un agent unique qui fait tout est fragile. Cet article s’est terminé sur une intuition : la réponse n’est peut-être pas du tout un agent plus gros. C’est peut-être un système.
Ce mot peut ressembler à une esquive, alors laisse-moi rendre ça concret, en commençant par un raté de nos propres tests.
À quoi ressemble vraiment une IA plus sûre
Chaque semaine apporte une nouvelle histoire sur des « essaims d’agents » IA qui échappent à tout contrôle lors de tests. La version sensationnaliste voudrait te faire croire que l’IA est trop vaste et trop complexe pour qu’une personne puisse jamais la comprendre. Cela élude la question qui compte pour une entreprise : quand un système d’IA fait une erreur, est-ce que quelqu’un s’en rend compte, et est-ce qu’il l’empêche de se reproduire ?
Comment un système repère les erreurs des agents
Bien gérer le travail demande des connaissances spécialisées. Sous Aqua, il y a ce que nous appelons un modèle du monde : une collection d’objets virtuels qui représente des aspects distincts du travail coopératif (la tâche, qui s’en occupe, ce qui est vrai, ce qui est encore dû) au lieu d’un long fil de discussion flou que l’IA doit relire en espérant avoir bien compris.
Parce que le travail est conservé sous forme d’objets virtuels avec une structure standard, le système peut faire trois choses qu’un agent prêt à l’emploi ne peut pas faire.
Le modèle du monde cartographie le travail sous forme d’étapes séparées et traçables, et non comme une longue chaîne où un dérapage n’importe où ruine le résultat final par accumulation d’erreurs.
Chaque étape est confiée à la partie de l’équipe conçue pour cela, au lieu d’un généraliste qui fait tout en même temps à partir de prompts répétés.
Une étape de vérification compare chaque morceau terminé avec ce qu’il était censé produire. Si c’est faux, c’est repéré et corrigé sur-le-champ, avant que l’étape suivante n’hérite de l’erreur.
Les deux premières étapes expliquent pourquoi, même quand le système prend une mauvaise décision, on peut pointer directement le morceau de travail qui l’a déclenchée. La troisième explique pourquoi un mauvais résultat est repéré là où il s’est produit, avant qu’il ne puisse s’aggraver dans les étapes suivantes.
Une mémoire qui garde les traces
Tout système de responsabilité nécessite la tenue de registres. C’est là que presque tous les outils du marché échouent, même s’ils mettent tous en avant le même mot : mémoire. Ce qu’ils entendent par mémoire et ce dont ton entreprise a réellement besoin ne sont pas la même chose.
La plupart des « mémoires d’IA » d’aujourd’hui sont une seule grande boîte à notes. Le modèle du monde d’Aquarius conserve un classeur avec des tiroirs étiquetés.
- Texte passé récupéré parce qu'il ressemble à ta demande
- Des informations sur toi, pas sur les opérations de ton entreprise
- Des notes volantes, conservées comme l'outil a bien voulu les garder
- Stocke ce qui a été dit, pas ce qui a été fait
- Ce qui est vrai : tes règles, tes prix et tes collaborateurs, considérés comme le mot de la fin
- Ce qui s'est passé : chaque action enregistrée comme un événement, pas comme une phrase qui le décrit
- Qui fait bien quoi, et ce qui est encore dû
- Chaque chose à sa place, ouverte à l'inspection et à la correction
La grande boîte à notes est très bien pour se souvenir. Elle ne peut pas te dire ce qui s’est passé mardi, car la boîte ne sépare pas les notes avec des étiquettes datées que tu peux pointer. L’exécution d’un Project Aquarius, en revanche, est livrée avec le classeur : chaque étape génère un registre d’exécution que toi ou un manager IA pouvez ouvrir et inspecter.
C’est ce classeur qui a permis de trouver l’erreur de notre réceptionniste en premier lieu. Il y avait un compte-rendu enregistré de ce qui s’était passé dans la chaîne de tâches pour que le manager IA puisse le localiser et le traiter. J’appellerais ça un registre d’opérations responsable, et sa valeur va au-delà de la confiance.
Ton travail, ton modèle
Parce que le modèle d’Aqua est standardisé, et parce qu’il est à toi, c’est un atout. Tu peux l’utiliser pour gérer l’entreprise. Tu peux le partager, en confiant à un prestataire ou à une nouvelle recrue exactement la part dont ils ont besoin. Et quand une entreprise change de mains, le registre de son fonctionnement réel fait partie de ce qui est vendu. Une boîte de journaux de discussion ne peut rien faire de tout ça. Tu ne veux pas transmettre ça, et tu ne peux certainement pas le monétiser.
Tu ne veux pas d’une IA mystérieuse. Tu veux une IA qui garde des registres que tu peux ouvrir, posséder et transmettre.
FAQ
Alors, puis-je confier du vrai travail à l’IA ou non ? Pour des tâches courtes et contenues, souvent oui. Pour un long travail en plusieurs étapes, seulement s’il y a un système qui vérifie chaque étape, et non un seul agent qui gère toute la chaîne sans supervision. Fais confiance à l’installation qui peut repérer et corriger une erreur, de la même façon que tu fais confiance à une plomberie qui a des vannes d’arrêt, pas à celle qui promet qu’elle ne fuira jamais.
Qu’entends-tu par « modèle du monde » ? C’est la partie de notre système qui considère ton entreprise comme un ensemble de pièces réelles et séparées (la tâche, qui s’en occupe, ce qui est vrai, ce qui est encore dû) plutôt que comme un long flux de discussion. C’est le fait de conserver le travail de cette façon qui permet au système de diviser une tâche en étapes, de confier chacune à la bonne partie de l’équipe, et de vérifier chacune d’elles avant de passer à la suite.
En quoi est-ce différent de la « mémoire d’IA » ? La plupart des mémoires d’IA stockent ce qui a été dit : du texte passé qu’elles recherchent par similarité, ou un profil de tes préférences. Ça les aide à paraître cohérentes. Ça ne te donne pas un registre de ce qui a été réellement fait, consigné sous forme d’événements que tu peux inspecter et corriger. Le premier est une boîte à notes ; le second est un classeur.
De notre équipe à la tienne. Aquarius crée des IA sur mesure pour les particuliers et les petites entreprises. Nous avons créé Aqua, ton as des affaires personnel. Elle apprend comment tu fais les choses, puis utilise notre modèle du monde de travail pour concevoir une équipe d’IA façonnée pour combler tes lacunes. peopleaquarius.com