Puoi affidare il tuo lavoro agli agenti IA?
Gli agenti IA hanno bisogno di delega e supervisione. Ecco come abbiamo costruito un sistema che trova i propri errori ed evita che si ripetano.
Zachary Sheldon5 min di letturaIn questa pagina
Costruire un sistema migliore
Nello scorso post ti ho mostrato i calcoli che le demo tralasciano. Un agente IA affidabile al 95% in ogni fase di un’attività non è affidabile al 95% sull’intero lavoro.
Il lavoro reale è fatto di lunghe catene, quindi un singolo agente tuttofare è fragile. Quel post si concludeva con un’intuizione: forse la risposta non è affatto un agente più grande. Forse è un sistema.
Questa parola può sembrare una scappatoia, quindi lasciami essere concreto, partendo da un passo falso nei nostri stessi test.
Che aspetto ha davvero un’IA più sicura
Ogni settimana porta con sé un’altra storia di “sciami di agenti” IA che sfuggono al controllo durante i test. La versione sensazionalistica vorrebbe farti credere che l’IA sia troppo grande e troppo complessa perché una persona possa mai capirla. Questo però salta la domanda che conta per un’azienda: quando un sistema IA commette un errore, qualcuno se ne accorge e impedisce che accada due volte?
Come un sistema intercetta gli errori degli agenti
Gestire bene il lavoro richiede conoscenze specializzate. Sotto Aqua c’è quello che chiamiamo un modello del mondo: una collezione di oggetti virtuali che rappresenta aspetti distinti del lavoro cooperativo (l’attività, chi se ne sta occupando, cosa è vero, cosa è ancora in sospeso) invece di una lunga chat confusa che l’IA deve rileggere sperando di aver capito bene.
Poiché il lavoro è conservato come oggetti virtuali con una struttura standard, il sistema può fare tre cose che un agente pronto all’uso non può fare.
Il modello del mondo mappa il lavoro come fasi separate e tracciabili, non come una lunga catena in cui uno scivolone in qualsiasi punto rovina il risultato finale a causa di errori composti.
Ogni fase va alla parte del team creata appositamente, invece di un generalista che fa tutto in una volta basandosi su prompt ripetuti.
Una fase di controllo legge ogni pezzo finito confrontandolo con ciò che doveva produrre. Se è sbagliato, viene intercettato e corretto lì per lì, prima che la fase successiva erediti l’errore.
Le prime due fasi sono il motivo per cui, anche quando il sistema prende una decisione sbagliata, possiamo puntare dritti al pezzo di lavoro che l’ha innescata. La terza è il motivo per cui un cattivo risultato viene intercettato dove è successo, prima che possa aggravarsi nelle fasi successive.
Una memoria che conserva le ricevute
Ogni sistema di responsabilità richiede la tenuta dei registri. È qui che quasi tutti gli strumenti sul mercato falliscono, anche se tutti pubblicizzano la stessa parola: memoria. Quello che intendono per memoria e ciò di cui la tua azienda ha effettivamente bisogno non sono la stessa cosa.
La maggior parte della “memoria IA” oggi è un’unica grande scatola di appunti. Il modello del mondo di Aquarius mantiene uno schedario con cassetti etichettati.
- Testo passato recuperato perché sembra simile alla tua richiesta
- Informazioni su di te, non sulle operazioni della tua azienda
- Appunti sparsi, conservati nel modo in cui lo strumento è capitato di conservarli
- Memorizza ciò che è stato detto, non ciò che è stato fatto
- Cosa è vero: le tue regole, i prezzi e le persone, considerati come l'ultima parola
- Cosa è successo: ogni azione registrata come un evento, non una frase che ne descrive uno
- Chi fa bene cosa, e cosa è ancora in sospeso
- Ogni cosa al suo posto, aperta all'ispezione e alla correzione
La grande scatola di appunti va bene per ricordare. Non può dirti cosa è successo martedì, perché la scatola non separa gli appunti con etichette datate a cui puoi fare riferimento. L’esecuzione di un Project di Aquarius, tuttavia, è dotata dello schedario: ogni fase genera un registro di esecuzione che tu o un manager IA potete aprire e ispezionare.
Quello schedario è ciò che ha reso l’errore della nostra receptionist rintracciabile in primo luogo. C’era un resoconto registrato di ciò che era successo nella catena di attività, in modo che il manager IA potesse individuarlo e affrontarlo. Lo chiamerei un registro responsabile delle operazioni, e il suo valore va oltre la fiducia.
Il tuo lavoro, il tuo modello
Poiché il modello di Aqua è standardizzato, e poiché è tuo, è una risorsa. Puoi usarlo per gestire l’azienda. Puoi condividerlo, consegnando a un collaboratore o a un nuovo assunto esattamente la fetta di cui hanno bisogno. E quando un’azienda passa di mano, il registro di come funziona effettivamente è parte di ciò che viene venduto. Una scatola di log di chat non può fare nulla di tutto ciò. Non vuoi consegnarla, e certamente non puoi monetizzarla.
Non vuoi un’IA misteriosa. Vuoi un’IA che tenga registri che puoi aprire, possedere e tramandare.
FAQ
Quindi posso affidare all’IA il lavoro reale o no? Per lavori brevi e contenuti, spesso sì. Per lavori lunghi a più fasi, solo se c’è un sistema che controlla ogni fase, non un singolo agente che esegue l’intera catena senza supervisione. Fidati della configurazione che può intercettare e correggere un errore, nello stesso modo in cui ti fidi di un impianto idraulico che ha valvole di intercettazione, non di quello che promette che non perderà mai.
Cosa intendi per “modello del mondo”? È la parte del nostro sistema che mantiene la tua azienda come un insieme di pezzi reali e separati (l’attività, chi se ne sta occupando, cosa è vero, cosa è ancora in sospeso) piuttosto che un lungo flusso di chat. Mantenere il lavoro in questo modo è ciò che permette al sistema di spezzare un lavoro in fasi, consegnare ciascuna alla parte giusta del team e controllare ognuna prima di andare avanti.
In cosa è diverso dalla “memoria IA”? La maggior parte della memoria IA memorizza ciò che è stato detto: testo passato che cerca per somiglianza, o un profilo delle tue preferenze. Questo la aiuta a sembrare coerente. Non ti dà un registro di ciò che è stato effettivamente fatto, registrato come eventi che puoi ispezionare e correggere. La prima è una scatola di appunti; il secondo è uno schedario.
Dal nostro team al tuo. Aquarius crea IA personalizzate per individui e piccole imprese. Abbiamo creato Aqua, il tuo mago degli affari personale. Impara come fai le cose, poi usa il nostro Working World Model per creare un team di IA modellato per colmare le tue lacune. peopleaquarius.com