Îți poți lăsa munca pe mâna agenților AI?

Construirea unui sistem mai bun

În ultima postare ți-am arătat matematica pe care demo-urile o omit. Un agent AI care este 95% de încredere la fiecare pas al unei sarcini nu este 95% de încredere pe parcursul întregii lucrări.

Munca reală înseamnă lanțuri lungi, așa că un singur agent care face de toate este unul fragil. Acea postare s-a încheiat cu o intuiție: poate că răspunsul nu este deloc un agent mai mare. Poate că este un sistem.

Acest cuvânt poate suna ca o eschivare, așa că lasă-mă să fiu concret, începând cu un eșec din propriile noastre teste.

Cum arată cu adevărat un AI mai sigur

Fiecare săptămână aduce o altă poveste despre „roiuri de agenți” AI care scapă de sub control în teste. Versiunea senzațională te-ar face să crezi că AI-ul este prea mare și prea complex pentru ca vreo persoană să-l poată înțelege vreodată. Asta omite întrebarea care contează pentru o afacere: când un sistem AI face o greșeală, o observă cineva și previne repetarea ei?

Cum prinde un sistem greșelile agenților

Gestionarea bună a muncii necesită cunoștințe specializate. Sub Aqua se află ceea ce noi numim un model al lumii (world model): o colecție de obiecte virtuale care reprezintă aspecte distincte ale muncii în echipă (sarcina, cine se ocupă de ea, ce este adevărat, ce a mai rămas de făcut) în loc de o lungă neclaritate de chat pe care AI-ul trebuie să o recitească și să spere că a înțeles-o corect.

Deoarece munca este păstrată ca obiecte virtuale cu o structură standard, sistemul poate face trei lucruri pe care un agent standard nu le poate face.

Primii doi pași sunt motivul pentru care, chiar și atunci când sistemul ia o decizie proastă, putem arăta direct spre bucata de muncă ce a declanșat-o. Al treilea este motivul pentru care un rezultat prost este prins acolo unde s-a întâmplat, înainte de a se agrava în pașii care urmează.

Memoria care păstrează dovezile

Orice sistem de responsabilitate necesită păstrarea înregistrărilor. Aici este punctul în care aproape fiecare instrument de pe piață dă greș, chiar dacă toate promovează același cuvânt: memorie. Ce înțeleg ei prin memorie și de ce are afacerea ta nevoie cu adevărat nu sunt același lucru.

Cea mai mare parte din „memoria AI” de astăzi este o singură cutie mare de notițe. Modelul lumii Aquarius păstrează un dulap de arhivare cu sertare etichetate.

Cutia mare de notițe este bună pentru reamintire. Nu-ți poate spune ce s-a întâmplat marți, pentru că acea cutie nu separă notițele cu etichete datate pe care să le poți indica. O rulare de Project Aquarius, totuși, vine cu dulapul de arhivare: fiecare pas generează o înregistrare a rulării pe care tu sau un manager AI o puteți deschide și inspecta.

Acel dulap de arhivare este ceea ce a făcut ca greșeala recepționerului nostru să poată fi găsită în primul rând. A existat o relatare înregistrată a ceea ce s-a întâmplat în lanțul de sarcini pentru ca managerul AI să o localizeze și să o rezolve. Aș numi-o o înregistrare responsabilă a operațiunilor, iar valoarea ei trece dincolo de încredere.

Munca ta, Modelul tău

Pentru că modelul lui Aqua este standardizat și pentru că este al tău, este un activ. Îl poți folosi pentru a conduce afacerea. Îl poți partaja, oferind unui contractor sau unui nou angajat exact porțiunea de care au nevoie. Și când o afacere își schimbă proprietarul, înregistrarea modului în care funcționează de fapt face parte din ceea ce se vinde. O cutie de jurnale de chat nu poate face nimic din toate acestea. Nu vrei să predai așa ceva și cu siguranță nu o poți monetiza.

Nu vrei un AI care este misterios. Vrei un AI care păstrează înregistrări pe care le poți deschide, deține și transmite mai departe.

Întrebări frecvente

Deci, pot avea încredere în AI cu munca reală sau nu? Pentru lucrări scurte, izolate, adesea da. Pentru munca lungă cu mai mulți pași, doar dacă există un sistem care verifică fiecare pas, nu un singur agent care rulează întregul lanț nesupravegheat. Ai încredere în configurația care poate prinde și repara o greșeală, la fel cum ai încredere în instalațiile sanitare care au robinete de închidere, nu în cea care promite că nu va curge niciodată.

Ce vrei să spui printr-un „model al lumii” (world model)? Este partea sistemului nostru care îți păstrează afacerea ca un set de piese reale, separate (sarcina, cine se ocupă de ea, ce este adevărat, ce a mai rămas de făcut) mai degrabă decât un lung flux de chat. Păstrarea muncii în acest fel este ceea ce permite sistemului să împartă o lucrare în pași, să predea fiecare pas părții potrivite din echipă și să verifice fiecare pas înainte de a merge mai departe.

Cum este asta diferit de „memoria AI”? Cea mai mare parte a memoriei AI stochează ceea ce s-a spus: text din trecut pe care îl caută prin similaritate sau un profil al preferințelor tale. Asta îl ajută să sune consecvent. Nu îți oferă o înregistrare a ceea ce s-a făcut de fapt, înregistrat ca evenimente pe care le poți inspecta și corecta. Prima este o cutie de notițe; a doua este un dulap de arhivare.

---

De la echipa noastră pentru a ta. Aquarius construiește AI personalizat pentru persoane fizice și afaceri mici. L-am creat pe Aqua, asistentul tău personal de afaceri. Învață cum rezolvi lucrurile, apoi folosește Modelul nostru de Lucru al Lumii (Working World Model) pentru a crea o echipă de AI-uri modelată să îți acopere lipsurile. peopleaquarius.com