Možeš li povjeriti svoj posao AI agentima?
AI agenti trebaju delegiranje i nadzor. Evo kako smo izgradili sustav koji pronalazi vlastite greške i sprječava da se ponove.
Zachary Sheldon5 min čitanjaNa ovoj stranici
Izgradnja boljeg sustava
U prošloj objavi pokazao sam ti matematiku koju demo prikazi izostavljaju. AI agent koji je 95% pouzdan u svakom koraku zadatka nije 95% pouzdan kroz cijeli posao.
Stvarni posao čine dugi lanci, pa je jedan agent koji radi sve zapravo krhak. Ta je objava završila slutnjom: možda odgovor uopće nije veći agent. Možda je odgovor sustav.
Ta riječ može zvučati kao izbjegavanje, pa dopusti da budem konkretan, počevši s pogreškom iz našeg vlastitog testiranja.
Kako zapravo izgleda sigurniji AI
Svaki tjedan donosi novu priču o “rojevima agenata” umjetne inteligencije koji se otmu kontroli tijekom testiranja. Senzacionalistička verzija želi da povjeruješ kako je AI prevelik i presložen da bi ga itko ikada razumio. To preskače pitanje koje je važno za poslovanje: kada AI sustav napravi pogrešku, uhvati li je netko i spriječi li da se ponovi?
Kako sustav hvata pogreške agenata
Dobro upravljanje poslom zahtijeva specijalizirano znanje. Ispod sustava Aqua nalazi se ono što nazivamo modelom svijeta: zbirka virtualnih objekata koja predstavlja različite aspekte suradničkog rada (zadatak, tko ga rješava, što je istina, što se još duguje) umjesto jedne duge, nejasne mase razgovora koju AI mora ponovno čitati i nadati se da je dobro shvatio.
Budući da se posao čuva kao virtualni objekti sa standardnom strukturom, sustav može učiniti tri stvari koje gotovi agent iz kutije ne može.
Model svijeta mapira posao kao zasebne korake koji se mogu pratiti, a ne kao jedan dugi lanac u kojem greška bilo gdje uništava krajnji rezultat kroz gomilanje pogrešaka.
Svaki korak ide onom dijelu tima koji je za to izgrađen, umjesto da jedan generalist radi sve odjednom na temelju ponovljenih upita.
Korak provjere uspoređuje svaki završeni dio s onim što je trebao proizvesti. Ako je pogrešan, uhvaćen je i popravljen na licu mjesta, prije nego što sljedeći korak naslijedi pogrešku.
Prva dva koraka su razlog zašto, čak i kada sustav donese lošu odluku, možemo pokazati ravno na dio posla koji ju je pokrenuo. Treći je razlog zašto se loš rezultat uhvati tamo gdje se dogodio, prije nego što se može preliti na korake koji slijede.
Memorija koja čuva račune
Svaki sustav odgovornosti zahtijeva vođenje evidencije. Tu gotovo svaki alat na tržištu podbaci, iako svi reklamiraju istu riječ: memorija. Ono što oni podrazumijevaju pod memorijom i ono što tvoje poslovanje zapravo treba nisu ista stvar.
Većina “AI memorije” danas je jedna velika kutija bilješki. Aquarius model svijeta čuva ormarić za spise s označenim ladicama.
- Prošli tekst povučen jer izgleda slično tvom zahtjevu
- Informacije o tebi, a ne o tvojim poslovnim operacijama
- Razbacane bilješke, sačuvane onako kako ih je alat slučajno sačuvao
- Pohranjuje ono što je rečeno, a ne ono što je učinjeno
- Što je istina: tvoja pravila, cijene i ljudi, sačuvani kao konačna riječ
- Što se dogodilo: svaka akcija zabilježena kao događaj, a ne kao rečenica koja ga opisuje
- Tko što radi dobro i što se još duguje
- Svaka stvar na svom mjestu, otvorena za inspekciju i ispravak
Velika kutija bilješki dobra je za prisjećanje. Ne može ti reći što se dogodilo u utorak, jer kutija ne odvaja bilješke s datiranim oznakama na koje možeš pokazati. Međutim, pokretanje Aquarius Projekta dolazi s ormarićem za spise: svaki korak generira zapis o izvođenju koji ti ili AI menadžer možete otvoriti i pregledati.
Taj ormarić za spise je ono što je uopće omogućilo pronalazak pogreške našeg recepcionara. Postojao je zabilježeni izvještaj o tome što se dogodilo u lancu zadataka kako bi ga AI menadžer mogao locirati i riješiti. Nazvao bih to odgovornom evidencijom operacija, a njezina vrijednost seže dalje od povjerenja.
Tvoj posao, tvoj model
Budući da je model sustava Aqua standardiziran, i budući da je tvoj, on je imovina. Možeš ga koristiti za vođenje poslovanja. Možeš ga dijeliti, predajući izvođaču ili novom zaposleniku točno onaj dio koji im treba. A kada posao promijeni vlasnika, evidencija o tome kako zapravo funkcionira dio je onoga što se prodaje. Kutija logova razgovora ne može ništa od toga. To ne želiš predati, a sigurno to ne možeš ni unovčiti.
Ne želiš AI koji je misteriozan. Želiš AI koji vodi evidenciju koju možeš otvoriti, posjedovati i proslijediti dalje.
Često postavljana pitanja
Dakle, mogu li povjeriti umjetnoj inteligenciji stvarni posao ili ne? Za kratke, ograničene poslove, često da. Za dugi rad u više koraka, samo ako postoji sustav koji provjerava svaki korak, a ne jedan agent koji vodi cijeli lanac bez nadzora. Vjeruj postavi koja može uhvatiti i popraviti pogrešku, na isti način na koji vjeruješ vodovodu koji ima zaporne ventile, a ne onom koji obećava da nikada neće procuriti.
Što misliš pod “modelom svijeta”? To je dio našeg sustava koji drži tvoje poslovanje kao skup stvarnih, zasebnih dijelova (zadatak, tko ga rješava, što je istina, što se još duguje) umjesto jednog dugog niza razgovora. Držanje posla na taj način je ono što sustavu omogućuje da razbije posao na korake, preda svaki pravom dijelu tima i provjeri svaki prije nego što krene dalje.
Kako se to razlikuje od “AI memorije”? Većina AI memorije pohranjuje ono što je rečeno: prošli tekst koji pretražuje po sličnosti ili profil tvojih preferencija. To joj pomaže da zvuči dosljedno. Ne daje ti evidenciju o tome što je zapravo učinjeno, zabilježeno kao događaje koje možeš pregledati i ispraviti. Prvo je kutija bilješki; drugo je ormarić za spise.
Od našeg tima tvome. Aquarius gradi prilagođeni AI za pojedince i male tvrtke. Napravili smo sustav Aqua, tvog osobnog poslovnog čarobnjaka. Uči kako obavljaš stvari, a zatim koristi naš Radni model svijeta kako bi stvorio ekipu AI-jeva oblikovanih da popune tvoje praznine. peopleaquarius.com