Rábízhatod a munkádat az AI ügynökökre?
Az AI ügynököknek delegálásra és felügyeletre van szükségük. Megmutatjuk, hogyan építettünk egy olyan rendszert, amely megtalálja a saját hibáit, és megelőzi, hogy újra megtörténjenek.
Zachary Sheldon5 perc olvasásEzen az oldalon
Egy jobb rendszer építése
A legutóbbi bejegyzésben megmutattam neked azt a matekot, amit a demók kihagynak. Egy AI ügynök, amely egy feladat minden egyes lépésénél 95%-ban megbízható, nem 95%-ban megbízható a teljes munka során.
A valódi munka hosszú láncolatokból áll, így egyetlen mindenttudó ügynök meglehetősen törékeny. Az a bejegyzés egy megérzéssel zárult: talán egyáltalán nem egy nagyobb ügynök a válasz. Talán egy rendszer.
Ez a szó kibúvónak hangozhat, úgyhogy hadd tegyem konkrétabbá, kezdve egy saját tesztelésünk során történt melléfogással.
Hogyan is néz ki valójában a biztonságosabb AI
Minden hétre jut egy újabb történet arról, hogy az AI “ügynökrajok” hogyan szabadulnak el a tesztelés során. A szenzációhajhász verzió elhitetné veled, hogy az AI túl nagy és túl bonyolult ahhoz, hogy bárki is megértse. Ez azonban átugorja azt a kérdést, ami egy vállalkozás számára igazán számít: amikor egy AI rendszer hibázik, észreveszi-e valaki, és megakadályozza-e, hogy még egyszer megtörténjen?
Hogyan kapja el egy rendszer az ügynökök hibáit
A munka megfelelő irányításához speciális tudásra van szükség. Aqua alatt található az, amit mi világmodellnek hívunk: virtuális objektumok gyűjteménye, amely az együttműködésen alapuló munka különböző aspektusait képviseli (a feladat, ki kezeli, mi az igazság, mivel tartoznak még), ahelyett, hogy egy hosszú, elmosódott csevegés lenne, amit az AI-nak újra kell olvasnia, és reménykednie, hogy jól értette.
Mivel a munkát szabványos szerkezetű virtuális objektumokként kezeli, a rendszer három olyan dolgot is meg tud tenni, amit egy dobozos ügynök nem.
A világmodell a munkát különálló, nyomon követhető lépésekként térképezi fel, nem pedig egyetlen hosszú láncként, ahol egyetlen hiba bárhol tönkreteszi a végeredményt a halmozódó hibák miatt.
Minden lépés a csapat arra a részére kerül, amelyet erre építettek, ahelyett, hogy egyetlen generalista csinálna mindent egyszerre, ismétlődő promptok alapján.
Egy ellenőrző lépés összeveti az egyes befejezett darabokat azzal, amit létre kellett volna hozniuk. Ha hibás, ott helyben elkapják és kijavítják, mielőtt a következő lépés megörökölné a hibát.
Az első két lépés az oka annak, hogy még ha a rendszer rossz döntést is hoz, egyenesen rá tudunk mutatni arra a munkadarabra, amely kiváltotta azt. A harmadik pedig az oka annak, hogy a rossz eredményt ott kapják el, ahol történt, mielőtt továbbgyűrűzne a következő lépésekbe.
Memória, amely megőrzi a nyugtákat
Minden elszámoltathatósági rendszer megköveteli a nyilvántartást. Ez az a pont, ahol a piacon lévő szinte minden eszköz elbukik, még akkor is, ha mindannyian ugyanazzal a szóval hirdetnek: memória. Amit ők memória alatt értenek, és amire a vállalkozásodnak valójában szüksége van, az nem ugyanaz.
A legtöbb “AI memória” ma egyetlen nagy doboznyi jegyzet. Az Aquarius világmodellje egy felcímkézett fiókokkal ellátott iratszekrényt tart fenn.
- Korábbi szöveg, amelyet azért húztak be, mert hasonlít a kérésedre
- Információk rólad, nem a vállalkozásod működéséről
- Laza jegyzetek, amelyeket az eszköz úgy tárolt, ahogy éppen sikerült
- Azt tárolja, amit mondtak, nem azt, amit tettek
- Mi az igazság: a szabályaid, áraid és embereid, mint végső szó
- Mi történt: minden művelet eseményként rögzítve, nem pedig azt leíró mondatként
- Ki mit csinál jól, és mivel tartoznak még
- Minden dolog a saját helyén, nyitva az ellenőrzésre és javításra
A nagy doboznyi jegyzet jó a felidézéshez. Nem tudja megmondani, mi történt kedden, mert a doboz nem választja szét a jegyzeteket dátumozott címkékkel, amikre rámutathatnál. Egy Aquarius Project futtatás azonban az iratszekrénnyel együtt érkezik: minden lépés létrehoz egy futtatási rekordot, amelyet te vagy egy AI menedzser megnyithat és megvizsgálhat.
Ez az iratszekrény tette egyáltalán megtalálhatóvá a recepciósunk hibáját. Volt egy rögzített beszámoló arról, hogy mi történt a feladatláncban, amit az AI menedzser megkereshetett és kezelhetett. Én ezt a műveletek elszámoltatható nyilvántartásának nevezném, és az értéke túlmutat a bizalmon.
A te munkád, a te modelled
Mivel Aqua modellje szabványosított, és mivel a tiéd, ez egy vagyontárgy. Használhatod a vállalkozás működtetésére. Megoszthatod, pontosan azt a szeletet adva egy alvállalkozónak vagy egy új alkalmazottnak, amire szükségük van. És amikor egy vállalkozás gazdát cserél, a tényleges működésének nyilvántartása is a részét képezi annak, amit eladnak. Egy doboznyi csevegési napló semmi ilyesmire nem képes. Azt nem akarod átadni, és biztosan nem tudod pénzzé tenni.
Nem olyan AI-t akarsz, ami rejtélyes. Olyan AI-t akarsz, ami olyan nyilvántartásokat vezet, amiket megnyithatsz, birtokolhatsz és továbbadhatsz.
GYIK
Szóval rábízhatom a valódi munkát az AI-ra vagy sem? Rövid, behatárolt feladatok esetén gyakran igen. Hosszú, többlépcsős munka esetén csak akkor, ha van egy rendszer, amely minden lépést ellenőriz, nem pedig egyetlen ügynök futtatja az egész láncot felügyelet nélkül. Bízz abban a beállításban, amely képes elkapni és kijavítani a hibát, ahogy abban a vízvezetékben is bízol, amelynek vannak elzárószelepei, nem pedig abban, amelyik azt ígéri, hogy soha nem fog szivárogni.
Mit értesz “világmodell” alatt? Ez a rendszerünk azon része, amely a vállalkozásodat valós, különálló darabok (a feladat, ki kezeli, mi az igazság, mivel tartoznak még) halmazaként kezeli, nem pedig egyetlen hosszú csevegési folyamként. A munka ily módon történő kezelése teszi lehetővé a rendszer számára, hogy a feladatot lépésekre bontsa, mindegyiket a csapat megfelelő részének adja át, és mindegyiket ellenőrizze, mielőtt továbblépne.
Miben különbözik ez az “AI memóriától”? A legtöbb AI memória azt tárolja, amit mondtak: korábbi szövegeket, amelyeket hasonlóság alapján keres, vagy a preferenciáid profilját. Ez segít abban, hogy következetesnek tűnjön. Nem ad azonban nyilvántartást arról, hogy valójában mi történt, olyan eseményekként naplózva, amelyeket megvizsgálhatsz és kijavíthatsz. Az első egy doboznyi jegyzet; a második egy iratszekrény.
A mi csapatunktól a tiédnek. Az Aquarius egyedi AI-t épít magánszemélyek és kisvállalkozások számára. Mi hoztuk létre Aquát, a te személyes üzleti varázslódat. Megtanulja, hogyan intézed a dolgokat, majd a Working World Modelünk segítségével egy olyan AI-csapatot hoz létre, amely pontosan a te hiányosságaidat pótolja. peopleaquarius.com