Kannst du KI-Agenten deine Arbeit anvertrauen?

Ein besseres System aufbauen

Im letzten Beitrag habe ich dir die Mathematik gezeigt, die in den Demos weggelassen wird. Ein KI-Agent, der bei jedem Schritt einer Aufgabe zu 95 % zuverlässig ist, ist nicht zu 95 % für die gesamte Aufgabe zuverlässig.

Echte Arbeit besteht aus langen Ketten, daher ist ein einzelner Agent, der alles macht, fehleranfällig. Dieser Beitrag endete mit einer Vermutung: Vielleicht ist die Antwort gar kein größerer Agent. Vielleicht ist es ein System.

Dieses Wort kann wie eine Ausrede klingen, also lass es mich konkret machen, angefangen mit einem Fehlschlag aus unseren eigenen Tests.

Wie sicherere KI wirklich aussieht

Jede Woche gibt es eine neue Geschichte über KI-”Agentenschwärme”, die bei Tests außer Kontrolle geraten. Die reißerische Version möchte dich glauben machen, dass KI zu groß und zu komplex ist, als dass ein Mensch sie jemals verstehen könnte. Das überspringt die Frage, die für ein Unternehmen wichtig ist: Wenn ein KI-System einen Fehler macht, bemerkt ihn jemand und verhindert, dass er ein zweites Mal passiert?

Wie ein System die Fehler von Agenten abfängt

Arbeit gut zu managen erfordert Fachwissen. Unter Aqua liegt das, was wir ein Weltmodell nennen: eine Sammlung virtueller Objekte, die verschiedene Aspekte der kooperativen Arbeit darstellen (die Aufgabe, wer sie bearbeitet, was wahr ist, was noch aussteht), anstatt eines langen, verschwommenen Chats, den die KI immer wieder lesen und hoffen muss, dass sie ihn richtig verstanden hat.

Da die Arbeit als virtuelle Objekte mit einer Standardstruktur gehalten wird, kann das System drei Dinge tun, die ein Standard-Agent nicht kann.

Die ersten beiden Schritte sind der Grund, warum wir, selbst wenn das System eine falsche Entscheidung trifft, direkt auf das Arbeitsstück zeigen können, das sie ausgelöst hat. Der dritte ist der Grund, warum ein schlechtes Ergebnis dort abgefangen wird, wo es passiert ist, bevor es sich auf die folgenden Schritte auswirken kann.

Ein Gedächtnis, das die Belege aufbewahrt

Jedes System der Verantwortlichkeit erfordert eine Aufzeichnung. Hier scheitern fast alle Tools auf dem Markt, auch wenn sie alle mit demselben Wort werben: Gedächtnis. Was sie unter Gedächtnis verstehen und was dein Unternehmen tatsächlich braucht, ist nicht dasselbe.

Das meiste “KI-Gedächtnis” ist heute eine einzige große Kiste mit Notizen. Das Aquarius-Weltmodell führt einen Aktenschrank mit beschrifteten Schubladen.

Die große Kiste mit Notizen ist gut für die Erinnerung. Sie kann dir nicht sagen, was am Dienstag passiert ist, weil die Kiste keine Notizen mit datierten Etiketten trennt, auf die du zeigen kannst. Ein Aquarius-Project-Durchlauf bringt jedoch den Aktenschrank mit: Jeder Schritt erzeugt ein Ausführungsprotokoll, das du oder ein KI-Manager öffnen und überprüfen kann.

Dieser Aktenschrank hat den Fehler unseres Empfangsmitarbeiters überhaupt erst auffindbar gemacht. Es gab einen aufgezeichneten Bericht darüber, was in der Aufgabenkette passiert ist, den der KI-Manager lokalisieren und beheben konnte. Ich würde es eine nachvollziehbare Aufzeichnung von Abläufen nennen, und ihr Wert geht über bloßes Vertrauen hinaus.

Deine Arbeit, dein Modell

Weil das Modell von Aqua standardisiert ist und weil es dir gehört, ist es ein Vermögenswert. Du kannst es nutzen, um das Unternehmen zu führen. Du kannst es teilen und einem Auftragnehmer oder einem neuen Mitarbeiter genau den Teil geben, den er braucht. Und wenn ein Unternehmen den Besitzer wechselt, ist die Aufzeichnung darüber, wie es tatsächlich läuft, Teil dessen, was verkauft wird. Eine Kiste mit Chatprotokollen kann all das nicht. Die willst du nicht übergeben, und du kannst sie sicherlich nicht zu Geld machen.

Du willst keine KI, die mysteriös ist. Du willst eine KI, die Aufzeichnungen führt, die du öffnen, besitzen und weitergeben kannst.

FAQ

Kann ich der KI nun echte Arbeit anvertrauen oder nicht? Für kurze, in sich geschlossene Aufgaben oft ja. Für lange, mehrstufige Arbeiten nur, wenn es ein System gibt, das jeden Schritt überprüft, und nicht ein einzelner Agent, der die gesamte Kette unbeaufsichtigt ausführt. Vertraue dem Setup, das einen Fehler abfangen und beheben kann, so wie du Rohrleitungen vertraust, die Absperrventile haben, und nicht denen, die versprechen, dass sie niemals undicht werden.

Was meinst du mit einem “Weltmodell”? Es ist der Teil unseres Systems, der dein Unternehmen als eine Reihe realer, separater Teile (die Aufgabe, wer sie bearbeitet, was wahr ist, was noch aussteht) anstatt als einen langen Chat-Stream hält. Die Arbeit auf diese Weise zu halten, ermöglicht es dem System, einen Job in Schritte zu unterteilen, jeden an den richtigen Teil des Teams zu übergeben und jeden einzelnen zu überprüfen, bevor es weitergeht.

Wie unterscheidet sich das vom “KI-Gedächtnis”? Das meiste KI-Gedächtnis speichert, was gesagt wurde: vergangenen Text, den es nach Ähnlichkeit durchsucht, oder ein Profil deiner Vorlieben. Das hilft ihm, konsistent zu klingen. Es gibt dir keine Aufzeichnung darüber, was tatsächlich getan wurde, protokolliert als Ereignisse, die du überprüfen und korrigieren kannst. Das erste ist eine Kiste mit Notizen; das zweite ist ein Aktenschrank.

---

Von unserem Team für deins. Aquarius baut maßgeschneiderte KI für Einzelpersonen und kleine Unternehmen. Wir haben Aqua entwickelt, deinen persönlichen Business-Assistenten. Es lernt, wie du Dinge erledigst, und nutzt dann unser Working World Model, um ein Team von KIs zusammenzustellen, das genau auf deine Lücken zugeschnitten ist. peopleaquarius.com