Μπορείς να εμπιστευτείς τη δουλειά σου σε AI agents;

Χτίζοντας ένα καλύτερο σύστημα

Στο προηγούμενο άρθρο σου έδειξα τα μαθηματικά που παραλείπουν τα demos. Ένας AI agent που είναι 95% αξιόπιστος σε κάθε βήμα μιας εργασίας δεν είναι 95% αξιόπιστος σε ολόκληρη τη δουλειά.

Η πραγματική δουλειά είναι μεγάλες αλυσίδες, οπότε ένας agent που τα κάνει όλα είναι εύθραυστος. Εκείνο το άρθρο τελείωσε με ένα προαίσθημα: ίσως η απάντηση να μην είναι καθόλου ένας μεγαλύτερος agent. Ίσως είναι ένα σύστημα.

Αυτή η λέξη μπορεί να ακούγεται σαν υπεκφυγή, οπότε ας το κάνω συγκεκριμένο, ξεκινώντας με μια αστοχία από τις δικές μας δοκιμές.

Πώς μοιάζει πραγματικά η πιο ασφαλής AI

Κάθε εβδομάδα φέρνει άλλη μια ιστορία για “σμήνη agents” AI που ξεφεύγουν από τον έλεγχο στις δοκιμές. Η εντυπωσιοθηρική εκδοχή θα ήθελε να πιστέψεις ότι η AI είναι πολύ μεγάλη και πολύ περίπλοκη για να την καταλάβει ποτέ κανείς. Αυτό παραβλέπει το ερώτημα που έχει σημασία για μια επιχείρηση: όταν ένα σύστημα AI κάνει ένα λάθος, το εντοπίζει κάποιος και αποτρέπει το να ξανασυμβεί;

Πώς ένα σύστημα εντοπίζει τα λάθη των agents

Η σωστή διαχείριση της δουλειάς απαιτεί εξειδικευμένη γνώση. Κάτω από την Aqua υπάρχει αυτό που ονομάζουμε ένα world model: μια συλλογή από εικονικά αντικείμενα που αντιπροσωπεύει ξεχωριστές πτυχές της συνεργατικής εργασίας (η εργασία, ποιος τη χειρίζεται, τι ισχύει, τι εκκρεμεί) αντί για μια μεγάλη θολή συνομιλία που η AI πρέπει να ξαναδιαβάσει και να ελπίζει ότι κατάλαβε σωστά.

Επειδή η δουλειά διατηρείται ως εικονικά αντικείμενα με τυποποιημένη δομή, το σύστημα μπορεί να κάνει τρία πράγματα που ένας απλός agent δεν μπορεί.

Τα δύο πρώτα βήματα είναι ο λόγος που, ακόμα και όταν το σύστημα κάνει μια λάθος επιλογή, μπορούμε να δείξουμε κατευθείαν στο κομμάτι της δουλειάς που την προκάλεσε. Το τρίτο είναι ο λόγος που ένα κακό αποτέλεσμα εντοπίζεται εκεί που συνέβη, πριν προλάβει να συσσωρευτεί στα βήματα που ακολουθούν.

Μνήμη που κρατάει τις αποδείξεις

Κάθε σύστημα λογοδοσίας απαιτεί τήρηση αρχείων. Εδώ είναι που σχεδόν κάθε εργαλείο στην αγορά υστερεί, παρόλο που όλα διαφημίζουν την ίδια λέξη: μνήμη. Αυτό που εννοούν με τη λέξη μνήμη και αυτό που πραγματικά χρειάζεται η επιχείρησή σου δεν είναι το ίδιο πράγμα.

Η περισσότερη “μνήμη AI” σήμερα είναι ένα μεγάλο κουτί με σημειώσεις. Το world model του Aquarius διατηρεί μια αρχειοθήκη με συρτάρια που έχουν ετικέτες.

Το μεγάλο κουτί με σημειώσεις είναι μια χαρά για ανάκληση. Δεν μπορεί να σου πει τι συνέβη την Τρίτη, επειδή το κουτί δεν διαχωρίζει τις σημειώσεις με χρονολογημένες ετικέτες στις οποίες μπορείς να ανατρέξεις. Μια εκτέλεση ενός Project του Aquarius, ωστόσο, έρχεται με την αρχειοθήκη: κάθε βήμα δημιουργεί ένα αρχείο εκτέλεσης που εσύ ή ένας AI manager μπορείτε να ανοίξετε και να επιθεωρήσετε.

Αυτή η αρχειοθήκη είναι που έκανε το λάθος της ρεσεψιονίστ μας εντοπίσιμο εξαρχής. Υπήρχε μια καταγεγραμμένη αναφορά του τι συνέβη στην αλυσίδα εργασιών για να την εντοπίσει και να την αντιμετωπίσει ο AI manager. Θα το ονόμαζα ένα αξιόπιστο αρχείο λειτουργιών, και η αξία του ξεπερνά την εμπιστοσύνη.

Η Δουλειά Σου, Το Μοντέλο Σου

Επειδή το μοντέλο της Aqua είναι τυποποιημένο, και επειδή είναι δικό σου, είναι ένα περιουσιακό στοιχείο. Μπορείς να το χρησιμοποιήσεις για να τρέξεις την επιχείρηση. Μπορείς να το μοιραστείς, δίνοντας σε έναν εξωτερικό συνεργάτη ή σε έναν νέο υπάλληλο ακριβώς το κομμάτι που χρειάζονται. Και όταν μια επιχείρηση αλλάζει χέρια, το αρχείο του πώς πραγματικά λειτουργεί είναι μέρος αυτού που πωλείται. Ένα κουτί με αρχεία καταγραφής συνομιλιών δεν μπορεί να κάνει τίποτα από αυτά. Δεν θέλεις να το παραδώσεις αυτό, και σίγουρα δεν μπορείς να το ρευστοποιήσεις.

Δεν θέλεις μια AI που είναι μυστηριώδης. Θέλεις μια AI που κρατάει αρχεία τα οποία μπορείς να ανοίξεις, να σου ανήκουν και να τα μεταβιβάσεις.

Συχνές Ερωτήσεις

Οπότε μπορώ να εμπιστευτώ την AI με πραγματική δουλειά ή όχι; Για σύντομες, περιορισμένες δουλειές, συχνά ναι. Για μεγάλες εργασίες πολλών βημάτων, μόνο αν υπάρχει ένα σύστημα που ελέγχει κάθε βήμα, όχι ένας μεμονωμένος agent που τρέχει όλη την αλυσίδα χωρίς επίβλεψη. Εμπιστεύσου το setup που μπορεί να εντοπίσει και να διορθώσει ένα λάθος, με τον τρόπο που εμπιστεύεσαι τα υδραυλικά που έχουν βαλβίδες διακοπής, όχι αυτό που υπόσχεται ότι δεν θα στάξει ποτέ.

Τι εννοείς με τον όρο “world model”; Είναι το μέρος του συστήματός μας που διατηρεί την επιχείρησή σου ως ένα σύνολο από πραγματικά, ξεχωριστά κομμάτια (η εργασία, ποιος τη χειρίζεται, τι ισχύει, τι εκκρεμεί) αντί για μια μεγάλη ροή συνομιλίας. Το να διατηρείται η δουλειά με αυτόν τον τρόπο είναι αυτό που επιτρέπει στο σύστημα να σπάσει μια δουλειά σε βήματα, να δώσει το καθένα στο σωστό μέρος της ομάδας, και να ελέγξει το καθένα πριν προχωρήσει.

Πώς διαφέρει αυτό από τη “μνήμη AI”; Η περισσότερη μνήμη AI αποθηκεύει τι ειπώθηκε: παλαιότερο κείμενο που αναζητά βάσει ομοιότητας, ή ένα προφίλ των προτιμήσεών σου. Αυτό τη βοηθά να ακούγεται συνεπής. Δεν σου δίνει ένα αρχείο του τι πραγματικά έγινε, καταγεγραμμένο ως γεγονότα που μπορείς να επιθεωρήσεις και να διορθώσεις. Το πρώτο είναι ένα κουτί με σημειώσεις· το δεύτερο είναι μια αρχειοθήκη.

---

Από την ομάδα μας στη δική σου. Το Aquarius φτιάχνει custom AI για άτομα και μικρές επιχειρήσεις. Φτιάξαμε την Aqua, τον προσωπικό σου μάγο για την επιχείρηση. Μαθαίνει πώς κάνεις τα πράγματα, και στη συνέχεια χρησιμοποιεί το Working World Model μας για να δημιουργήσει μια ομάδα από AIs διαμορφωμένη για να καλύψει τα κενά σου. peopleaquarius.com