Чи можеш ти довірити свою роботу ШІ-агентам?
ШІ-агенти потребують делегування та нагляду. Ось як ми створили систему, яка сама знаходить свої помилки та не допускає їх повторення.
Zachary Sheldon5 хв читанняНа цій сторінці
Створення кращої системи
У минулій статті я показав тобі математику, яку зазвичай опускають у демоверсіях. ШІ-агент, який на 95% надійний на кожному кроці завдання, не є на 95% надійним для всієї роботи загалом.
Справжня робота — це довгі ланцюжки, тому один агент, який робить усе, є дуже вразливим. Та стаття закінчилася здогадкою: можливо, відповідь зовсім не в більшому агенті. Можливо, це система.
Це слово може здатися відмовкою, тому дозволь мені зробити його конкретним, почавши з осічки з нашого власного тестування.
Як насправді виглядає безпечніший ШІ
Щотижня з’являється нова історія про те, як “рої агентів” ШІ виходять з-під контролю під час тестування. Сенсаційна версія змушує повірити, що ШІ занадто великий і складний, щоб будь-яка людина могла його зрозуміти. Але це оминає питання, яке має значення для бізнесу: коли система ШІ робить помилку, чи хтось її помічає, і чи запобігає це її повторенню?
Як система виявляє помилки агентів
Ефективне управління роботою вимагає спеціалізованих знань. Під капотом Aqua є те, що ми називаємо моделлю світу: набір віртуальних об’єктів, який представляє окремі аспекти спільної праці (завдання, хто ним займається, що є правдою, що ще потрібно зробити) замість однієї довгої розмитої стрічки чату, яку ШІ має перечитувати, сподіваючись, що все зрозумів правильно.
Оскільки робота зберігається у вигляді віртуальних об’єктів зі стандартною структурою, система може робити три речі, на які не здатний звичайний агент “з коробки”.
Модель світу відображає роботу як окремі кроки, які можна відстежити, а не як один довгий ланцюжок, де помилка в будь-якому місці руйнує кінцевий результат через накопичення похибок.
Кожен крок передається тій частині команди, яка для нього створена, замість того, щоб один універсал робив усе відразу за повторюваними підказками.
На етапі перевірки кожна завершена частина порівнюється з тим, що вона мала б дати на виході. Якщо щось не так, це виявляється і виправляється прямо там, перш ніж наступний крок успадкує помилку.
Перші два кроки — це причина, чому, навіть коли система приймає неправильне рішення, ми можемо вказати прямо на ту частину роботи, яка його спровокувала. Третій крок — це причина, чому поганий результат виявляється там, де він стався, перш ніж він зможе вплинути на наступні кроки.
Пам’ять, яка все фіксує
Будь-яка система підзвітності вимагає ведення записів. Саме тут майже кожен інструмент на ринку зазнає невдачі, хоча всі вони рекламують одне й те саме слово: пам’ять. Те, що вони мають на увазі під пам’яттю, і те, що насправді потрібно твоєму бізнесу, — це не одне й те саме.
Більшість “пам’яті ШІ” сьогодні — це одна велика коробка з нотатками. Модель світу Aquarius зберігає картотеку з підписаними шухлядами.
- Минулий текст, підтягнутий через схожість на твій запит
- Інформація про тебе, а не про твої бізнес-процеси
- Розрізнені нотатки, які зберігаються так, як інструменту заманеться
- Зберігає те, що було сказано, а не те, що було зроблено
- Що є правдою: твої правила, ціни та люди, які вважаються остаточним рішенням
- Що сталося: кожна дія записується як подія, а не як речення, що її описує
- Хто що робить добре, і що ще потрібно зробити
- Кожна річ на своєму місці, відкрита для перевірки та виправлення
Велика коробка з нотатками добре підходить для пригадування. Вона не може сказати тобі, що сталося у вівторок, тому що в коробці немає окремих нотаток з датованими ярликами, на які можна вказати. Однак запуск Project в Aquarius постачається з картотекою: кожен крок генерує запис про виконання, який ти або ШІ-менеджер можете відкрити і перевірити.
Саме ця картотека дозволила нам знайти помилку нашого секретаря. Існував зафіксований звіт про те, що сталося в ланцюжку завдань, щоб ШІ-менеджер міг знайти його і вирішити проблему. Я б назвав це підзвітним записом операцій, і його цінність виходить за межі простої довіри.
Твоя робота, твоя модель
Оскільки модель Aqua стандартизована, і оскільки вона твоя, це актив. Ти можеш використовувати її для управління бізнесом. Ти можеш ділитися нею, передаючи підряднику або новому співробітнику саме ту частину, яка їм потрібна. А коли бізнес переходить до інших рук, запис про те, як він насправді працює, є частиною того, що продається. Коробка з логами чатів не може зробити нічого з цього. Ти не захочеш її передавати, і ти точно не зможеш її монетизувати.
Тобі не потрібен загадковий ШІ. Тобі потрібен ШІ, який веде записи, які ти можеш відкрити, якими можеш володіти і які можеш передати іншим.
Часті запитання
То чи можу я довірити ШІ справжню роботу, чи ні? Для коротких, ізольованих завдань — часто так. Для довгої багатоетапної роботи — тільки якщо є система, яка перевіряє кожен крок, а не один агент, який виконує весь ланцюжок без нагляду. Довіряй системі, яка може виявити і виправити помилку, так само, як ти довіряєш водопроводу із запірними клапанами, а не тому, який обіцяє, що ніколи не протече.
Що ти маєш на увазі під “моделлю світу”? Це частина нашої системи, яка зберігає твій бізнес як набір реальних, окремих частин (завдання, хто ним займається, що є правдою, що ще потрібно зробити), а не як один довгий потік чату. Саме таке зберігання роботи дозволяє системі розбивати завдання на кроки, передавати кожен із них потрібній частині команди і перевіряти кожен крок перед тим, як рухатися далі.
Чим це відрізняється від “пам’яті ШІ”? Більшість пам’яті ШІ зберігає те, що було сказано: минулий текст, який вона шукає за схожістю, або профіль твоїх уподобань. Це допомагає їй звучати послідовно. Але це не дає тобі запису того, що було насправді зроблено, зафіксованого у вигляді подій, які ти можеш перевірити і виправити. Перше — це коробка з нотатками; друге — це картотека.
Від нашої команди — вашій. Aquarius створює кастомний ШІ для приватних осіб та малого бізнесу. Ми створили Aqua, твого особистого бізнес-чарівника. Вона вивчає, як ти виконуєш завдання, а потім використовує нашу Робочу Модель Світу, щоб створити команду ШІ, налаштовану на заповнення твоїх прогалин. peopleaquarius.com