Можешь ли ты доверить свою работу ИИ-агентам?

Создание лучшей системы

В прошлой статье я показал тебе математику, которую опускают в демо-версиях. ИИ-агент, надежный на 95% на каждом этапе задачи, не является надежным на 95% для всей работы в целом.

Реальная работа — это длинные цепочки, поэтому один агент, делающий всё подряд, оказывается уязвимым. Та статья закончилась догадкой: возможно, ответ кроется вовсе не в более крупном агенте. Возможно, дело в системе.

Это слово может звучать как отговорка, поэтому позволь мне конкретизировать, начав с осечки из нашего собственного тестирования.

Как на самом деле выглядит более безопасный ИИ

Каждая неделя приносит новую историю о том, как «рои агентов» ИИ выходят из-под контроля во время тестирования. Сенсационная версия пытается убедить тебя, что ИИ слишком велик и сложен, чтобы человек мог его когда-либо понять. Но это упускает вопрос, который имеет значение для бизнеса: когда система ИИ совершает ошибку, замечает ли ее кто-нибудь, и предотвращает ли это ее повторение?

Как система ловит ошибки агентов

Хорошее управление работой требует специализированных знаний. Под капотом Aqua находится то, что мы называем моделью мира: набор виртуальных объектов, который представляет различные аспекты совместного труда (задача, кто ею занимается, что является фактом, что еще нужно сделать) вместо одного длинного размытого чата, который ИИ должен перечитывать в надежде, что он все понял правильно.

Поскольку работа представлена в виде виртуальных объектов со стандартной структурой, система может делать три вещи, на которые не способен обычный агент “из коробки”.

Первые два шага — это причина, по которой, даже когда система принимает неверное решение, мы можем указать прямо на ту часть работы, которая его спровоцировала. Третий шаг — это причина, по которой плохой результат отлавливается там, где он произошел, прежде чем он успеет усугубиться на последующих этапах.

Память, которая сохраняет записи

Любая система подотчетности требует ведения записей. Именно здесь почти каждый инструмент на рынке терпит неудачу, даже если все они рекламируют одно и то же слово: память. То, что они подразумевают под памятью, и то, что на самом деле нужно твоему бизнесу — это не одно и то же.

Большинство видов «памяти ИИ» сегодня — это одна большая коробка с заметками. Модель мира Aquarius ведет картотеку с подписанными ящиками.

Большая коробка с заметками отлично подходит для воспоминаний. Но она не может сказать тебе, что произошло во вторник, потому что в ней нет заметок с датированными ярлыками, на которые можно указать. Однако запуск Проекта в Aquarius поставляется с картотекой: каждый шаг генерирует запись о выполнении, которую ты или ИИ-менеджер можете открыть и проверить.

Именно эта картотека позволила нам вообще найти ошибку нашего секретаря. В цепочке задач была зафиксирована запись о том, что произошло, чтобы ИИ-менеджер мог ее найти и устранить. Я бы назвал это подотчетным журналом операций, и его ценность выходит за рамки простого доверия.

Твоя работа, твоя модель

Поскольку модель Aqua стандартизирована и поскольку она твоя, это актив. Ты можешь использовать ее для управления бизнесом. Ты можешь делиться ею, передавая подрядчику или новому сотруднику именно ту часть, которая им нужна. А когда бизнес переходит в другие руки, запись о том, как он на самом деле работает, является частью того, что продается. Коробка с логами чатов не может сделать ничего из этого. Ты не захочешь передавать ее, и уж точно не сможешь ее монетизировать.

Тебе не нужен загадочный ИИ. Тебе нужен ИИ, который ведет записи, которые ты можешь открывать, которыми можешь владеть и которые можешь передавать дальше.

FAQ

Так могу ли я доверить ИИ реальную работу или нет? Для коротких, локальных задач — часто да. Для долгой многоступенчатой работы — только если есть система, проверяющая каждый шаг, а не один агент, выполняющий всю цепочку без присмотра. Доверяй той системе, которая может поймать и исправить ошибку, так же, как ты доверяешь водопроводу с запорными клапанами, а не тому, который обещает, что никогда не протечет.

Что ты имеешь в виду под «моделью мира»? Это часть нашей системы, которая хранит твой бизнес как набор реальных, отдельных элементов (задача, кто ею занимается, что является фактом, что еще нужно сделать), а не как один длинный поток чата. Такое представление работы — это то, что позволяет системе разбивать задачу на шаги, передавать каждый из них нужной части команды и проверять каждый шаг перед тем, как двигаться дальше.

Чем это отличается от «памяти ИИ»? Большинство видов памяти ИИ хранит то, что было сказано: прошлый текст, который он ищет по сходству, или профиль твоих предпочтений. Это помогает ему звучать последовательно. Но это не дает тебе записи о том, что было сделано на самом деле, зарегистрированной в виде событий, которые ты можешь проверить и исправить. Первое — это коробка с заметками; второе — картотека.

---

От нашей команды — твоей. Aquarius создает кастомный ИИ для частных лиц и малого бизнеса. Мы создали Aqua, твоего личного бизнес-волшебника. Она изучает, как ты ведешь дела, а затем использует нашу Рабочую Модель Мира, чтобы создать команду ИИ, настроенную на заполнение твоих пробелов. peopleaquarius.com