你能放心把工作交给 AI 代理吗？

构建更好的系统

在上一篇文章中，我向你展示了那些演示视频中没有提到的数学原理。一个在任务的每个步骤中都有 95% 可靠性的 AI 代理，在整个工作流程中的可靠性并不是 95%。

真实的工作是长长的链条，因此一个包揽一切的单一代理是很脆弱的。 那篇文章以一个直觉结尾：也许答案根本不是一个更强大的代理。也许答案是一个系统。

这个词听起来可能像是在避重就轻，所以让我把它具体化，从我们自己测试中的一次失误说起。

更安全的 AI 究竟是什么样的

每周都会有关于 AI “代理集群”在测试中失控的新故事。那些耸人听闻的说法会让你相信，AI 过于庞大和复杂，任何人都无法理解。但这忽略了对企业来说真正重要的问题： 当 AI 系统犯错时，有人能发现吗？能防止它再次发生吗？

系统如何捕捉代理的错误

管理好工作需要专业知识。 在 Aqua 的底层，有一个我们称之为世界模型的东西：这是一个虚拟对象的集合，代表了协作劳动的不同方面（任务、谁在处理、什么是事实、还欠缺什么），而不是一长串模糊的聊天记录，让 AI 不得不重新阅读并祈祷自己理解正确。

因为工作被保存为具有标准结构的虚拟对象，系统可以做到开箱即用的代理做不到的三件事。

前两个步骤解释了为什么即使系统做出了错误的判断，我们也能直接指出引发错误的那个工作片段。第三个步骤解释了为什么糟糕的结果会在发生的地方被捕捉到，在它复合到后续步骤之前。

留存凭证的记忆

每一个问责系统都需要记录保存。这正是市场上几乎所有工具都存在不足的地方，尽管它们都在宣传同一个词：记忆。 他们所说的记忆与你的企业实际需要的并不是一回事。

如今大多数的“AI 记忆”只是一个装满笔记的大盒子。Aquarius 世界模型则保留了一个带有标签抽屉的文件柜。

装满笔记的大盒子用来回忆是不错的。但它不能告诉你周二发生了什么，因为这个盒子并没有用你可以指出的日期标签来区分笔记。然而，一次 Aquarius Project 运行自带这个文件柜：每个步骤都会生成一条运行记录，你或 AI 经理可以打开并检查。

正是这个文件柜让我们一开始就能找到接待员的错误。任务链中发生的事情有记录在案的说明，供 AI 经理定位和处理。我称之为可问责的运营记录，它的价值超越了信任。

你的工作，你的模型

因为 Aqua 的模型是标准化的，而且因为它是你的，所以它是一项资产。 你可以用它来运营业务。你可以分享它，准确地将承包商或新员工需要的那部分交给他们。当企业易手时，它实际如何运行的记录也是被出售的一部分。一盒聊天记录做不到这些。你不想把那个交出去，而且你当然也无法将其变现。

你不需要神秘的 AI。你需要的是能保存记录的 AI，这些记录你可以打开、拥有并传承。

常见问题解答

那么我到底能不能放心地把真实工作交给 AI？ 对于简短、独立的工作，通常是可以的。对于长期的多步骤工作，只有在有一个系统检查每个步骤时才可以，而不是由一个单一的代理在无人监督的情况下运行整个链条。要信任那种能够捕捉并修复错误的设置，就像你信任带有截止阀的管道，而不是那种承诺永远不会漏水的管道。

你说的“世界模型”是什么意思？ 它是我们系统的一部分，将你的业务保存为一组真实的、独立的部分（任务、谁在处理、什么是事实、还欠缺什么），而不是一长串聊天记录。以这种方式保存工作，使得系统能够将工作分解为多个步骤，将每个步骤交给团队中合适的部分，并在继续下一步之前检查每一个步骤。

这与“AI 记忆”有什么不同？ 大多数 AI 记忆存储的是说过的话：它通过相似性搜索的过去文本，或者你的偏好配置文件。这有助于它听起来保持一致。它不会给你提供实际做了什么的记录，这些记录作为你可以检查和纠正的事件被记录下来。前者是一个笔记盒子；后者是一个文件柜。

---

从我们的团队到你的团队。Aquarius 为个人和小型企业构建定制 AI。我们打造了 Aqua，你的个人业务向导。它会学习你完成工作的方式，然后使用我们的工作世界模型（Working World Model）来打造一个 AI 团队，以填补你的空缺。peopleaquarius.com