AIエージェントに仕事を任せても大丈夫ですか？

より良いシステムを構築する

前回の記事では、デモでは語られない計算についてお見せしました。タスクの各ステップで95%の信頼性があるAIエージェントでも、仕事全体を通して95%の信頼性があるわけではありません。

実際の仕事は長い連鎖であるため、単一の何でもこなすエージェントは脆いのです。 その記事は一つの直感で締めくくられました。おそらく、答えはより大規模なエージェントではないのかもしれません。システムこそが答えなのかもしれません。

「システム」という言葉はごまかしのように聞こえるかもしれないので、私たち自身のテストでの失敗談から始めて、具体的に説明させてください。

より安全なAIの本当の姿

毎週のように、AIの「エージェントスウォーム（群れ）」がテスト中に制御不能になったという話が飛び込んできます。センセーショナルな話では、AIはあまりにも巨大で複雑すぎて、人間には到底理解できないものだと思わせようとします。しかし、それはビジネスにとって重要な問題を飛ばしています。AIシステムがミスを犯したとき、誰かがそれに気づき、二度と同じことが起きないように防げるのでしょうか？

システムがエージェントのミスをどうやって捉えるか

仕事をうまく管理するには専門的な知識が必要です。Aquaの根底には、私たちがワールドモデルと呼ぶものがあります。これは、AIが読み返して正しく理解できたと祈るしかないような長く曖昧なチャットの羅列ではなく、協調作業の明確な側面（タスク、誰が担当しているか、何が事実か、何がまだ残っているか）を表す仮想オブジェクトの集合体です。

仕事が標準的な構造を持つ仮想オブジェクトとして保持されているため、システムは、箱から出してそのままのエージェントにはできない3つのことができます。

最初の2つのステップがあるからこそ、システムが誤った判断をした場合でも、それを引き起こした作業のピースを直接指摘できるのです。3つ目のステップがあるからこそ、悪い結果がその後のステップに波及する前に、発生したその場所で捉えることができるのです。

証拠を残すメモリ

説明責任を果たすシステムには、記録の保持が不可欠です。市場にあるほぼすべてのツールが「メモリ」という同じ言葉を宣伝していながら、ここでつまずいています。彼らが言うメモリと、あなたのビジネスが実際に必要としているものは同じではありません。

今日の「AIメモリ」のほとんどは、メモが入った一つの大きな箱です。Aquariusのワールドモデルは、ラベルの貼られた引き出しのあるファイリングキャビネットを保持しています。

メモの入った大きな箱は、思い出すのには適しています。しかし、火曜日に何が起きたかを教えてはくれません。なぜなら、その箱は日付のラベルでメモを分けておらず、指定することができないからです。しかし、AquariusのProjectの実行にはファイリングキャビネットが付属しています。各ステップで実行記録が生成され、あなたやAIマネージャーが開いて検査することができます。

そのファイリングキャビネットがあったからこそ、私たちの受付係のミスを最初に見つけることができたのです。AIマネージャーが見つけて対処できるように、タスクチェーンで何が起きたかの記録が残っていました。私はこれを説明責任のある業務記録と呼んでおり、その価値は単なる信頼を超えています。

あなたの仕事、あなたのモデル

Aquaのモデルは標準化されており、あなたのものであるため、それは資産になります。 それを使ってビジネスを運営することができます。請負業者や新入社員に、彼らが必要とする部分だけを正確に渡して共有することもできます。そして、ビジネスが他の人の手に渡るとき、それが実際にどのように運営されているかの記録は、売却されるものの一部となります。チャットログの箱では、そのようなことは一切できません。そんなものを引き渡したくはないでしょうし、ましてや収益化することなど絶対にできません。

謎に包まれたAIは必要ありません。あなたが開いて、所有し、引き継ぐことができる記録を保持するAIが必要なのです。

FAQ

結局、実際の仕事をAIに任せても大丈夫なのでしょうか？ 短くて限定的な仕事であれば、多くの場合「はい」です。複数のステップにわたる長い仕事の場合は、単一のエージェントが監視なしにチェーン全体を実行するのではなく、各ステップをチェックするシステムがある場合に限ります。絶対に水漏れしないと約束する配管ではなく、止水弁がついていてミスを捉えて修正できる仕組みを信頼してください。

「ワールドモデル」とはどういう意味ですか？ それは、あなたのビジネスを一つの長いチャットの流れとしてではなく、現実の個別のピース（タスク、誰が担当しているか、何が事実か、何がまだ残っているか）の集合として保持する、私たちのシステムの一部です。仕事をそのように保持することで、システムは仕事をステップに分割し、それぞれをクルーの適切な部分に渡し、次に進む前に各ステップをチェックすることができるのです。

それは「AIメモリ」とはどう違うのですか？ ほとんどのAIメモリは、言われたことを保存します。類似性で検索する過去のテキストや、あなたの好みのプロファイルなどです。これは一貫性があるように聞こえさせるのには役立ちます。しかし、検査や修正が可能なイベントとして記録された、実際に何が行われたかの記録を提供するものではありません。前者はメモの箱であり、後者はファイリングキャビネットです。

---

私たちのチームからあなたのチームへ。Aquariusは、個人や小規模ビジネス向けのカスタムAIを構築しています。私たちは、あなたのパーソナルなビジネスウィザードであるAquaを作りました。Aquaはあなたがどのように仕事をこなすかを学習し、私たちのワーキングワールドモデルを使用して、あなたのギャップを埋めるように形作られたAIのクルーを作り上げます。peopleaquarius.com