AI 에이전트에게 업무를 믿고 맡길 수 있을까요?
AI 에이전트에게는 위임과 감독이 필요합니다. 스스로 실수를 찾아내고 같은 실수가 반복되지 않도록 방지하는 시스템을 구축한 방법을 소개합니다.
Zachary Sheldon4분 소요이 페이지의 내용
더 나은 시스템 구축하기
지난 포스트에서는 데모 영상들이 알려주지 않는 수학적 진실을 보여드렸습니다. 작업의 각 단계에서 95% 신뢰할 수 있는 AI 에이전트라고 해서, 전체 작업 과정에서도 95% 신뢰할 수 있는 것은 아닙니다.
실제 업무는 긴 사슬처럼 연결되어 있기 때문에, 모든 것을 다 하는 단일 에이전트는 불안정할 수밖에 없습니다. 지난 포스트는 하나의 직감으로 마무리되었습니다. 어쩌면 정답은 더 거대한 에이전트가 아닐지도 모릅니다. 어쩌면 정답은 시스템일 것입니다.
시스템이라는 단어가 핑계처럼 들릴 수 있으니, 저희가 직접 테스트하며 겪었던 실패 사례부터 시작해 구체적으로 설명해 드리겠습니다.
더 안전한 AI의 진짜 모습
매주 테스트 과정에서 통제를 벗어난 AI “에이전트 군단(agent swarms)“에 대한 새로운 이야기가 들려옵니다. 자극적인 기사들은 AI가 너무 거대하고 복잡해서 사람이 결코 이해할 수 없다고 믿게 만듭니다. 하지만 이는 비즈니스에서 정말 중요한 질문을 놓치고 있습니다. AI 시스템이 실수를 했을 때, 누군가 그것을 발견하고 두 번 다시 같은 실수가 발생하지 않도록 막을 수 있을까요?
시스템이 에이전트의 실수를 잡아내는 방법
업무를 잘 관리하려면 전문 지식이 필요합니다. Aqua의 기저에는 저희가 ‘월드 모델(world model)‘이라고 부르는 것이 있습니다. 이는 AI가 다시 읽어보고 제대로 이해했기를 바라야 하는 길고 흐릿한 채팅 기록이 아니라, 협업의 다양한 측면(작업 내용, 담당자, 사실 관계, 아직 처리되지 않은 일)을 나타내는 가상 객체들의 모음입니다.
작업이 표준 구조를 가진 가상 객체로 유지되기 때문에, 이 시스템은 기성 에이전트가 할 수 없는 세 가지 일을 해낼 수 있습니다.
월드 모델은 작업을 하나의 긴 사슬이 아니라, 개별적이고 추적 가능한 단계들로 매핑합니다. 따라서 어느 한 곳에서의 실수가 누적되어 최종 결과를 망치는 일을 방지합니다.
반복되는 프롬프트에 의존해 한 명의 제너럴리스트가 모든 것을 한 번에 처리하는 대신, 각 단계는 해당 작업에 맞게 구성된 크루에게 전달됩니다.
검토 단계에서는 완성된 각 결과물이 원래 의도했던 목표와 일치하는지 확인합니다. 만약 잘못되었다면, 다음 단계로 실수가 넘어가기 전에 그 자리에서 바로잡습니다.
처음 두 단계 덕분에 시스템이 잘못된 판단을 내리더라도, 우리는 그 원인이 된 작업 조각을 정확히 짚어낼 수 있습니다. 세 번째 단계 덕분에 잘못된 결과가 다음 단계로 누적되기 전에 발생한 지점에서 바로잡을 수 있습니다.
증거를 남기는 기억력
책임을 묻는 모든 시스템에는 기록 유지가 필요합니다. 시중의 거의 모든 도구들이 ‘기억력(memory)‘이라는 같은 단어를 광고하면서도 정작 이 부분에서는 부족함을 보입니다. 그들이 말하는 기억력과 여러분의 비즈니스에 실제로 필요한 것은 다릅니다.
오늘날 대부분의 “AI 기억력”은 메모가 잔뜩 들어있는 커다란 상자 하나에 불과합니다. 반면 Aquarius 월드 모델은 라벨이 붙은 서랍이 있는 파일 캐비닛을 유지합니다.
- 요청과 비슷해 보인다는 이유로 끌어온 과거의 텍스트
- 비즈니스 운영이 아닌, 사용자에 대한 정보
- 도구가 임의로 보관한 정리되지 않은 메모들
- 무엇을 '했는지'가 아니라 무엇을 '말했는지'를 저장
- 무엇이 사실인가: 최종 결정권으로서 유지되는 당신의 규칙, 가격, 그리고 사람들
- 무엇이 일어났는가: 행동을 묘사하는 문장이 아닌, 이벤트로 기록된 모든 행동
- 누가 무엇을 잘하는지, 그리고 아직 처리되지 않은 일은 무엇인지
- 각각의 항목이 제자리에 있어 언제든 확인하고 수정 가능
메모가 가득한 큰 상자는 무언가를 떠올릴 때는 괜찮습니다. 하지만 화요일에 무슨 일이 있었는지는 알려줄 수 없습니다. 상자 안의 메모들은 날짜 라벨로 분류되어 있지 않기 때문입니다. 반면 Aquarius Project 실행은 파일 캐비닛과 함께 제공됩니다. 각 단계마다 실행 기록이 생성되어, 여러분이나 AI 매니저가 언제든 열어보고 검토할 수 있습니다.
애초에 저희 접수원의 실수를 찾아낼 수 있었던 것도 바로 이 파일 캐비닛 덕분입니다. 작업 사슬에서 무슨 일이 일어났는지 기록된 내역이 있었기에, AI 매니저가 이를 찾아내고 해결할 수 있었습니다. 저는 이를 책임질 수 있는 운영 기록이라고 부르며, 그 가치는 단순한 신뢰를 넘어섭니다.
당신의 업무, 당신의 모델
Aqua의 모델은 표준화되어 있고 여러분의 소유이기 때문에, 이는 하나의 자산이 됩니다. 이를 활용해 비즈니스를 운영할 수 있습니다. 계약직 직원이나 신규 입사자에게 정확히 필요한 부분만 떼어내어 공유할 수도 있죠. 또한 비즈니스를 매각할 때, 실제로 어떻게 운영되었는지에 대한 기록은 매각 대상의 일부가 됩니다. 채팅 로그가 담긴 상자로는 이런 일들을 전혀 할 수 없습니다. 그런 것을 넘겨주고 싶지도 않을 테고, 당연히 수익화할 수도 없겠죠.
속을 알 수 없는 미스터리한 AI는 필요하지 않습니다. 여러분이 열어보고, 소유하고, 물려줄 수 있는 기록을 남기는 AI가 필요합니다.
FAQ
그래서 실제 업무를 AI에게 믿고 맡겨도 될까요? 짧고 제한적인 작업이라면 대개 그렇습니다. 하지만 여러 단계로 이루어진 긴 작업의 경우, 감독 없이 전체 사슬을 실행하는 단일 에이전트가 아니라 각 단계를 검토하는 시스템이 있을 때만 믿을 수 있습니다. 절대 새지 않는다고 장담하는 배관보다는 차단 밸브가 있는 배관을 신뢰하듯, 실수를 잡아내고 고칠 수 있는 시스템을 신뢰하세요.
“월드 모델”이란 무슨 뜻인가요? 여러분의 비즈니스를 하나의 긴 채팅 스트림이 아니라, 실제적이고 개별적인 조각들(작업 내용, 담당자, 사실 관계, 아직 처리되지 않은 일)의 집합으로 유지하는 저희 시스템의 일부입니다. 작업을 이런 방식으로 유지하기 때문에 시스템이 작업을 여러 단계로 나누고, 각 단계를 적절한 크루에게 맡기며, 다음으로 넘어가기 전에 각 단계를 검토할 수 있는 것입니다.
“AI 기억력”과는 어떻게 다른가요? 대부분의 AI 기억력은 ‘무엇을 말했는지’를 저장합니다. 유사성으로 검색하는 과거의 텍스트나 여러분의 선호도 프로필 같은 것들이죠. 이는 AI가 일관성 있게 말하는 데는 도움이 됩니다. 하지만 여러분이 검토하고 수정할 수 있는 이벤트로 기록된, ‘실제로 무엇을 했는지’에 대한 기록을 제공하지는 않습니다. 전자가 메모 상자라면, 후자는 파일 캐비닛입니다.
저희 팀이 여러분의 팀에게 전합니다. Aquarius는 개인과 소규모 비즈니스를 위한 맞춤형 AI를 구축합니다. 저희는 여러분의 개인 비즈니스 마법사인 Aqua를 만들었습니다. Aqua는 여러분이 일하는 방식을 학습한 다음, 저희의 워킹 월드 모델(Working World Model)을 사용하여 여러분의 빈틈을 채워줄 AI 크루를 구성합니다. peopleaquarius.com