คุณไว้ใจให้ AI agent ทำงานของคุณได้ไหม?

การสร้างระบบที่ดีกว่าเดิม

ในโพสต์ที่แล้ว ฉันได้ให้คุณดูคณิตศาสตร์ที่มักจะถูกข้ามไปในเดโมต่างๆ เอเจนต์ AI ที่มีความน่าเชื่อถือ 95% ในแต่ละขั้นตอนของงาน ไม่ได้แปลว่าจะมีความน่าเชื่อถือ 95% ตลอดทั้งงาน

งานในชีวิตจริงคือสายโซ่ที่ยาวเหยียด ดังนั้นเอเจนต์ตัวเดียวที่ทำทุกอย่างจึงเปราะบางมาก โพสต์นั้นจบลงด้วยข้อสันนิษฐานที่ว่า: บางทีคำตอบอาจไม่ใช่เอเจนต์ที่ใหญ่กว่าเดิมเลย แต่มันอาจจะเป็นระบบต่างหาก

คำนี้อาจฟังดูเหมือนเป็นการเลี่ยงตอบ ดังนั้นฉันจะทำให้มันเป็นรูปธรรม โดยเริ่มจากข้อผิดพลาดจากการทดสอบของเราเอง

หน้าตาของ AI ที่ปลอดภัยกว่าเป็นอย่างไร

ทุกๆ สัปดาห์มักจะมีเรื่องราวเกี่ยวกับ “ฝูงเอเจนต์” AI ที่หลุดการควบคุมระหว่างการทดสอบ เรื่องราวที่น่าตื่นเต้นเหล่านี้อาจทำให้คุณเชื่อว่า AI นั้นใหญ่และซับซ้อนเกินกว่าที่ใครจะเข้าใจได้ แต่นั่นเป็นการข้ามคำถามที่สำคัญสำหรับธุรกิจไป: เมื่อระบบ AI ทำพลาด มีใครจับสังเกตได้ไหม และสามารถป้องกันไม่ให้มันเกิดขึ้นซ้ำสองได้หรือเปล?

ระบบจับข้อผิดพลาดของเอเจนต์ได้อย่างไร

การจัดการงานที่ดีต้องอาศัยความรู้เฉพาะทาง ภายใต้ Aqua มีสิ่งที่เราเรียกว่า world model: ซึ่งเป็นชุดของวัตถุเสมือนที่ทำหน้าที่เป็นตัวแทนของแง่มุมต่างๆ ในการทำงานร่วมกัน (ตัวงาน, ใครเป็นคนจัดการ, อะไรคือความจริง, อะไรที่ยังค้างอยู่) แทนที่จะเป็นแชทที่ยาวเหยียดและคลุมเครือซึ่ง AI ต้องกลับไปอ่านซ้ำแล้วหวังว่าจะเข้าใจถูก

เนื่องจากงานถูกเก็บไว้ในรูปแบบของวัตถุเสมือนที่มีโครงสร้างมาตรฐาน ระบบจึงสามารถทำสามสิ่งที่เอเจนต์ทั่วไปทำไม่ได้

สองขั้นตอนแรกคือเหตุผลที่ว่าทำไม แม้ว่าระบบจะตัดสินใจผิดพลาด เราก็สามารถชี้ชัดไปที่ชิ้นงานที่เป็นต้นเหตุได้ทันที ส่วนขั้นตอนที่สามคือเหตุผลที่ว่าทำไมผลลัพธ์ที่แย่จึงถูกจับได้ในจุดที่มันเกิดขึ้น ก่อนที่มันจะลุกลามไปยังขั้นตอนถัดไป

หน่วยความจำที่เก็บหลักฐานไว้ครบถ้วน

ทุกระบบที่ตรวจสอบได้จำเป็นต้องมีการเก็บบันทึกข้อมูล นี่คือจุดที่เครื่องมือเกือบทุกตัวในตลาดทำได้ไม่ดีพอ แม้ว่าพวกมันทั้งหมดจะโฆษณาด้วยคำเดียวกันว่า: หน่วยความจำ (memory) สิ่งที่พวกเขาหมายถึงเมื่อพูดถึงหน่วยความจำ กับสิ่งที่ธุรกิจของคุณต้องการจริงๆ นั้นไม่ใช่สิ่งเดียวกัน

“หน่วยความจำ AI” ส่วนใหญ่ในปัจจุบันเป็นเพียงกล่องจดบันทึกใบใหญ่ใบเดียว แต่ world model ของ Aquarius จะเก็บตู้เอกสารที่มีลิ้นชักติดป้ายกำกับไว้

กล่องจดบันทึกใบใหญ่นั้นดีสำหรับการรื้อฟื้นความจำ แต่มันไม่สามารถบอกคุณได้ว่าเกิดอะไรขึ้นในวันอังคาร เพราะกล่องไม่ได้แยกบันทึกด้วยป้ายกำกับวันที่ที่คุณสามารถชี้ไปได้ อย่างไรก็ตาม การรัน Project ของ Aquarius นั้นมาพร้อมกับตู้เอกสาร: แต่ละขั้นตอนจะสร้างบันทึกการทำงานที่คุณหรือผู้จัดการ AI สามารถเปิดดูและตรวจสอบได้

ตู้เอกสารนั้นคือสิ่งที่ทำให้เราพบข้อผิดพลาดของพนักงานต้อนรับของเราตั้งแต่แรก มันมีบันทึกสิ่งที่เกิดขึ้นในสายโซ่การทำงานเพื่อให้ผู้จัดการ AI สามารถค้นหาและจัดการได้ ฉันขอเรียกมันว่าบันทึกการปฏิบัติงานที่ตรวจสอบได้ และคุณค่าของมันก็มีมากกว่าแค่เรื่องของความไว้วางใจ

งานของคุณ โมเดลของคุณ

เนื่องจากโมเดลของ Aqua ได้มาตรฐาน และเนื่องจากมันเป็นของคุณ มันจึงเป็นทรัพย์สิน คุณสามารถใช้มันเพื่อดำเนินธุรกิจ คุณสามารถแชร์มัน โดยส่งมอบเฉพาะส่วนที่จำเป็นให้กับผู้รับเหมาหรือพนักงานใหม่ได้อย่างแม่นยำ และเมื่อธุรกิจเปลี่ยนมือ บันทึกวิธีการดำเนินงานจริงก็เป็นส่วนหนึ่งของสิ่งที่ถูกขายไปด้วย กล่องเก็บประวัติการแชทไม่สามารถทำอะไรแบบนั้นได้เลย คุณคงไม่อยากส่งมอบสิ่งนั้นให้ใคร และคุณไม่สามารถสร้างรายได้จากมันได้อย่างแน่นอน

คุณคงไม่ต้องการ AI ที่ลึกลับซับซ้อน คุณต้องการ AI ที่เก็บบันทึกที่คุณสามารถเปิดดู เป็นเจ้าของ และส่งต่อได้

คำถามที่พบบ่อย

ตกลงว่าฉันสามารถไว้ใจให้ AI ทำงานจริงได้หรือไม่? สำหรับงานสั้นๆ ที่มีขอบเขตชัดเจน มักจะทำได้ แต่สำหรับงานยาวๆ ที่มีหลายขั้นตอน จะทำได้ก็ต่อเมื่อมีระบบตรวจสอบในแต่ละขั้นตอน ไม่ใช่เอเจนต์ตัวเดียวที่รันทั้งสายโซ่โดยไม่มีการควบคุมดูแล จงเชื่อมั่นในระบบที่สามารถจับและแก้ไขข้อผิดพลาดได้ เหมือนกับที่คุณไว้ใจระบบท่อประปาที่มีวาล์วปิดเปิด ไม่ใช่ระบบที่สัญญาว่ามันจะไม่มีวันรั่ว

“world model” หมายความว่าอย่างไร? มันคือส่วนหนึ่งของระบบเราที่เก็บข้อมูลธุรกิจของคุณในรูปแบบของชิ้นส่วนที่มีอยู่จริงและแยกออกจากกัน (ตัวงาน, ใครเป็นคนจัดการ, อะไรคือความจริง, อะไรที่ยังค้างอยู่) แทนที่จะเป็นสายธารแชทที่ยาวเหยียด การเก็บข้อมูลงานด้วยวิธีนี้คือสิ่งที่ทำให้ระบบสามารถแบ่งงานออกเป็นขั้นตอน ส่งมอบแต่ละขั้นตอนให้กับทีมงานส่วนที่เหมาะสม และตรวจสอบแต่ละขั้นตอนก่อนที่จะทำขั้นต่อไป

แล้วมันต่างจาก “หน่วยความจำ AI” อย่างไร? หน่วยความจำ AI ส่วนใหญ่จะเก็บสิ่งที่ถูกพูดถึง: ข้อความในอดีตที่มันค้นหาจากความคล้ายคลึง หรือโปรไฟล์ความชอบของคุณ สิ่งนั้นช่วยให้มันฟังดูสม่ำเสมอ แต่มันไม่ได้ให้บันทึกสิ่งที่ทำไปจริงๆ ซึ่งถูกบันทึกเป็นเหตุการณ์ที่คุณสามารถตรวจสอบและแก้ไขได้ อย่างแรกคือกล่องจดบันทึก; ส่วนอย่างที่สองคือตู้เอกสาร

---

จากทีมงานของเราถึงทีมงานของคุณ Aquarius สร้าง AI แบบปรับแต่งได้สำหรับบุคคลทั่วไปและธุรกิจขนาดเล็ก เราสร้าง Aqua พ่อมดธุรกิจส่วนตัวของคุณ มันจะเรียนรู้วิธีที่คุณทำงานให้สำเร็จ จากนั้นจะใช้ Working World Model ของเราเพื่อสร้างทีมงาน AI ที่ถูกปรับแต่งมาเพื่ออุดช่องโหว่ของคุณ peopleaquarius.com