האם אפשר לסמוך על סוכני בינה מלאכותית עם העבודה שלכם?

בונים מערכת טובה יותר

בפוסט הקודם הראיתי לכם את המתמטיקה שהדגמות משמיטות. סוכן AI שאמין ב-95% בכל שלב של משימה אינו אמין ב-95% לאורך כל העבודה.

עבודה אמיתית מורכבת משרשראות ארוכות, ולכן סוכן יחיד שעושה הכל הוא שביר. הפוסט ההוא הסתיים בתחושת בטן: אולי התשובה היא בכלל לא סוכן גדול יותר. אולי זו מערכת.

המילה הזו יכולה להישמע כמו התחמקות, אז תנו לי להפוך את זה לקונקרטי, החל מתקלה מהבדיקות שלנו עצמנו.

איך באמת נראה AI בטוח יותר

כל שבוע מביא איתו עוד סיפור על “נחילי סוכני” AI שמשתחררים מהרצועה בבדיקות. הגרסה הסנסציונית תגרום לכם להאמין ש-AI הוא גדול ומורכב מדי מכדי שמישהו יוכל אי פעם להבין. זה מדלג על השאלה שחשובה לעסק: כשמערכת AI עושה טעות, האם מישהו תופס אותה, והאם הוא מונע ממנה לקרות פעמיים?

איך מערכת תופסת טעויות של סוכנים

ניהול עבודה בצורה טובה דורש ידע מתמחה. מתחת ל-Aqua יש את מה שאנחנו קוראים לו מודל עולם: אוסף של אובייקטים וירטואליים שמייצג היבטים נפרדים של עבודה משותפת (המשימה, מי מטפל בה, מה נכון, מה עדיין חייבים לעשות) במקום טשטוש ארוך אחד של צ’אט שה-AI צריך לקרוא מחדש ולקוות שהוא הבין נכון.

מכיוון שהעבודה מוחזקת כאובייקטים וירטואליים עם מבנה סטנדרטי, המערכת יכולה לעשות שלושה דברים שסוכן רגיל מהקופסה לא יכול.

שני השלבים הראשונים הם הסיבה לכך שגם כשהמערכת מקבלת החלטה שגויה, אנחנו יכולים להצביע ישירות על חלק העבודה שעורר אותה. השלישי הוא הסיבה לכך שתוצאה גרועה נתפסת במקום שבו היא קרתה, לפני שהיא יכולה להצטבר לתוך השלבים שאחריה.

זיכרון ששומר את הקבלות

כל מערכת של אחריות דורשת שמירת רישומים. כאן כמעט כל כלי בשוק נופל, גם כשהם כולם מפרסמים את אותה המילה: זיכרון. למה שהם מתכוונים בזיכרון ולמה שהעסק שלך באמת צריך הם לא אותו הדבר.

רוב “זיכרון ה-AI” כיום הוא קופסה אחת גדולה של פתקים. מודל העולם של Aquarius שומר ארון תיוק עם מגירות מתויגות.

הקופסה הגדולה של הפתקים היא בסדר לשליפה מהזיכרון. היא לא יכולה להגיד לך מה קרה ביום שלישי, כי הקופסה לא מפרידה פתקים עם תוויות תאריך שאתה יכול להצביע עליהן. הרצת Project של Aquarius, לעומת זאת, מגיעה עם ארון התיוק: כל שלב מייצר רשומת הרצה שאתה או מנהל AI יכולים לפתוח ולבדוק.

ארון התיוק הזה הוא מה שהפך את הטעות של פקידת הקבלה שלנו לניתנת לאיתור מלכתחילה. היה דיווח מתועד של מה שקרה בשרשרת המשימות כדי שמנהל ה-AI יוכל לאתר ולטפל בזה. הייתי קורא לזה רשומת פעולות אחראית, והערך שלה מגיע מעבר לאמון.

העבודה שלך, המודל שלך

מכיוון שהמודל של Aqua הוא סטנדרטי, ומכיוון שהוא שלך, הוא נכס. אתה יכול להשתמש בו כדי לנהל את העסק. אתה יכול לשתף אותו, ולהעביר לקבלן או לעובד חדש בדיוק את החלק שהם צריכים. וכשעסק מחליף ידיים, התיעוד של איך הוא באמת מתנהל הוא חלק ממה שנמכר. קופסה של יומני צ’אט לא יכולה לעשות שום דבר מזה. אתה לא רוצה למסור את זה, ואתה בטח לא יכול להרוויח מזה כסף.

אתה לא רוצה AI שהוא מסתורי. אתה רוצה AI ששומר רשומות שאתה יכול לפתוח, להחזיק בבעלותך ולהעביר הלאה.

שאלות נפוצות

אז האם אני יכול לסמוך על AI עם עבודה אמיתית או לא? עבור עבודות קצרות ומוכלות, לרוב כן. עבור עבודה ארוכה מרובת שלבים, רק אם יש מערכת שבודקת כל שלב, לא סוכן יחיד שמריץ את כל השרשרת ללא פיקוח. סמוך על המערך שיכול לתפוס ולתקן טעות, באותה הדרך שבה אתה סומך על צנרת שיש לה שסתומי סגירה, לא על זו שמבטיחה שהיא לעולם לא תדלוף.

למה אתה מתכוון ב”מודל עולם”? זה החלק במערכת שלנו שמחזיק את העסק שלך כאוסף של חלקים אמיתיים ונפרדים (המשימה, מי מטפל בה, מה נכון, מה עדיין חייבים לעשות) ולא כזרם ארוך אחד של צ’אט. החזקת העבודה בצורה כזו היא מה שמאפשר למערכת לפרק עבודה לשלבים, למסור כל אחד לחלק הנכון בצוות, ולבדוק כל אחד לפני שממשיכים הלאה.

איך זה שונה מ”זיכרון AI”? רוב זיכרון ה-AI שומר את מה שנאמר: טקסט מהעבר שהוא מחפש לפי דמיון, או פרופיל של ההעדפות שלך. זה עוזר לו להישמע עקבי. זה לא נותן לך תיעוד של מה שבאמת נעשה, רשום כאירועים שאתה יכול לבדוק ולתקן. הראשון הוא קופסה של פתקים; השני הוא ארון תיוק.

---

מהצוות שלנו לשלכם. Aquarius בונה AI מותאם אישית לאנשים פרטיים ועסקים קטנים. יצרנו את Aqua, אשף העסקים האישי שלך. היא לומדת איך אתה מבצע דברים, ואז משתמשת במודל עולם העבודה שלנו כדי ליצור צוות של AI המעוצב למלא את הפערים שלך. peopleaquarius.com