هل يمكنك الوثوق بوكلاء الذكاء الاصطناعي في عملك؟

بناء نظام أفضل

في المنشور السابق أوضحت لك الحسابات التي تتجاهلها العروض التوضيحية. وكيل الذكاء الاصطناعي الذي يتمتع بموثوقية بنسبة 95% في كل خطوة من المهمة لا يتمتع بموثوقية بنسبة 95% عبر الوظيفة بأكملها.

العمل الحقيقي عبارة عن سلاسل طويلة، لذا فإن الوكيل الفردي الذي يفعل كل شيء هو وكيل هش. انتهى ذلك المنشور بحدس: ربما لا تكون الإجابة في وكيل أكبر على الإطلاق. ربما تكون في نظام.

قد تبدو هذه الكلمة وكأنها تهرب، لذا دعني أجعلها ملموسة، بدءاً بخطأ من اختباراتنا الخاصة.

كيف يبدو الذكاء الاصطناعي الأكثر أماناً في الواقع

كل أسبوع يجلب قصة أخرى عن “أسراب وكلاء” الذكاء الاصطناعي التي تخرج عن السيطرة في الاختبارات. النسخة المثيرة ستجعلك تعتقد أن الذكاء الاصطناعي أكبر وأعقد من أن يفهمه أي شخص على الإطلاق. هذا يتجاهل السؤال الذي يهم أي عمل تجاري: عندما يرتكب نظام الذكاء الاصطناعي خطأً، هل يكتشفه أحد، وهل يمنع حدوثه مرتين؟

كيف يكتشف النظام أخطاء الوكلاء

إدارة العمل بشكل جيد تتطلب معرفة متخصصة. تحت Aqua يوجد ما نسميه نموذج العالم: مجموعة من الكائنات الافتراضية التي تمثل جوانب مميزة للعمل التعاوني (المهمة، من يتولاها، ما هو صحيح، ما لا يزال مستحقاً) بدلاً من ضبابية طويلة من الدردشة التي يتعين على الذكاء الاصطناعي إعادة قراءتها والأمل في فهمها بشكل صحيح.

نظراً لأن العمل يتم الاحتفاظ به ككائنات افتراضية بهيكل قياسي، يمكن للنظام القيام بثلاثة أشياء لا يستطيع الوكيل الجاهز القيام بها.

الخطوتان الأوليان هما السبب في أنه حتى عندما يتخذ النظام قراراً سيئاً، يمكننا الإشارة مباشرة إلى جزء العمل الذي تسبب فيه. والثالثة هي السبب في اكتشاف النتيجة السيئة حيث حدثت، قبل أن تتفاقم في الخطوات التي تليها.

الذاكرة التي تحتفظ بالسجلات

كل نظام للمساءلة يتطلب حفظ السجلات. هذا هو المكان الذي تقصر فيه كل أداة في السوق تقريباً، حتى مع إعلانها جميعاً عن نفس الكلمة: الذاكرة. ما يعنونه بالذاكرة وما يحتاجه عملك بالفعل ليسا نفس الشيء.

معظم “ذاكرة الذكاء الاصطناعي” اليوم عبارة عن صندوق كبير واحد من الملاحظات. يحتفظ نموذج عالم Aquarius بخزانة ملفات ذات أدراج مصنفة.

صندوق الملاحظات الكبير جيد للاسترجاع. لا يمكنه إخبارك بما حدث يوم الثلاثاء، لأن الصندوق لا يفصل الملاحظات بتصنيفات مؤرخة يمكنك الإشارة إليها. ومع ذلك، فإن تشغيل Project في Aquarius يأتي مع خزانة الملفات: تولد كل خطوة سجل تشغيل يمكنك أنت أو مدير الذكاء الاصطناعي فتحه وفحصه.

خزانة الملفات هذه هي ما جعل خطأ موظف الاستقبال لدينا قابلاً للاكتشاف في المقام الأول. كان هناك حساب مسجل لما حدث في سلسلة المهام ليتمكن مدير الذكاء الاصطناعي من تحديد موقعه ومعالجته. أود أن أسميه سجلاً خاضعاً للمساءلة للعمليات، وقيمته تتجاوز الثقة.

عملك، نموذجك

نظراً لأن نموذج Aqua قياسي، ولأنه ملكك، فهو أصل. يمكنك استخدامه لإدارة العمل. يمكنك مشاركته، وتسليم مقاول أو موظف جديد الشريحة التي يحتاجونها بالضبط. وعندما تنتقل ملكية عمل تجاري، فإن سجل كيفية إدارته فعلياً هو جزء مما يتم بيعه. صندوق من سجلات الدردشة لا يمكنه فعل أي من ذلك. أنت لا تريد تسليم ذلك، وبالتأكيد لا يمكنك تحقيق الدخل منه.

أنت لا تريد ذكاءً اصطناعياً غامضاً. أنت تريد ذكاءً اصطناعياً يحتفظ بسجلات يمكنك فتحها وامتلاكها وتمريرها.

الأسئلة الشائعة

إذن هل يمكنني الوثوق بالذكاء الاصطناعي في العمل الحقيقي أم لا؟ بالنسبة للوظائف القصيرة والمحتواة، غالباً نعم. بالنسبة للعمل الطويل متعدد الخطوات، فقط إذا كان هناك نظام يتحقق من كل خطوة، وليس وكيلاً واحداً يدير السلسلة بأكملها دون إشراف. ثق في الإعداد الذي يمكنه اكتشاف الخطأ وإصلاحه، بالطريقة التي تثق بها في السباكة التي تحتوي على صمامات إغلاق، وليس تلك التي تعد بأنها لن تتسرب أبداً.

ماذا تقصد بـ “نموذج العالم”؟ إنه الجزء من نظامنا الذي يحتفظ بعملك كمجموعة من القطع الحقيقية والمنفصلة (المهمة، من يتولاها، ما هو صحيح، ما لا يزال مستحقاً) بدلاً من تيار طويل واحد من الدردشة. إن الاحتفاظ بالعمل بهذه الطريقة هو ما يتيح للنظام تقسيم الوظيفة إلى خطوات، وتسليم كل منها إلى الجزء المناسب من الفريق، والتحقق من كل واحدة قبل المضي قدماً.

كيف يختلف ذلك عن “ذاكرة الذكاء الاصطناعي”؟ تخزن معظم ذاكرة الذكاء الاصطناعي ما قيل: نص سابق تبحث فيه عن طريق التشابه، أو ملف تعريف لتفضيلاتك. هذا يساعدها على أن تبدو متسقة. لكنها لا تمنحك سجلاً لما تم إنجازه بالفعل، مسجلاً كأحداث يمكنك فحصها وتصحيحها. الأول عبارة عن صندوق ملاحظات؛ والثاني عبارة عن خزانة ملفات.

---

من فريقنا إلى فريقك. تبني Aquarius ذكاءً اصطناعياً مخصصاً للأفراد والشركات الصغيرة. لقد صنعنا Aqua، معالج أعمالك الشخصي. إنه يتعلم كيف تنجز الأشياء، ثم يستخدم نموذج عالم العمل الخاص بنا لصياغة فريق من الذكاء الاصطناعي مصمم لسد الفجوات لديك. peopleaquarius.com