Yapay zeka ajanlarına işini emanet edebilir misin?
Yapay zeka ajanları görev dağılımına ve denetime ihtiyaç duyar. Kendi hatalarını bulan ve bunların tekrarlanmasını önleyen bir sistemi nasıl kurduğumuzu burada anlatıyoruz.
Zachary Sheldon4 dk okumaBu sayfada
Daha iyi bir sistem kurmak
Geçen yazıda sana demoların dışarıda bıraktığı matematiği göstermiştim. Bir görevin her adımında %95 güvenilir olan bir yapay zeka ajanı, işin tamamında %95 güvenilir değildir.
Gerçek işler uzun zincirlerden oluşur, bu yüzden her şeyi yapan tek bir ajan kırılgandır. O yazı bir önseziyle bitmişti: belki de cevap daha büyük bir ajan değildir. Belki de bir sistemdir.
Bu kelime bir kaçamak gibi gelebilir, o yüzden kendi testlerimizdeki bir hatadan başlayarak bunu somutlaştırayım.
Daha güvenli yapay zeka aslında neye benzer
Her hafta, testlerde kontrolden çıkan yapay zeka “ajan sürüleri” hakkında yeni bir hikaye duyuyoruz. İşin sansasyonel kısmı, yapay zekanın herhangi bir insanın anlayamayacağı kadar büyük ve karmaşık olduğuna inanmanı ister. Bu, bir işletme için önemli olan şu soruyu atlar: bir yapay zeka sistemi hata yaptığında, birisi bunu yakalıyor mu ve ikinci kez olmasını engelliyor mu?
Bir sistem ajanların hatalarını nasıl yakalar
İşi iyi yönetmek uzmanlık bilgisi gerektirir. Aqua’nın altında dünya modeli dediğimiz şey var: yapay zekanın tekrar okuyup doğru anladığını ummak zorunda kaldığı uzun ve bulanık bir sohbet yerine, işbirlikçi emeğin farklı yönlerini (görev, kimin ilgilendiği, neyin doğru olduğu, hala neyin borçlu olunduğu) temsil eden sanal nesneler koleksiyonu.
İş, standart bir yapıya sahip sanal nesneler olarak tutulduğu için, sistem kutudan çıktığı gibi kullanılan bir ajanın yapamayacağı üç şeyi yapabilir.
Dünya modeli, işi, herhangi bir yerdeki bir kaymanın katlanarak artan hatalar yoluyla sonu mahvettiği uzun bir zincir olarak değil, ayrı ve izlenebilir adımlar olarak haritalandırır.
Her adım, tekrarlanan komutlarla her şeyi aynı anda yapan tek bir genel uzman yerine, ekibin o iş için kurulmuş kısmına gider.
Bir kontrol adımı, bitmiş her parçayı üretilmesi gereken şeye karşı okur. Eğer yanlışsa, bir sonraki adım hatayı devralmadan önce orada yakalanır ve düzeltilir.
İlk iki adım, sistem yanlış bir karar verdiğinde bile, onu tetikleyen iş parçasına doğrudan işaret edebilmemizin nedenidir. Üçüncüsü ise, kötü bir sonucun, kendisini takip eden adımlara katlanarak yansımadan önce, olduğu yerde yakalanmasının nedenidir.
Belgeleri saklayan hafıza
Her hesap verebilirlik sistemi kayıt tutmayı gerektirir. Piyasada bulunan hemen hemen her aracın, hepsi aynı kelimenin reklamını yapsa da yetersiz kaldığı yer burasıdır: hafıza. Onların hafızadan kastettikleri ile işletmenin aslında ihtiyaç duyduğu şey aynı değildir.
Bugün çoğu “yapay zeka hafızası” tek bir büyük not kutusudur. Aquarius dünya modeli, etiketli çekmeceleri olan bir dosya dolabı tutar.
- Talebine benzer göründüğü için çekilen geçmiş metinler
- İş operasyonların hakkında değil, senin hakkındaki bilgiler
- Aracın bir şekilde tuttuğu dağınık notlar
- Ne yapıldığını değil, ne söylendiğini saklar
- Neyin doğru olduğu: son söz olarak tutulan kuralların, fiyatların ve insanların
- Ne olduğu: bir olayı anlatan bir cümle olarak değil, bir olay olarak kaydedilen her eylem
- Kimin neyi iyi yaptığı ve hala neyin borçlu olunduğu
- Her şeyin kendi yerinde, incelemeye ve düzeltmeye açık olması
Büyük not kutusu hatırlamak için iyidir. Sana Salı günü ne olduğunu söyleyemez, çünkü kutu notları işaret edebileceğin tarihli etiketlerle ayırmaz. Ancak bir Aquarius Project çalışması dosya dolabıyla birlikte gelir: her adım, senin veya bir yapay zeka yöneticisinin açıp inceleyebileceği bir çalışma kaydı oluşturur.
Resepsiyonistimizin hatasını en başta bulunabilir kılan şey o dosya dolabıdır. Yapay zeka yöneticisinin bulması ve ele alması için görev zincirinde ne olduğuna dair kaydedilmiş bir hesap vardı. Ben buna hesap verilebilir bir operasyon kaydı derim ve bunun değeri güvenin ötesine geçer.
Senin İşin, Senin Modelin
Aqua’nın modeli standartlaştırılmış olduğu ve sana ait olduğu için, o bir varlıktır. Onu işletmeyi yönetmek için kullanabilirsin. Onu paylaşabilir, bir yükleniciye veya yeni bir çalışana tam olarak ihtiyaç duydukları dilimi verebilirsin. Ve bir işletme el değiştirdiğinde, onun gerçekte nasıl işlediğinin kaydı satılan şeyin bir parçasıdır. Bir kutu sohbet günlüğü bunların hiçbirini yapamaz. Bunu devretmek istemezsin ve kesinlikle paraya çeviremezsin.
Gizemli bir yapay zeka istemezsin. Açabileceğin, sahip olabileceğin ve devredebileceğin kayıtlar tutan bir yapay zeka istersin.
SSS
Peki yapay zekaya gerçek işlerde güvenebilir miyim, güvenemez miyim? Kısa, sınırlı işler için genellikle evet. Uzun ve çok adımlı işler için, tüm zinciri denetimsiz yürüten tek bir ajan değil, her adımı kontrol eden bir sistem varsa güvenebilirsin. Hiçbir zaman sızdırmayacağına söz veren bir tesisata değil, kesme vanaları olan bir tesisata güvendiğin gibi, bir hatayı yakalayıp düzeltebilen kuruluma güven.
“Dünya modeli” ile ne kastediyorsun? Sistemimizin, işletmeni uzun bir sohbet akışı yerine gerçek, ayrı parçalardan (görev, kimin ilgilendiği, neyin doğru olduğu, hala neyin borçlu olunduğu) oluşan bir set olarak tutan kısmıdır. İşi bu şekilde tutmak, sistemin bir işi adımlara bölmesine, her birini ekibin doğru kısmına teslim etmesine ve devam etmeden önce her birini kontrol etmesine olanak tanıyan şeydir.
Bunun “yapay zeka hafızası”ndan farkı nedir? Çoğu yapay zeka hafızası ne söylendiğini depolar: benzerliğe göre aradığı geçmiş metinler veya tercihlerinin bir profili. Bu, tutarlı görünmesine yardımcı olur. Sana inceleyebileceğin ve düzeltebileceğin olaylar olarak günlüğe kaydedilmiş, gerçekte ne yapıldığının bir kaydını vermez. Birincisi bir not kutusudur; ikincisi ise bir dosya dolabı.
Bizim ekibimizden seninkine. Aquarius, bireyler ve küçük işletmeler için özel yapay zeka geliştirir. Kişisel iş sihirbazın Aqua’yı yaptık. İşleri nasıl hallettiğini öğrenir, ardından boşluklarını dolduracak şekilde şekillendirilmiş bir yapay zeka ekibi oluşturmak için Çalışan Dünya Modelimizi kullanır. peopleaquarius.com