Bisakah Anda memercayakan pekerjaan Anda pada agen AI?

Agen AI butuh pendelegasian dan pengawasan. Inilah cara kami membangun sistem yang bisa menemukan kesalahannya sendiri dan mencegahnya terulang kembali.

Zachary Sheldon6 Oktober 20265 menit baca

Di halaman ini

Line chart titled "With delegation and monitoring, errors get caught." A faint gray line shows one long chain of tasks sinking from 95% to 60% success over ten steps, while three colored lines show the same job split into delegated units, each checked before the next begins, holding success near 90%.

Membangun sistem yang lebih baik

Pada postingan sebelumnya saya menunjukkan kepada Anda hitung-hitungan yang tidak ditampilkan dalam demo. Agen AI yang 95% dapat diandalkan pada setiap langkah tugas tidaklah 95% dapat diandalkan di seluruh pekerjaan.

95%dapat diandalkan pada setiap langkah

~60%dapat diandalkan di sepuluh langkah

Pekerjaan nyata adalah rantai yang panjang, jadi satu agen yang melakukan segalanya adalah agen yang rapuh. Postingan tersebut diakhiri dengan sebuah firasat: mungkin jawabannya bukanlah agen yang lebih besar sama sekali. Mungkin jawabannya adalah sebuah sistem.

Kata itu mungkin terdengar seperti sebuah alasan, jadi izinkan saya membuatnya menjadi konkret, dimulai dengan sebuah kegagalan dari pengujian kami sendiri.

Seperti apa sebenarnya AI yang lebih aman itu

Setiap minggu selalu ada cerita lain tentang “kawanan agen” AI yang lepas kendali dalam pengujian. Versi sensasionalnya akan membuat Anda percaya bahwa AI terlalu besar dan terlalu kompleks untuk dipahami oleh siapa pun. Hal itu melewatkan pertanyaan yang penting bagi sebuah bisnis: ketika sistem AI melakukan kesalahan, apakah ada yang menyadarinya, dan apakah itu mencegahnya terjadi dua kali?

Perlu diketahui

Pelajaran dari pengujian kami sendiri

Saat ini kami sedang menjalankan pengujian internal pada rilis baru Aquarius. Selama salah satu pengujian tersebut, resepsionis AI kami mengirim email ke semua rekan kerja saya, mengingatkan mereka tentang hal-hal yang mereka katakan akan mereka lakukan untuk saya. Saya tidak memintanya. Itu adalah contoh yang baik dari agen yang sedikit terlalu membantu tanpa menunggu persetujuan.

Inilah bagian yang membekas bagi saya. Sistem ini memungkinkan kami melacak dengan tepat kapan, di mana, dan mengapa hal itu terjadi. Yang harus saya lakukan hanyalah memberi tahu Aqua tentang kegagalan tersebut. Ia menjalankan auditnya sendiri dan menemukan titik yang tepat dalam pekerjaan di mana kebingungan itu menyusup. Setelah diperbaiki, saya melihat perbaikan itu muncul sebagai gerbang baru di peta kerja resepsionis: mulai sekarang, email semacam itu menunggu persetujuan saya.

Bagaimana sebuah sistem menangkap kesalahan agen

Mengelola pekerjaan dengan baik membutuhkan pengetahuan khusus. Di bawah Aqua terdapat apa yang kami sebut model dunia (world model): kumpulan objek virtual yang mewakili aspek-aspek berbeda dari kerja sama (tugas, siapa yang menanganinya, apa yang benar, apa yang masih terutang) alih-alih satu obrolan panjang yang kabur yang harus dibaca ulang oleh AI dan berharap ia memahaminya dengan benar.

Karena pekerjaan disimpan sebagai objek virtual dengan struktur standar, sistem dapat melakukan tiga hal yang tidak dapat dilakukan oleh agen bawaan (out-of-the-box).

Memecah rantai menjadi bagian-bagian

Model dunia memetakan pekerjaan sebagai langkah-langkah terpisah yang dapat dilacak, bukan satu rantai panjang di mana kesalahan di mana pun akan menghancurkan hasil akhir melalui kesalahan yang berlipat ganda.

Mengarahkan setiap bagian

Setiap langkah diserahkan ke bagian kru yang dibangun untuk itu, alih-alih satu generalis yang melakukan semuanya sekaligus dari perintah yang berulang.

Menilai hasilnya

Langkah pengecekan membaca setiap bagian yang sudah selesai dan membandingkannya dengan apa yang seharusnya dihasilkan. Jika salah, kesalahan itu ditangkap dan diperbaiki di sana, sebelum langkah berikutnya mewarisi kesalahan tersebut.

Dua langkah pertama adalah alasan mengapa, bahkan ketika sistem membuat keputusan yang buruk, kita dapat langsung menunjuk ke bagian pekerjaan yang memicunya. Langkah ketiga adalah alasan mengapa hasil yang buruk ditangkap di tempat kejadian, sebelum dapat berlipat ganda ke langkah-langkah berikutnya.

Memori yang menyimpan bukti

Setiap sistem akuntabilitas memerlukan penyimpanan catatan. Di sinilah hampir setiap alat di pasar gagal, meskipun mereka semua mengiklankan kata yang sama: memori. Apa yang mereka maksud dengan memori dan apa yang sebenarnya dibutuhkan bisnis Anda bukanlah hal yang sama.

Sebagian besar “memori AI” saat ini adalah satu kotak catatan besar. Model dunia Aquarius menyimpan lemari arsip dengan laci-laci berlabel.

Sebelum

Teks masa lalu ditarik karena terlihat mirip dengan permintaan Anda
Informasi tentang Anda, bukan operasi bisnis Anda
Catatan lepas, disimpan dengan cara apa pun alat tersebut menyimpannya
Menyimpan apa yang dikatakan, bukan apa yang dilakukan

Sesudah

Apa yang benar: aturan, harga, dan orang-orang Anda, dipegang sebagai keputusan akhir
Apa yang terjadi: setiap tindakan dicatat sebagai peristiwa, bukan kalimat yang menggambarkannya
Siapa yang melakukan apa dengan baik, dan apa yang masih terutang
Setiap hal di tempatnya masing-masing, terbuka untuk diperiksa dan dikoreksi

Kotak catatan besar itu bagus untuk mengingat kembali. Ia tidak bisa memberi tahu Anda apa yang terjadi pada hari Selasa, karena kotak itu tidak memisahkan catatan dengan label tanggal yang bisa Anda tunjuk. Namun, jalannya Project Aquarius hadir dengan lemari arsip: setiap langkah menghasilkan catatan proses yang dapat dibuka dan diperiksa oleh Anda atau manajer AI.

Lemari arsip itulah yang membuat kesalahan resepsionis kami dapat ditemukan sejak awal. Ada catatan terekam tentang apa yang terjadi dalam rantai tugas agar manajer AI dapat menemukan dan mengatasinya. Saya akan menyebutnya sebagai catatan operasi yang akuntabel, dan nilainya melampaui sekadar kepercayaan.

Pekerjaan Anda, Model Anda

Karena model Aqua terstandarisasi, dan karena itu milik Anda, itu adalah sebuah aset. Anda dapat menggunakannya untuk menjalankan bisnis. Anda dapat membagikannya, menyerahkan kepada kontraktor atau karyawan baru bagian yang tepat yang mereka butuhkan. Dan ketika sebuah bisnis berpindah tangan, catatan tentang bagaimana bisnis itu sebenarnya berjalan adalah bagian dari apa yang dijual. Sekotak log obrolan tidak bisa melakukan semua itu. Anda tidak ingin menyerahkannya, dan Anda tentu saja tidak bisa menguangkannya.

Anda tidak menginginkan AI yang misterius. Anda menginginkan AI yang menyimpan catatan yang dapat Anda buka, miliki, dan wariskan.

Aqua

FAQ

Jadi, bisakah saya mempercayakan AI dengan pekerjaan nyata atau tidak? Untuk pekerjaan singkat dan terbatas, seringkali bisa. Untuk pekerjaan multi-langkah yang panjang, hanya jika ada sistem yang memeriksa setiap langkah, bukan agen tunggal yang menjalankan seluruh rantai tanpa pengawasan. Percayalah pada pengaturan yang dapat menangkap dan memperbaiki kesalahan, seperti Anda mempercayai pipa ledeng yang memiliki katup penutup, bukan yang menjanjikan tidak akan pernah bocor.

Apa yang Anda maksud dengan “model dunia” (world model)? Itu adalah bagian dari sistem kami yang menyimpan bisnis Anda sebagai serangkaian bagian yang nyata dan terpisah (tugas, siapa yang menanganinya, apa yang benar, apa yang masih terutang) daripada satu aliran obrolan yang panjang. Menyimpan pekerjaan dengan cara seperti itu adalah hal yang memungkinkan sistem memecah pekerjaan menjadi langkah-langkah, menyerahkan masing-masing ke bagian kru yang tepat, dan memeriksa setiap langkah sebelum melanjutkan.

Apa bedanya dengan “memori AI”? Sebagian besar memori AI menyimpan apa yang dikatakan: teks masa lalu yang dicarinya berdasarkan kesamaan, atau profil preferensi Anda. Itu membantunya terdengar konsisten. Ia tidak memberi Anda catatan tentang apa yang sebenarnya dilakukan, dicatat sebagai peristiwa yang dapat Anda periksa dan koreksi. Yang pertama adalah kotak catatan; yang kedua adalah lemari arsip.

Dari tim kami untuk Anda. Aquarius membangun AI kustom untuk individu dan bisnis kecil. Kami membuat Aqua, penyihir bisnis pribadi Anda. Ia mempelajari bagaimana Anda menyelesaikan sesuatu, lalu menggunakan Model Dunia Kerja kami untuk membuat kru AI yang dibentuk untuk mengisi celah Anda. peopleaquarius.com