Kurumsal yapay zekâ uygulamalarının ilk dalgası soru cevaplama üzerine kuruldu: bir belge havuzuna bağlanan, sorulara metinle cevap veren asistanlar. Bunlar işe yarar, ama bir sınırları vardır. Cevap verirler, iş yapmazlar. Kullanıcı yine sisteme girer, kaydı kendisi açar, onayı kendisi ister. Zaman kazancı bilgiye erişimde kalır, işin kendisinde oluşmaz.
İkinci dalga, dil modelinin araç kullanabilmesiyle geliyor. Model artık yalnızca metin üretmiyor; tanımlanmış işlevleri çağırabiliyor. Bu, bir talebin sınıflandırılması, ilgili sistemlerden verinin çekilmesi, kuralların kontrol edilmesi, kaydın açılması ve sonucun raporlanması gibi adımların tek bir akışta yürütülebilmesi anlamına geliyor. Kritik nokta şu: bu güç, tanımlanan araçlarla ve verilen yetkiyle sınırlıdır. Ajanın yapabileceği şey, sizin tanımladığınızdan fazlası değildir.
Kurduğumuz akışların merkezinde bu yüzden dört şey var. Araç tanımları: ajanın hangi işlevleri çağırabileceği ve her birinin ne yaptığı açıkça yazılır. Yetki sınırları: hangi işlemin doğrudan yapılabileceği, hangisinin insan onayı gerektireceği ve hangi tutarın üzerinde otomatik işlemin hiç yapılmayacağı tanımlanır. Geri alma: bir adım yanlış gittiğinde nasıl geri dönüleceği önceden kurulur. Denetim izi: hangi kararın hangi veriyle ve hangi adımlarla verildiği saklanır.
Otonomluk seviyesi bir teknoloji kararı değil, işletme kararıdır ve müşteriyle birlikte belirlenir. Bazı akışlarda ajan yalnızca hazırlık yapar ve her şeyi insana sunar; bazılarında düşük riskli işlemleri kendisi tamamlar, sınırın üstünü onaya düşürür. Doğru başlangıç neredeyse her zaman düşük otonomluktur: sistem önerir, insan onaylar, güven biriktikçe sınır genişletilir. Baştan yüksek otonomlukla başlayan kurgular, ilk ciddi hatada tamamen kapatılır ve proje geri dönülmez biçimde güven kaybeder.