Bir yapay zeka ajanına mı, birkaç model çağrısı olan bir iş akışına mı ihtiyacınız var?

Bir ekip, tedarikçi e-postalarının düştüğü gelen kutusunu otomatikleştirmek istiyor. Mühendislerden biri bir ajan öneriyor: modele posta kutusunu, ERP’yi ve birkaç aracı vermek, her e-postanın neye ihtiyaç duyduğunu da ona bırakmak. Bir diğeri sabit bir işlem hattı öneriyor: sınıflandırmak, alanları çıkarmak, siparişi bulmak, bir satın alma uzmanının onaylayacağı bir yanıt taslağı hazırlamak. İki demo da demo için seçilen bir düzine e-postada çalışıyor.

Yapay zeka ajanı mı, iş akışı mı? Aradaki fark sonradan ortaya çıkar: testlerde, aylık faturada ve ilk olay incelemesinde. Çoğu iş sürecinde sabit iş akışı kazanır, çünkü bilinen her adım test edilebilir, fiyatlandırılabilir ve açıklanabilir. Ajan ise yolun önceden bilinemediği yerde değer katar; test edilmesi, işletilmesi ve açıklanması daha pahalıdır.

Aradaki fark somut olarak nedir?

İş akışında sıraya kodunuz karar verir. Kodun yapamadığı işler için, örneğin bir e-postayı okumak ya da bir yanıt taslağı yazmak için, sabit adımlarda bir dil modelini çağırır. Her çağrının tek bir işi ve bilinen bir çıktı biçimi vardır. Ajanda ise sıraya model karar verir: bir hedef ve bir araç seti verildiğinde döngüye girer; bir araç seçer, sonucu okur ve sonra ne yapacağına karar verir.

Temsili bir örnek ele alalım: sipariş teyitleri, teslim tarihi değişiklikleri, fatura soruları ve fiyat değişikliği bildirimleri alan bir tedarikçi gelen kutusu. Arada hiçbir yere uymayan e-postalar da geliyor.

• İş akışı olarak: bir sınıflandırıcı her e-postayı bu dört türden birine ya da “diğer”e ayırır. Her türün sabit bir yolu vardır: sipariş numarasını ve tarihleri çıkarmak, satın alma siparişini bulmak, karşılaştırmak, bir satın alma uzmanının onaylayacağı bir güncelleme taslağı hazırlamak. “Diğer” bir insana gider.
• Ajan olarak: model e-postayı ve sipariş aramak, tedarikçi kayıtlarını okumak, teslim tarihlerini güncellemek ve yanıt taslağı hazırlamak için araçları alır. Hangisini, hangi sırayla çağıracağına ve ne zaman duracağına kendisi karar verir.

Canlıya geçişten sonraki farklar:

• Test edilebilirlik. İş akışı adım adım test edilir: sınıflandırıcı etiketli e-postalarla, alan çıkarma alan alan, sorgular birim testleriyle. Bir hata bir adımı işaret eder. Ajan ise aynı e-postada her çalıştırmada farklı bir yol izleyebilir; bu yüzden hata, bir seçimler zincirinin herhangi bir halkasında olabilir.
• Maliyet. İş akışı her e-posta için bilinen sayıda çağrı yapar ve bunların çoğu ucuzdur. Ajan ise karar verdiği kadar çağrı yapar ve her çağrı görevin büyüyen geçmişini taşır; bu yüzden e-posta başına maliyetin uzun bir kuyruğu vardır.
• Hata biçimleri. İş akışının hataları görünür ve yereldir: bilinmeyen bir e-posta “diğer”e düşer, başarısız bir alan çıkarma bir insana gider. Ajan ise sessizce başarısız olur: döngüye girer, yanlış aracı çağırır ya da kimsenin istemediği bir güncellemeyle, kendinden emin biçimde işi bitirir.

Sabit bir iş akışı ne zaman daha iyi bir tasarımdır?

Şunlar geçerliyse iş akışını seçin:

• Süreci çizebiliyorsunuz. Girdiler dağınık olsa bile adımlar bellidir.
• Çeşitlilik prosedürde değil, girdide. E-postalar ve belgeler değişir; onlara ne yapıldığı değişmez.
• Sonuçlar tekrarlanabilir ve denetlenebilir olmalı. Finans, uyum ve şirketi taahhüt altına sokan her şey.
• Hacim yüksek. Öngörülebilir bir görev başına maliyet, her sıra dışı vakayı otomatikleştirmekten daha önemlidir.

Fatura işleme, iadeler, sipariş güncellemeleri ve destek talebi yönlendirme genellikle dördünü de geçer. Akış şemasını kurun ve modeli yalnızca dil okuyan ya da dil yazan kutularda çağırın. Bazı kutuların modele hiç ihtiyacı yoktur, çünkü bir kural ya da bir sorgu o işi daha iyi yapar.

Süreci akış şeması olarak çizebiliyorsanız akış şemasını kurun.

Ajan ne zaman değer katar?

Üç koşul birlikte sağlandığında:

1. Yol, her adımın bulduğuna bağlı. Bir teslimatın neden geciktiğini anlamak; önce siparişe, sonra kargo firmasının kaydına, sonra eski bir yazışmaya, sonra da tedarikçinin onunla karıştırdığı başka bir siparişe bakmayı gerektirebilir. Olasılıklar çizilemeyecek kadar çoktur.
2. İşlemler güvenli. İşin çoğu okumak ve aramaktır; bir kaydı değiştiren her şey, bir insan için hazırlanmış bir taslaktır.
3. Uzun kuyruğu ele almaya değer. Sabit bir yola uymayan vakalar, değişkenliğin bedelini karşılayacak kadar sık ya da değerlidir.

O zaman bile ajanı dar tutun: tek bir hedef, kısa bir araç listesi, bir adım bütçesi ve durup işi devretmenin tanımlı bir yolu. Ajanın sormadan ne kadarını yapabileceği ayrı bir karardır ve ajanların ne zaman kendi başına işlem yapması gerektiğini anlatan notun konusudur.

Ajanlar test ve işletmede neye mal olur?

İşletmenin de kendi maliyetleri vardır: adım sınırları, döngü tespiti, bir çalıştırmayı yeniden oynatmaya yetecek ayrıntıda kayıtlar, tekrarlanan değerlendirme çalıştırmaları ve sistemin neden öyle davrandığını bir denetçiye açıklamak için harcanan zaman.

Çoklu ajan tasarımları işe yarar mı?

Başlangıçta nadiren. Bir planlayıcı, bir araştırmacı, bir yazar ve bir denetleyici bir diyagramda derli toplu görünür. Ama her aktarımda bağlam kaybolur ve hatalar birbirine eklenir; koordinasyon da çağrı sayısını, maliyeti ve yanıt süresini artırır. Çıktı yanlış olduğunda önce hangi ajanın hata yaptığını ve diğerlerinin bunu neden fark etmediğini bulmanız gerekir.

İkinci bir ajan eklemeden önce, daha iyi araçları olan tek bir ajanın ya da modeli her rol için sabit bir sırayla bir kez çağıran bir iş akışının yetip yetmeyeceğini sorun. Bir “denetleyici ajan” genellikle koddaki bir doğrulama olarak ya da bir onay noktasındaki bir insan olarak daha iyi çalışır. Her birinin kendi değerlendirme seti olan bağımsız alt görevler için birkaç ajan anlamlı olabilir. Ama bu, kanıtla ulaşılacak bir tasarımdır; başlangıç noktası değildir.

İkisi birleştirilebilir mi?

Evet; çoğu zaman en iyi tasarım da budur: içinde sınırları belli tek bir ajan adımı olan sabit bir iş akışı.

Temsili gelen kutusunda iş akışı eskisi gibi çalışır. Bir tarih değişikliği hiçbir açık siparişle eşleşmediğinde ya da bir e-posta “diğer”e düştüğünde, sınırları belli bir ajan yalnızca o vakayı alır. Ajanın yalnızca okuma yapan araçları (sipariş arama, tedarikçi geçmişi, önceki yazışmalar) ve bir adım sınırı vardır. Ajan satın alma uzmanına yapılandırılmış bir bulgu döndürür: olası sipariş, kanıt ve önerilen işlem. ERP’ye ise asla yazmaz.

İş akışı yaygın vakaları öngörülebilir biçimde işler; ajan ise zorlu vakaları, test edebileceğiniz ve maliyetini karşılayabileceğiniz bir kutunun içinde çözer. Bu kutunun sınırlarını dört koruma önlemi sorusu belirler: kim neye erişebilir ve kararı ne zaman bir insan verir?

Önceden bilinemeyen adımlar nasıl bulunur?

Süreci bir akış şeması olarak çizin ve bir sonraki adımın önceden bilinemediği kutuları işaretleyin. Hiç yoksa bir iş akışı kurun. Bir ya da iki tane varsa o kutulara sınırları belli bir ajan koyun ve araçlarını özenle tasarlayın; nasıl yapılacağı ajan araçlarının tasarımını anlatan notta yer alıyor. Bu tasarıma ikinci bir gözle bakmak, özel yapay zeka yazılımı projelerimizin olağan işidir.