AI rendszerek termelésben · Lecke 05

Eszköztervezés ügynököknek

Egy ügynök csak annyira jó, amennyire jók az eszközei. A rosszul megtervezett eszköz félreértést, hibát és felesleges token-fogyasztást okoz, még ha a mögöttes modell kiváló is.

Vissza a tananyaghoz

Mi teszi jóvá egy eszközt

Anthropic "Writing effective tools for AI agents" anyaga szerint egy jól megtervezett eszköz önmagában zárt, vagyis nem kell más eszközök állapotára támaszkodnia ahhoz, hogy értelmezhető legyen. A paraméterei egyértelműek, a nevük és a leírásuk elsőre megmutatja, mire való, és nincs szükség találgatásra arról, milyen formátumú bemenetet vár.

A visszatérési érték token-hatékony kell legyen. Ha egy eszköz feleslegesen sok, az ügynök számára irreleváns adatot ad vissza, az nemcsak drágábbá teszi a futtatást, hanem növeli az esélyét annak, hogy az ügynök rossz részletre figyel, és rossz döntést hoz a következő lépésnél.

Felesleges adat a visszatérési értékben drágább futtatás Rossz részletre figyel az irreleváns adat elviszi a figyelmet Rossz döntés a következő lépés már hibás irányba megy
A bőbeszédű eszközválasz nem csak drágít, láncreakcióban rontja az ügynök következő döntését is.

Homályos eszköz

  • A paraméterek formátumát találgatni kell
  • Más eszközök állapotára támaszkodik
  • Irreleváns adattal terheli a kontextust

Jól tervezett eszköz

  • A név és a leírás elsőre elárulja, mire való
  • Önmagában zárt, más eszköz nélkül is értelmezhető
  • Token-hatékony, releváns választ ad
Jó eszköz önmagában zárt egyértelmű paraméterek token-hatékony válasz nincs átfedés más eszközzel világos mikor használd Rossz eszköz más eszköz állapotára épül homályos paraméterek felesleges adatokkal terhel több eszköz ugyanazt csinálja az ügynök nem tudja melyiket
A mérleg egyik oldalán a token-hatékony, egyértelmű eszköz, a másikon a zavaró, átfedő eszközkészlet.

Az átfedés elkerülése

Ha egy rendszerben két eszköz gyakorlatilag ugyanazt a feladatot végzi el, csak kicsit más módon, az ügynök gyakran rossz eszközt választ, vagy feleslegesen sokáig mérlegel a döntés előtt. A jó eszközkészlet minden eszköznek egyértelmű, egyedi szerepet ad, amit egyetlen mondatban le lehet írni anélkül, hogy egy másik eszközre kellene hivatkozni.

1

Egyetlen mondatban leírható legyen minden eszköz szerepe, másik eszközre hivatkozás nélkül. Ha ez nem megy, az eszközkészletben átfedés van.

Ügynök döntése Eszköz A keresés forrásban Eszköz B keresés archívumban átfedés, ha nem egyértelmű a különbség
Két átfedő eszköz zavart okoz, az ügynök nem tudja egyértelműen melyiket válassza.

Gyakorlati tanács vállalati bevezetéshez

Mielőtt egy vállalat ügynökrendszert épít belső folyamataira, érdemes végigmenni a tervezett eszközlistán, és minden eszköznél feltenni a kérdést, egyértelmű-e elsőre, mire való, mit ad vissza, és van-e másik eszköz, ami ugyanezt csinálja. Ez az egyszerű átvizsgálás sok termelési hibát megelőz, mielőtt egyáltalán élesbe kerülne a rendszer.

  1. Mire való?A név és a leírás elsőre megmutatja a rendeltetést, találgatás nélkül.
  2. Mit ad vissza?Token-hatékony, a feladathoz releváns válasz, nem nyers adatdump.
  3. Van-e másik, ami ugyanezt csinálja?Ha igen, összevonás vagy egyértelmű határvonal kell.
← Előző lecke Következő lecke →

Workshop

AI Transformation Day

Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.

Érdekel a program →