A felhalmozódó hiba jelensége
Egy ügynök egy komplex feladat közben tíz, húsz, néha száz eszközhívást végez egymás után. Minden egyes hívásnál van esély egy apró hibára, egy rosszul értelmezett válaszra, egy időtúllépésre. Külön-külön ezek a hibák jelentéktelennek tűnnek, de sok lépésen keresztül összeadódnak, és a végén egy teljesen hibás eredményhez vezethetnek.
Ha a rendszer nem tud különbséget tenni egy apró, javítható hiba és egy súlyos, a teljes feladatot érvénytelenítő hiba között, akkor minden hibánál nulláról kell újrakezdeni a munkát. Ez termelési környezetben elfogadhatatlanul drága és lassú.
Akár ennyi eszközhívást végez egy ügynök egyetlen komplex feladat közben, és mindegyik hívás egy újabb esély az apró hibára, ami a többivel összeadódik.
Retry logika és adaptáció
A jó termelési rendszer nem egyszerűen újrapróbálja ugyanazt a lépést hiba esetén, hanem adaptálódik. Ha egy eszközhívás hibát ad vissza, az ügynöknek fel kell tudnia ismerni a hiba típusát, és ennek megfelelően kell reagálnia, például más paraméterekkel próbálkozni, más eszközt választani, vagy jelezni, hogy emberi beavatkozás szükséges.
A checkpoint azt jelenti, hogy a rendszer időről időre elmenti az addig elvégzett munka állapotát. Ha egy hiba történik, a rendszer nem a feladat elejéről indul újra, hanem a legutóbbi biztos ponttól folytatja. Ez drámaian csökkenti a hiba miatt elveszett munka mennyiségét és a költséget is.
Vak újrapróbálkozás
Ugyanaz a lépés fut újra, ugyanazokkal a paraméterekkel. Ha a hiba oka nem múlik el magától, a rendszer körbe-körbe jár.
Adaptív reagálás
Az ügynök felismeri a hiba típusát, és aszerint vált. Más paraméter, más eszköz, vagy jelzés, hogy emberi beavatkozás kell.
- Hiba érkezikEgy eszközhívás hibát ad vissza vagy időtúllépésbe fut.
- Típus felismeréseApró, javítható hiba, vagy a teljes feladatot érvénytelenítő probléma.
- AdaptációMás paraméterek, más eszköz, vagy emberi beavatkozás jelzése.
- Folytatás a checkpointtólA munka a legutóbbi biztos ponttól megy tovább, nem nulláról.
Mit érdemes elmenteni checkpointként
Nem minden lépés érdemel checkpointot, mert a túl sűrű mentés felesleges terhet ró a rendszerre. Érdemes checkpointot tenni minden olyan pontra, ahol jelentős, nehezen reprodukálható munka történt, például egy hosszú keresés vagy elemzés után, mielőtt a rendszer a következő, kockázatosabb lépésre lép.
- Nehezen reprodukálható munka utánHosszú keresés vagy elemzés eredménye kerüljön biztos pontra.
- Kockázatos lépés előttMielőtt a rendszer olyanba kezd, ami nagy eséllyel hibázhat.
- Nem minden lépésnélA túl sűrű mentés felesleges terhet ró a rendszerre.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →