Miért veszélyes egy sima újraindítás
A hagyományos szoftverfrissítés modellje egyszerű, leállítjuk a régi verziót, elindítjuk az újat. Egy hosszan futó AI ügynök esetén ez katasztrofális lehet, mert a folyamatban lévő munka elveszhet, egy félbehagyott eszközhívás inkonzisztens állapotban maradhat, és a felhasználó egy hibaüzenettel szembesül ott, ahol korábban minden működött.
Anthropic csapata erre a problémára a rainbow deployment technikát alkalmazza. A lényege, hogy a régi és az új verzió egy ideig egyszerre, párhuzamosan fut, és a forgalom fokozatosan, apránként tolódik át az egyikről a másikra, ahelyett hogy egy pillanat alatt váltana a rendszer.
Sima újraindítás
- A régi verzió leáll, az új azonnal indul
- A folyamatban lévő munka elveszhet
- Félbehagyott eszközhívás inkonzisztens állapotot hagy
- A felhasználó hibaüzenetet kap
Rainbow deployment
- Régi és új verzió párhuzamosan fut
- A futó ügynökök zavartalanul befejezik a munkát
- A forgalom apránként tolódik át
- Hiba esetén visszatolható a régire
Ennyi futó munkamenet szakad meg egy jól kivitelezett rainbow deployment alatt, mert a régi verzió addig fut, amíg az utolsó rajta lévő ügynök is végez.
Mit nyerünk a fokozatos átállással
Amíg a forgalom fokozatosan mozog át, a csapat folyamatosan figyelheti, hogy az új verzió ugyanolyan jól, vagy jobban teljesít-e, mint a régi. Ha valami hibát mutat, a forgalom visszatolható a régi verzióra anélkül, hogy bármelyik felhasználó munkája megszakadt volna. Ez a megközelítés a kockázatot apró, kezelhető lépésekre bontja egyetlen nagy, visszafordíthatatlan váltás helyett.
- Kis adag forgalom áttereléseA felhasználók töredéke kerül az új verzióra.
- MegfigyelésUgyanolyan jól vagy jobban teljesít az új verzió, mint a régi.
- Visszatolás hibánálHa gond van, a forgalom visszamegy a régire, munkavesztés nélkül.
- Teljes átállásCsak akkor, amikor az új verzió minden szakaszban bizonyított.
Mit jelent ez a saját rendszerednél
Nem kell hatalmas infrastruktúra ahhoz, hogy ezt az elvet alkalmazd. Ha egy vállalati AI ügynök éles használatban van, már egy egyszerű verziójelzés és fokozatos kikapcsolás is óriási különbséget jelent ahhoz képest, mintha egyetlen pillanatban minden felhasználó az új verzióra váltana, teszt nélkül.
- VerziójelzésMinden futó munkamenet tudja magáról, melyik verzión indult.
- Párhuzamos futtatásA régi verzió addig él, amíg a rajta futó feladatok be nem fejeződnek.
- Fokozatos kikapcsolásA régi verzió csak üresen, futó munka nélkül áll le.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →