Az alapok nem hagyhatók ki

A tévhit, amit érdemes elengedni

A legelterjedtebb félreértés az AI körül nem az, hogy mire képes a technológia. Az a félreértés, hogy mit vált ki belőlünk. Sokan úgy hallják a sikertörténeteket, hogy egyetlen este alatt kész alkalmazások születnek, egyetlen jól megfogalmazott utasításból működő rendszer lesz, és ebből azt a következtetést vonják le, hogy a tudás, a tapasztalat és a mérnöki gondolkodás egyszerre feleslegessé vált. Ez a következtetés téves.

Az AI valóban gyorsít, méghozzá óriásit. Amihez korábban hetek kellettek, az ma sokszor napok, néha órák kérdése. De a gyorsítás nem ugyanaz, mint a pótlás. Attól, hogy a gép pillanatok alatt legenerál egy megoldást, még nem dönti el helyetted, hogy annak a megoldásnak van-e egyáltalán értelme. Hogy jó irányba indultál-e el. Hogy a gyorsan összerakott dolog megbízható-e, biztonságos-e, és tényleg azt csinálja-e, amit gondolsz róla. Ez a döntés emberi maradt, és pontosan ehhez kell az alap.

Érdemes tehát szétválasztani két dolgot, amit gyakran összemosnak. Az egyik, hogy valami elkészül, gyorsan és látványosan. A másik, hogy az az elkészült dolog valóban használható, kiszámítható és karbantartható. Az AI az elsőben verhetetlen. A másodikban viszont csak akkor segít, ha van valaki, aki érti, mit néz, és tudja, mit keressen. A tudás nem az elején spórolható meg, hanem az, ami az elkészült megoldást használhatóvá teszi.

Miért pont az alapokat hagyják ki

Van egy egyszerű oka annak, hogy pont az alap az, amit a leggyakrabban átugranak. Az alap nem látványos. Nem lesz belőle azonnal működő demó, nem lehet vele büszkélkedni egy megbeszélésen, és nem ad gyors sikerélményt. A pár nap alatt összerakott, jól kinéző megoldás sokkal csábítóbb, mint a türelmes megértés.

Ehhez jön a nyomás. Mindenki siet, mindenki látni akar eredményt, az AI pedig éppen azt ígéri, hogy a lassú részt ki lehet hagyni. A csábítás érthető. Csakhogy a kihagyott alap nem tűnik el, csak elhalasztódik. Ott marad a rendszerben, láthatatlanul, és a legrosszabbkor jelentkezik, akkor, amikor a megoldás már éles, és valódi ügyfelek, valódi pénz és valódi felelősség függ tőle. Amit az elején megspóroltunk, azt a végén sokszorosan fizetjük vissza.

Mi az az alap, ami nélkül nem megy

Amikor alapról beszélünk, nem arról van szó, hogy mindenkiből fejlesztőt kell faragni. Az alap sokkal egyszerűbb és sokkal fontosabb ennél. Azt jelenti, hogy érted, hogyan állnak össze a részek. Honnan jön az adat, mi történik vele, hogyan hoz döntést a modell, hova kerül az eredmény, és mi történik akkor, ha valami félresiklik.

Aki ezt a láncot átlátja, az fel tudja tenni a helyes kérdéseket. Meg tudja ítélni, hogy a gyorsan legenerált megoldás valóban azt teszi-e, amit várunk tőle, vagy csak a bemutatóban néz ki jól. Fel tudja ismerni, hol lehet baj, mielőtt éles helyzetben derül ki. Aki viszont nem érti a láncot, az kiszolgáltatott. Elfogadja, amit a gép ad, mert nincs mihez mérnie, és nincs eszköze eldönteni, hogy jó választ kapott-e vagy csak magabiztosat.

Egy fiktív cég, egy valódi csapda

Vegyünk egy fiktív példát, amely sok valódi helyzetre hasonlít. A Ligeti Otthon egy közepes méretű hazai webshop, lakberendezési termékeket árul. A vezetőség úgy dönt, hogy AI ügyfélszolgálati asszisztenst építtet, amely a beérkező kérdésekre válaszol a szállításról, a visszaküldésről és a termékekről.

Egy lelkes kolléga néhány nap alatt összerak egy működő prototípust. A bemutató lenyűgöző. A rendszer folyékonyan, udvariasan, gyorsan válaszol, és a vezetőség azonnal élesíteni akarja. Csakhogy amikor valaki megkérdezi, honnan veszi pontosan a válaszokat, milyen adatból dolgozik, és mi történik, ha olyat kérdeznek, amire nincs jó forrás, kiderül, hogy erre a cégnél senki nem tud válaszolni. A rendszer működik, de nem érti senki.

Egy darabig minden rendben. A gyakori kérdésekre a rendszer jól felel, a vevők elégedettek. Aztán egy vevő a garancia részleteiről kérdez, a rendszer pedig magabiztosan megfogalmaz egy szabályt, amely a cégnél nem is létezik. A vevő elmenti, emailben hivatkozik rá, és számonkéri. Ekkor derül ki, hogy senki nem tudja megmondani, miért éppen ezt válaszolta a rendszer, honnan vette, és hol lehetne kijavítani. A doboz, amit néhány nap alatt összeraktak, most a cég nevében ígért valamit, amiért a cégnek kell felelnie.

A tanulság nem az, hogy a Ligeti Otthon rossz döntést hozott, amikor AI asszisztenst akart. A tanulság az, hogy egyetlen kérdést nem tettek fel időben. Nem azt, hogy működik-e, mert a bemutatón láthatóan működött. Hanem azt, hogy értjük-e, miért működik, és mi lesz akkor, ha egyszer nem. Ez a kérdés olcsó lett volna az elején. A végén viszont egy elégedetlen vevőbe, egy jogi kockázatba és sok elvesztegetett bizalomba került.

A fekete doboz veszélye

Ez a fekete doboz problémája. A fekete doboz olyan rendszer, amelynek látjuk a bemenetét és a kimenetét, de nem értjük, mi történik a kettő között. Amíg jó válaszokat ad, kényelmes, sőt kifejezetten megnyugtató. Úgy tűnik, minden a helyén van.

A baj akkor kezdődik, amikor rossz választ ad, mert onnantól kezelhetetlen. Nem lehet célzottan javítani, mert nem tudjuk, mi okozta a hibát. Nem lehet biztonságosan bővíteni, mert nem tudjuk, mit rontunk el vele. Nem lehet elmagyarázni az ügyfélnek, miért történt, mert magunk sem tudjuk. A rendszer nem attól veszélyes, hogy néha téved, hiszen minden rendszer téved néha. Attól veszélyes, hogy amikor téved, senki nem érti, miért, és senki nem tudja rendbe tenni.

Kinek kell értenie, és miért nem mindenkinek

Fontos tisztázni, hogy nem mindenkinek kell fejlesztővé válnia. Egy cégben nem kell, hogy minden munkatárs értse a rendszer belsejét. De legalább egy embernek a csapatban muszáj. Valakinek, aki fel tudja tenni a nehéz kérdéseket, mielőtt egy folyamatot élesbe engednek. Aki tudja, hol vannak a buktatók, és aki nem bíz éles ügyfélfolyamatot olyan rendszerre, amit rajta kívül senki nem lát át.

Ez a szerep nem luxus, hanem biztosíték. Ez az, ami megvédi a céget attól, hogy egy nap arra ébredjen, hogy a napi működése egy olyan dobozon múlik, amihez senki nem mer és nem tud hozzányúlni. A legrosszabb helyzet, amibe egy cég kerülhet, nem az, ha nincs AI rendszere. Hanem az, ha van egy, amitől függ, de amit senki nem ért nála.

Ez a függőség csendben épül fel. Eleinte kényelmes, mert működik, és mert olcsóbbnak tűnik, mint megérteni. Aztán amikor az az egy ember, aki összerakta, kilép, vagy amikor a rendszer viselkedése egy frissítés után megváltozik, a cég egyedül marad egy dobozzal, amit sem javítani, sem lecserélni, sem az ügyfeleinek elmagyarázni nem tud.

Mit viszünk tovább

Az alapok nem azt jelentik, hogy hónapokig kell tanulni, mielőtt bármihez hozzáérsz. Azt jelentik, hogy amikor az AI legenerál egy megoldást, meg tudod nézni, mit csinál, és el tudod dönteni, megbízol-e benne. Az AI ebben az egészben a leggyorsabb segítőd, de nem a helyettesed abban a döntésben, hogy van-e értelme annak, amit építesz.

A következő leckékben pontosan ezeket az alapokat rakjuk le, egyesével. És mindjárt a leggyakrabban alábecsült résszel kezdjük, az adattal, mert a legtöbb AI termék nem a modellen bukik el, hanem azon, amivel tápláljuk.