Miért halluccinál az AI?
Az AI-modellek szövegfolytatásra lettek betanítva. Minden egyes szónál a valószínűleg következő szót keresik, nem a valóságot ellenőrzik. Ez azt jelenti, hogy ha egy kérdésre nincs biztos válaszuk, akkor is tovább generálnak. Magabiztosan.
A jelenséget hallucinációnak nevezik. Nem hazugság, az AI nem tud hazudni abban az értelemben, ahogy egy ember szándékosan félrevezet. Inkább kitölti a hiányzó részt azzal, ami szövegként valószínűnek tűnik. A baj az, hogy ez néha teljesen meggyőzőnek hangzik.
Nem az a kérdés, hogy ez előfordul-e. Előfordul. A kérdés az, hogy hogyan csökkentjük a valószínűségét, és hogyan kapjuk el, ha mégis megtörténik.
Mikor a leggyakoribb?
Néhány helyzet, ahol az AI különösen hajlamos nem pontosan igaz dolgokat állítani:
- Pontos számok, statisztikák, százalékok, kutatási eredmények, piaci adatok
- Dátumok és időpontok, törvénymódosítások, határidők, hatálybalépések
- Személyek neve és beosztása, ki mit mondott, ki hol dolgozik
- Szűk szakterületek, speciális jogszabályok, helyi rendeletek, iparági szabványok
- Friss események, az AI tanítási adatai nem naprakészek
- Hivatkozások, forrásmegjelölések, könyvcím, szerző, kiadás éve
1. megoldás · Forrással igazoltatás
Ha az AI-tól tényeket, adatokat vagy állításokat kérsz, kérd meg, hogy minden egyes állítást indokoljon, honnan tudja, és mi alapján mondja. Ez nem teszi az AI-t csalhatatlanná, de lassítja a magabiztos tévedés-gyártást, és megmutatja, mikor nyúl találgatáshoz.
Ez a megközelítés különösen hasznos, ha az AI által adott adatokat egy dokumentumba, prezentációba vagy döntési anyagba tervezed beépíteni.
2. megoldás · Engedélyt adni a nem tudom-ra
Az AI alapbeállítás szerint segítőkész akar lenni. Ez azt jelenti, hogy kerüli a nem tudom választ, és inkább valami hasonlóan hangzót generál. Ha explicit engedélyt adsz arra, hogy beismerje a tudáshiányt, az AI sokkal inkább megteszi.
Meglepő, de ez az egyszerű engedély mennyire megváltoztatja a választ. Az AI-t úgy tervezték, hogy hasznos legyen, ha megmutatod, hogy a nem tudom számodra hasznos válasz, azt fogja adni.
3. megoldás · Friss csevegés ellenőrzés
Ha egy hosszú AI-csevegés során valami fontosat állított az AI, ne csak folytasd-dal menj tovább. Nyiss egy új csevegést, és kérd meg, hogy ellenőrizze azt az állítást. Az AI nem emlékszik az előző csevegésre, ha ott valami tévessel indult, az nem örökítődik át. Az új csevegés hideg szemmel értékel.
Ez a módszer különösen hatékony, mert a második AI-példánynak nincs befektetése az eredeti válaszba, nem fogja védeni azt, amit az előző csevegésben már leírt.