Miért új ez a probléma
Hamis hírek és megtévesztő képek régóta léteznek, a probléma nem mostani. Ami megváltozott, az a méret, a minőség és a költség. Korábban egy meggyőző hamisítványhoz idő, szakértelem és pénz kellett. Ma egy jó szöveg, egy hihető kép vagy egy élethű hangfelvétel pillanatok alatt, olcsón előállítható, és tetszőleges mennyiségben sokszorosítható. A generatív AI nem feltalálta a megtévesztést, hanem levette róla az akadályokat. Ez a különbség önmagában is elég ahhoz, hogy a régi problémát új léptékű kihívássá tegye. Nem az a kérdés többé, hogy meg lehet-e téveszteni valakit egy hamis tartalommal, hanem az, hogy mennyi ilyen tartalom kerülhet forgalomba, és milyen könnyen.
Mi a deepfake
A deepfake olyan mesterségesen létrehozott kép, hang vagy videó, amely egy létező embert ábrázol úgy, mintha az mondott vagy tett volna valamit, amit valójában soha nem tett. A név a technológia egyik korai megnevezéséből ered, de a lényeg egyszerű. A rendszer megtanulja valakinek az arcát vagy a hangját, majd ezt új helyzetre alkalmazza. Az eredmény lehet ártalmatlan, akár szórakoztató is, de lehet komoly visszaélés eszköze. Egy hamis videó, amelyben egy vezető olyat mond, amit sosem mondott, komoly kárt okozhat, mire kiderül az igazság. A veszély nem csak a konkrét hamisítványban van, hanem abban, hogy a hitelesnek tűnő emberi arc és hang eddig erős bizonyíték volt, mostantól viszont kétségbe vonható.
Miért nehéz kiszűrni
Kézenfekvő volna azt gondolni, hogy amit egy gép előállított, azt egy másik gép majd megbízhatóan felismeri. A valóság ennél bonyolultabb. A felismerő eszközök mindig egy lépéssel a legújabb hamisítási módszerek mögött járnak, mert csak arra taníthatók, amit már ismerünk. A vízjelek és a tartalomeredetet igazoló megoldások sokat segítenek, de nem terjednek el mindenütt, és megkerülhetők. Ráadásul a terjedés sebessége az igazi gond. Mire egy tartalomról kiderül, hogy hamis, addigra sokan látták és továbbadták, és a cáfolat sosem éri utol ugyanazokat az embereket. A szűrés tehát fontos, de önmagában soha nem lesz elég. A védekezés nagyobb része nem a felismerő eszközön, hanem az emberi óvatosságon és a források hitelességén múlik.
A hamisítás második, rejtett kára. Az első kár a konkrét hazugság. A második, hogy ha bármi lehet hamis, akkor a valódi felvétel is letagadhatóvá válik. Amikor minden kétségbe vonható, a rossz szándékú szereplő az igazat is hamisnak nevezheti, és sokan el is hiszik neki.
Mi véd meg valójában
A megoldás nem egyetlen csodaeszköz, hanem néhány józan szokás és intézményi feltétel együttese. Az egyéni szinten a leghasznosabb a lassítás. Ha egy tartalom erős érzelmet vált ki és azonnali reakcióra ösztönöz, épp az a pillanat, amikor érdemes megállni és a forrás után nézni. Egy állítás akkor erős, ha több, egymástól független és megbízható helyről visszaigazolható. A társadalmi szinten a bizalom nem tűnhet el, csak áthelyeződik. Nem az egyes felvételben bízunk többé vakon, hanem azokban a forrásokban és intézményekben, amelyek hitelességét idővel kiérdemelték. Ezért lesz egyre értékesebb a jó szerkesztőség, a nyomon követhető eredet és az átlátható forrásmegjelölés.
- Állj meg egy pillanatraHa a tartalom azonnali, heves reakcióra ösztönöz, épp ez a gyanú jele.
- Keresd meg az eredetetKi tette közzé először, és megbízható forrás áll-e mögötte.
- Kérj független megerősítéstEgy állítás akkor erős, ha több, egymástól független helyről visszaigazolható.
- Vedd figyelembe a szándékotKinek áll érdekében, hogy ezt éppen most és így elhidd.
Mit jelent ez egy szervezetnek
Egy cég vagy intézmény számára a félretájékoztatás kétféleképpen is kockázat. Egyrészt célponttá válhat, ha valaki a nevében ad ki hamis tartalmat, vagy egy vezető hangját utánozza egy csalásban. Másrészt maga is akaratlanul terjeszthet ellenőrizetlen információt. Mindkettő ellen ugyanaz a hozzáállás segít. Legyen világos, hogyan hitelesíti a szervezet a saját közléseit, hogy a partnerek tudják, mi számít valódinak. Legyen belső szokás, hogy fontos üzenetet nem csak egy csatornán, egy hang alapján fogadunk el, hanem visszaigazolással. És kapjanak a munkatársak felkészítést arról, hogyan ismerhető fel egy megtévesztési kísérlet. Ez nem technológiai kérdés elsősorban, hanem a gondosság és a bizalom tudatos kezelése.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →