AI etika és felelős AI

Ez a lecke a Microsoft nyílt forráskódú "AI kezdőknek" (AI For Beginners) tananyagának magyar adaptációja. A tananyag végéhez érve remélhetőleg világossá vált, hogy az AI valójában formális matematikai módszerek gyűjteménye, amelyek segítségével összefüggéseket találunk az adatokban, és olyan modelleket tanítunk, amelyek az emberi viselkedés bizonyos aspektusait képesek reprodukálni. Ma az AI-t egy rendkívül erős eszköznek tekintjük, amely mintázatokat képes kinyerni az adatokból, és ezeket a mintázatokat új problémák megoldására alkalmazni.

A tudományos fantasztikumban gyakran találkozunk olyan történetekkel, ahol az AI veszélyt jelent az emberiségre, jellemzően valamilyen gépi lázadás formájában, amikor a rendszer szembefordul az emberrel. Ez azt sugallja, mintha az AI-nak érzelmei lennének, vagy a fejlesztők számára előre nem látható döntéseket tudna hozni. A valóságban azonban az a fajta AI, amelyet ebben a tananyagban megismertünk, nem más, mint nagy méretű mátrixműveletek sorozata. Rendkívül hasznos eszköz a problémák megoldásában, de mint minden erős eszköz, jóra és rosszra egyaránt felhasználható, és ami talán még fontosabb, félre is lehet vele élni.

A felelős AI alapelvei

Az AI véletlen vagy szándékos visszaélésének elkerülésére a Microsoft megfogalmazta a felelős AI alapelveit, amelyek a következő fő szempontokra épülnek.

• Méltányosság. Ez a modellek torzításának kérdésével függ össze, amelyet gyakran a tanításhoz használt, eleve torzított adat okoz. Ha például egy modell azt próbálja megbecsülni, mekkora eséllyel kap valaki fejlesztői állást, hajlamos lehet a férfiakat előnyben részesíteni, egyszerűen azért, mert a tanítóadat is túlnyomórészt férfiakat tartalmazott. A torzítás elkerülése érdekében gondosan kell egyensúlyozni a tanítóadatot, és meg kell vizsgálni, hogy a modell valóban a releváns jellemzőket veszi-e figyelembe.
• Megbízhatóság és biztonság. Az AI modellek jellegükből fakadóan hibázhatnak. Egy neurális háló valószínűségeket ad vissza, ezt figyelembe kell venni a döntéshozatalnál. Minden modellnek van pontossága és fedési aránya, és ezt ismerni kell ahhoz, hogy elkerüljük a hibás javaslat okozta kárt.
• Adatvédelem és biztonság. Amikor egy modellt adaton tanítunk, az adat bizonyos értelemben beépül a modellbe. Ez egyszerre növeli és bonyolítja az adatvédelmi kérdéseket, hiszen mindig tudnunk kell, milyen adaton tanítottuk a modellt.
• Inkluzivitás. Az AI célja nem az emberek helyettesítése, hanem a munkájuk kiegészítése és kreatívabbá tétele. Ez szorosan összefügg a méltányossággal is, mert az alulreprezentált csoportokra vonatkozó adat gyakran torzított, ezért különös figyelmet kell fordítani arra, hogy ezek a csoportok is helyesen szerepeljenek a rendszerben.
• Átláthatóság. Ide tartozik annak egyértelmű jelzése, hogy AI-t használunk, valamint az a törekvés, hogy ahol lehet, értelmezhető AI rendszereket alkalmazzunk.
• Elszámoltathatóság. Amikor egy AI modell döntést hoz, nem mindig egyértelmű, ki viseli a felelősséget ezért a döntésért. Fontos rendszer szinten tisztázni, hova kerül a felelősség, és a legtöbb esetben érdemes embert is bevonni a fontos döntések meghozatalába, hogy a felelősség valós személynél maradjon.

Eszközök a felelős AI megvalósításához

A Microsoft ezekre az elvekre építve dolgozta ki a Responsible AI Toolbox eszközkészletét, amely több különböző eszközt foglal magába. Ide tartozik az értelmezhetőségi irányítópult (InterpretML), a méltányossági irányítópult (FairLearn), a hibaelemző irányítópult, valamint egy átfogó felelős AI irányítópult, amely további két elemet is magába foglal. Az egyik az EconML, amely ok-okozati elemzésre és mi lenne, ha típusú kérdésekre ad választ, a másik a DiCE, amely kontrafaktuális elemzést végez, vagyis megmutatja, mely jellemzők megváltoztatása befolyásolná a modell döntését.

Miért nem csak technikai kérdés ez

A felelős AI messze túlmutat a technikai megoldásokon, hiszen a legtöbb szervezetnél végső soron irányítási, jogi és szervezeti kérdésekké válik. Az Európai Unióban ma már konkrét jogszabályi keret is foglalkozik ezzel, az AI Act az AI rendszerek kockázati szintje szerint szab meg kötelezettségeket, a GDPR pedig már korábban is meghatározta, hogyan bánhatunk személyes adattal a modellek tanítása és üzemeltetése során. Egy vállalatnál ezért az AI etika nem csupán a fejlesztők, hanem a vezetés felelőssége is, hiszen a méltányosság, az átláthatóság és az elszámoltathatóság kérdéseit már a bevezetés tervezésekor érdemes végiggondolni, nem utólag, egy probléma felmerülése után.

A gyakorlatban ez azt jelenti, hogy egy AI rendszer bevezetése előtt érdemes végiggondolni, milyen adaton fog tanulni a modell, kire lesz hatással a döntése, és ki fogja viselni a felelősséget, ha a rendszer tévesen dönt. Azoknál a szervezeteknél, ahol az AI Act és a GDPR egyaránt érinti a működést, ez a fajta előzetes átgondolás nem csupán etikai, hanem megfelelőségi kérdés is, és sokkal olcsóbb korán, a tervezés fázisában kezelni, mint egy már működő rendszer utólagos átalakításával.