Mit jelent a méltányosság
A méltányosság (angolul fairness) a felelős AI egyik legfontosabb és egyben legnehezebb szempontja. A Microsoft megfogalmazásában az AI rendszereknek minden embert méltányosan kell kezelniük. A gyakorlatban ez azt jelenti, hogy figyelnünk kell arra, ahogyan egy rendszer lehetőségeket, erőforrásokat és információt oszt el a különböző emberek és csoportok között. Egy toborzási, hitelbírálati vagy kockázatértékelési modell akkor méltányos, ha a döntéseit nem befolyásolja indokolatlanul olyan tulajdonság, mint a nem, az életkor vagy az etnikai hovatartozás. A méltányosság nem jelenti azt, hogy mindenkivel pontosan ugyanúgy kell bánni, hanem azt, hogy a különbségtételnek védhető, releváns oka legyen.
A torzítás több mint hibás adat
A leggyakoribb tévhit, hogy a torzítás pusztán adatprobléma, és jobb adattal megszűnik. A NIST kutatása kifejezetten arra hívja fel a figyelmet, hogy a torzításnak több, egymással is összekapcsolódó forrása van. A NIST három nagy kategóriát különböztet meg. A rendszerszintű torzítás abból ered, hogy intézmények úgy működnek, hogy bizonyos társadalmi csoportokat hátrányba hoznak. A számítási és statisztikai torzítás akkor jelentkezik, ha a tanító adat alulreprezentál egy csoportot, például egy nemet vagy egy etnikai csoportot. Az emberi torzítás a gondolkodásunk mintázataiból fakad, abból, ahogyan a fejlesztők és a felhasználók döntéseket hoznak. A NIST hangsúlyozza, hogy a torzítás kezelése ezért nem oldható meg tisztán technikai eszközökkel, figyelembe kell venni a tágabb társadalmi kontextust is.
Hogyan kezeljük a torzítást
A torzítás nem tüntethető el egyetlen lépéssel, folyamatosan kezelni kell. A Google gyakorlati ajánlása szerint gondos tervezéssel, teszteléssel, monitorozással és beépített védőmechanizmusokkal csökkenthetjük a nem szándékolt vagy káros kimeneteket és az igazságtalan torzítást. Az első és legfontosabb lépés annak tisztázása, hogy kik a rendszer által érintett csoportok, és milyen kimenet számít méltánytalannak. Ezután a modell teljesítményét nem csak összesítve, hanem csoportokra lebontva is meg kell mérni, mert egy modell átlagosan jól teljesíthet úgy is, hogy egy csoportra rendszeresen rosszabb döntést hoz. Ha eltérést találunk, javíthatunk az adaton, a jellemzőkön vagy a döntési küszöbön, majd élesben is figyeljük, hogy a torzítás nem tér-e vissza.
- Érintett csoportok azonosításaTisztázzuk, kikre hat a rendszer, és mi számít méltánytalan kimenetnek.
- Csoportokra bontott mérésA teljesítményt nem csak átlagosan, hanem csoportonként is megmérjük.
- Eltérés kezeléseAz adaton, a jellemzőkön vagy a döntési küszöbön javítunk, ha aránytalanságot találunk.
- Folyamatos monitorozásÉlesben is figyeljük, hogy a torzítás idővel ne térjen vissza.
A méltányosságnak nincs egyetlen képlete
Fontos reális elvárást kialakítani. A NIST a méltányosságot a káros torzítás kezelésével együtt említi, és nyíltan jelzi, hogy a méltányosság összetett, kulturálisan és kontextusfüggően értelmezhető fogalom. Több, matematikailag is megfogalmazható méltányossági mérőszám létezik, és ezek nem mindig teljesíthetők egyszerre. Ezért nem az a cél, hogy egy tökéletes, mindenki számára megnyugtató képletet találjunk, hanem az, hogy tudatosan válasszunk, dokumentáljuk a döntést, és vállaljuk érte a felelősséget. A méltányosság így nem egy technikai kapcsoló, hanem egy folyamatos mérlegelés, amelyet az érdemi emberi felügyelet tesz kezelhetővé.
Három forrásból ered a torzítás. A NIST szerint a torzítás rendszerszintű, számítási és statisztikai, valamint emberi eredetű is lehet. Ezért nem elég jobb adat, a tágabb kontextust is kezelni kell.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →