Miért nem díszítés az etika
Vial kutatási programja külön kiemeli, hogy a transzformáció negatív kimenetei, a torzítás, az átláthatatlan döntések és a felelősség elmosódása ugyanolyan valós következmények, mint a hatékonyságnyereség. Az AI rendszerek a tanítóadataik mintázatait tanulják meg, a hibáikkal együtt. Ha a múltbeli döntéseid torzítottak voltak, a gép ezt a torzítást fogja gyorsabban és nagyobb léptékben ismételni. Ezért minden olyan folyamatnál, ahol a döntés embereket érint, felvételinél, hitelbírálatnál, teljesítményértékelésnél, a kérdés nem az, hogy használható-e AI, hanem az, hogy hol marad az emberi döntés, és hogyan ellenőrizhető a gépi javaslat.
A szabályozási környezet
Az Európai Unió AI rendelete kockázati szintek szerint szabályozza a felhasználást, és a vállalatokra nézve konkrét kötelezettségeket tartalmaz, köztük azt, hogy az AI rendszereket használó munkatársaknak megfelelő AI jártassággal kell rendelkezniük. Ez a képzési kötelezettség a legtöbb magyar cégnél még nincs dokumentálva. A rendelet mellett a GDPR is él, tehát a személyes adatok nyelvi modellbe másolása nem kényelmi kérdés, hanem adatvédelmi incidens lehet. A megfelelés részleteiről külön kurzust írtam, itt a vezetői lényeg annyi, hogy a szabályozás nem tiltja az AI használatot, hanem kereteket ad neki, és a keretek betartása dokumentálást igényel.
Árnyék AI, ami ma zajlik
- A munkatársak titokban használják a saját fiókjukat
- Céges adat megy ismeretlen rendszerekbe
- Senki nem tudja, mi készül géppel
- A tudás a céges kereteken kívül gyűlik
Szabályozott használat
- Engedélyezett eszközök, világos keretek
- Az adat a cég kontrollja alatt marad
- A gépi munka jelölhető és ellenőrizhető
- A tudás a szervezetben marad és terjed
Az emberi kontroll megtervezése
A gyakorlati kockázatkezelés kulcsszava az emberi kontroll helyének tudatos megtervezése. Nem minden folyamatnál kell ugyanannyi. Egy belső jegyzet piszkozatánál elég az utólagos átolvasás. Egy ügyfélnek kimenő ajánlatnál jóváhagyás kell küldés előtt. Egy embereket érintő döntésnél a gép legfeljebb javaslatot tehet, a döntés emberé marad. Ha ezt a három szintet a folyamataidra egyszer végiggondolod és leírod, a kockázataid nagy részét kezelted, és a munkatársaid is pontosan tudják, mit szabad és mit nem.
Források és további olvasnivaló
Gregory Vial, Understanding digital transformation, 2019, az etikai kutatási irányokról. Az EU AI rendeletéről és a GDPR kapcsolatáról az EU AI Act és GDPR megfelelés kurzusban, a belső szabályzat felépítéséről az AI policy kurzusban, a biztonsági kockázatokról az AI biztonsági kockázatok kurzusban írtam részletesen.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, priorizált cselekvési lista.
Érdekel a program →