Mit jelent a felelős AI
A felelős AI (angolul responsible AI) nem egyetlen technológia és nem egy megfelelőségi pipa, hanem egy gyakorlat. Arról szól, hogy a mesterséges intelligenciát a teljes életciklusa során, a tervezéstől a fejlesztésen és a bevezetésen át a folyamatos működtetésig úgy alakítjuk ki, hogy a rendszer megbízható legyen, tiszteletben tartsa az emberek jogait, és a lehető legkevesebb nem szándékolt kárt okozza. A NIST megfogalmazásában a cél az, hogy a megbízhatóság szempontjait beépítsük az AI rendszerek tervezésébe, fejlesztésébe, használatába és értékelésébe. A Google ezt a felelős fejlesztés és bevezetés elveként fogalmazza meg, a Microsoft pedig hat konkrét alapelvre bontja, amelyeket a következő leckékben részletesen is megnézünk.
Miért nem csak etikai kérdés
Sokan úgy gondolják, hogy a felelős AI puha, jó szándékú téma, amelynek nincs mérhető üzleti hozadéka. A gyakorlatban ennek épp az ellenkezője igaz. Egy torzított toborzási modell rossz jelöltet választhat és jogi kockázatot hoz. Egy átláthatatlan hitelbírálati rendszer nem magyarázható meg az ügyfélnek, és aláássa a bizalmat. Egy adatvédelmi szempontból gondatlan alkalmazás érzékeny adatokat szivárogtathat. Ezek nem elméleti veszélyek, hanem konkrét működési, jogi és reputációs kockázatok. A felelős AI ezért elsősorban kockázatkezelés, és ilyenként közvetlen üzleti értéke van. A NIST AI Risk Management Framework, amelyet a hatodik leckében részletesen tárgyalunk, épp erre a felismerésre épül.
Kormányzás nélküli AI
- A torzítás észrevétlenül épül a döntésekbe
- A döntés nem magyarázható meg
- Nincs felelős, ha hiba történik
- Az adatkezelés esetleges
Felelős AI
- A torzítást mérjük és kezeljük
- A döntés érthető és indokolható
- Egyértelmű az emberi felelősség
- Az adatvédelem beépített
A megbízhatóság több szempont egyensúlya
A felelős AI-t az teszi nehézzé, hogy nem egyetlen tulajdonságról szól. A NIST hét megbízhatósági jellemzőt sorol fel, a Microsoft hat alapelvet, a Google pedig három átfogó elvet. Ezek a szempontok gyakran feszülnek egymásnak. Egy magyarázhatóbb modell néha pontatlanabb, a szigorúbb adatvédelem néha kevesebb adatot enged a fejlesztéshez. A NIST ezt nyíltan ki is mondja, a megbízhatóság jellemzőit nem lehet egyenként kipipálni, hanem mérlegelni kell közöttük, mindig az adott alkalmazás kontextusában. Ez a kurzus ezért nem szabálylistát ad, hanem gondolkodási keretet.
Három keretrendszer, egy irány
Ez a tananyag három elismert forrásra épül, mert együtt teljesebb képet adnak, mint bármelyik önmagában. A Google Responsible AI a gyakorlati fejlesztői oldalt hangsúlyozza, a tesztelést, a monitorozást és a modellek dokumentálását. A Microsoft Responsible AI Standard hat alapelvre bontja a felelős működést, és ezekhez konkrét szervezeti gyakorlatokat rendel. A NIST AI Risk Management Framework egy önkéntes, technológiasemleges kockázatkezelési keret, amely négy funkció mentén rendezi a teendőket. A három forrás nem mond ellent egymásnak, ugyanabba az irányba mutat, csak más nézőpontból. A következő leckékben egyesével vesszük őket sorra.
Három hivatalos forrás. A Google Responsible AI, a Microsoft Responsible AI Standard és a NIST AI Risk Management Framework együtt adja a kurzus alapját. Mindegyiket eredeti forrásból dolgozzuk fel, kitalált adatok nélkül.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →