Az elszámoltathatóság emberi kérdés
Az elszámoltathatóság (angolul accountability) azt jelenti, hogy mindig van egy azonosítható ember vagy szerep, aki felel egy AI rendszer működéséért és következményeiért. A Microsoft ezt így fogalmazza meg, az embereknek elszámoltathatónak kell lenniük az AI rendszerekért. A hangsúly azon van, hogy a felelősség nem hárítható át a gépre. Ha egy modell rossz döntést hoz, nem a modell a felelős, hanem az a szervezet és azok az emberek, akik megtervezték, jóváhagyták és üzembe állították. A NIST ezért az elszámoltathatóságot az átláthatósággal együtt, minden más jellemzőt átható, kereszttengelyként kezeli, mert enélkül a többi szempont sem kérhető számon.
Mit jelent az érdemi emberi felügyelet
Az emberi felügyelet (angolul human oversight) nem merül ki abban, hogy formálisan van egy ember a folyamatban. A Google gyakorlata megfelelő emberi felügyeletről, kellő gondosságról és visszacsatolási mechanizmusokról beszél a teljes életciklus során. Az érdemi felügyelet azt jelenti, hogy az embernek valódi lehetősége van megérteni a rendszer javaslatát, felülbírálni azt, és beavatkozni, ha kell. Ha egy ember csak gépiesen rábólint a rendszer minden javaslatára, mert nincs ideje vagy eszköze ellenőrizni, az látszatfelügyelet. A cél a tényleges emberi kontroll, amelyhez elég információ, elég idő és tényleges beavatkozási jog is társul.
Látszatfelügyelet
- Az ember gépiesen rábólint mindenre
- Nincs idő és eszköz az ellenőrzésre
- A felülbírálás formailag sem lehetséges
- Hiba esetén senki sem tud beavatkozni
Érdemi felügyelet
- Az ember érti a rendszer javaslatát
- Van elég információ és idő a döntéshez
- A javaslat felülbírálható
- A beavatkozás bármikor lehetséges
A felügyelet mértéke a téthez igazodik
Nem minden döntés igényel azonos mértékű emberi felügyeletet, és nem is lenne életszerű mindent kézzel ellenőrizni. A felelős megközelítés a felügyelet intenzitását a döntés tétjéhez igazítja. Egy alacsony tétű, könnyen visszavonható döntésnél, például egy belső címkejavaslatnál, elég a szúrópróbaszerű ellenőrzés és az utólagos monitorozás. Egy közepes tétű döntésnél, ahol az embert érinti a kimenet, indokolt, hogy ember hagyja jóvá a végeredményt. Egy nagy tétű, embereket közvetlenül és nehezen visszafordíthatóan érintő döntésnél az érdemi emberi mérlegelés nem opció, hanem alapkövetelmény. Ez a kockázatalapú logika köti össze ezt a leckét a következővel, ahol a NIST kockázatkezelési keretét vesszük sorra.
A visszacsatolás zárja a kört
Az elszámoltathatóság és az emberi felügyelet csak akkor él, ha van visszacsatolás. Kell egy csatorna, amelyen az érintettek jelezhetik, ha egy döntést hibásnak vagy méltánytalannak látnak, és kell egy folyamat, amely ezeket a jelzéseket ténylegesen feldolgozza és javításba fordítja. A Google is a visszacsatolási mechanizmusokat említi a felelős működés részeként. Enélkül a felügyelet egyszeri esemény marad, pedig a lényege épp az, hogy a rendszer idővel jobbá váljon, és a hibák ne ismétlődjenek. Így az emberi felelősség nem teher, hanem az a mechanizmus, amely a rendszert hosszú távon megbízhatóvá teszi.
Egy dolog nem delegálható a gépre. A felelősség. Egy AI rendszer mögött mindig azonosítható emberi felelősnek kell állnia, és az emberi felügyeletnek érdeminek, nem formálisnak kell lennie.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →