A mérési rendszer megmutatja, mi működik. Amit nem mutat meg, az a lassan épülő kár, vagyis a kopó emberi képesség, a formálissá vált ellenőrzés és a megfelelési teher, amely a tervezett hasznot felülírhatja.
Képességkopás
Képességkopás és elszámoltathatóság
A gépi végzés átvételével az emberi gyakorlat csökken, a kivételes eset pedig éppen azt a képességet igényli, amely közben elsorvadt. Ennek kezelése nem a gépi segítség visszafogása, hanem a kritikus képességek tudatos fenntartása, vagyis rendszeres gyakorlás, kézi feldolgozásra kijelölt esetek és a belépő munkatársak képzésének újratervezése. A junior szerepek tartalma érdemben megváltozik, mert a korábbi gyakorlóterep, vagyis az egyszerű, ismétlődő munka nagy része megszűnik, és a felkészítést máshol kell biztosítani.
Az elszámoltathatóság kérdése jogi és szervezeti egyszerre. Minden kifelé ható kimenet mögött nevesített emberi felelősnek kell állnia, és ez a szabály a folyamatleírás része, nem utólagos elvárás.
Elbizakodottság
Automatizálási elbizakodottság
A jól működő rendszer mellett a figyelem csökken, az ellenőrzés formálissá válik, a jóváhagyás pedig kattintássá egyszerűsödik. Látszólagos kontroll a legrosszabb állapot, mert a felelősség formálisan megvan, a valódi ellenőrzés viszont nincs. Három ellenszer működik. Az ellenőrzésnek legyen valódi tartalma, vagyis írott kritériuma és mért eredménye. A mintavétel legyen véletlenszerű, ne az ellenőrző választása szerinti. Jelenjen meg a felületen a bizonytalanság, vagyis a rendszer jelezze, ha hiányos alapon dolgozott.
Függés
Modell és szállító függés
A technológiai alap gyorsan változik, a szolgáltatási feltételek, az árazás és a képességek is. Ennek a függésnek a csökkentésére három eszköz áll rendelkezésre, az elvonatkoztató réteg, vagyis a folyamat ne közvetlenül egy szolgáltatóra épüljön, a vizsgálati készlet, amely a váltás hatását mérhetővé teszi, valamint az érzékeny adatok kezelésének előzetes eldöntése. Az adatkihelyezés kérdése szerződéses és nem technikai döntés, ezért a megfelelési és jogi átvizsgálás a bevezetés előfeltétele.
Szabályozás
Szabályozási keret
Az Európai Unió mesterséges intelligenciáról szóló rendelete kockázati szintek szerint állapít meg kötelezettségeket, és bizonyos felhasználásokat tilt. A kiemelt kockázatú kategóriába tartozik többek között a foglalkoztatással, a munkavállalók értékelésével, a hitelképesség megállapításával és egyes közszolgáltatásokhoz való hozzáféréssel összefüggő felhasználás, ezekhez dokumentációs, átláthatósági, adatkormányzási, emberi felügyeleti és nyilvántartási követelmények tartoznak. Szakaszosan léptek és lépnek hatályba a kötelezettségek, ezért minden bevezetésnél az aktuális állapot ellenőrzése szükséges.
A gyakorlati következtetés a kockázati osztályozás előrehozása. Egy folyamat automatizálása előtt el kell dönteni, melyik kategóriába tartozik a felhasználás, mert ez határozza meg a dokumentációs és felügyeleti terhet, és előfordul, hogy a megfelelés költsége a tervezett hasznot felülírja. A személyes adatok kezelésére vonatkozó szabályok ezzel párhuzamosan érvényesek, a célhoz kötöttség, az adattakarékosság és az érintetti jogok biztosítása a folyamat tervezett eleme, nem utólagos kiegészítés. Az ágazati szabályok, például a pénzügyi, egészségügyi és közbeszerzési követelmények további korlátokat adnak.
Hurkok
Visszacsatolási hurkok
Három öngerjesztő hatás érdemel figyelmet. A saját kimenetre épülő tanulás a változatosság csökkenéséhez és a minőség romlásához vezet, ezért a kontextuscsomagba emberi ellenőrzésen átment anyag kerüljön. Az automatizált döntések önmegerősítővé válhatnak, ha a döntés eredménye befolyásolja a következő döntés bemenetét, és ez a mintázat a rangsorolásnál és az árazásnál gyakori. A gépi kimenet pedig visszahat az emberi megítélésre, mert a megfogalmazott javaslat elhorgonyozza az ítéletet, ezért a nagy súlyú döntéseknél érdemes az emberi álláspontot a gépi javaslat megtekintése előtt rögzíteni.
Emberi oldal
Szervezeti és emberi költségek
A munka átalakulása szerepek megszűnésével és keletkezésével jár, és ez a folyamat valódi emberi költséget jelent. Ezt a döntést a módszertan nem veszi át, viszont két állítást megalapozottan tesz. A felszabaduló kapacitás átcsoportosítása eredményesebb, mint a létszám azonnali csökkentése, mert a verifikáció, a kontextusgondozás és az adatminőség új, bővülő kapacitásigényt jelent. Hitelessé pedig az teszi a bevezetést, hogy a szervezet kimondja-e előre a szándékát, mert a kimondatlan hatás ellenállást és a tudás eltitkolását szüli, ami a bevezetést eredményesen hátráltatja.
Kockázati jegyzék a folyamat mellé
A felsorolt kockázatok akkor kezelhetők, ha a folyamatleíráshoz tartozik egy jegyzék, amely megnevezi a kockázatot, a jelét, a kezelés módját és a felelősét. Az alábbi szerkezet az eddig tárgyalt hat kockázatra kitöltve indul, és a folyam sajátosságaival bővül.
| Kockázat | Mi a megfigyelhető jele | Kezelés | Felelős |
|---|---|---|---|
| Képességkopás | a kivételes eset megoldása lassul, a tapasztalat nem épül | kézi feldolgozásra kijelölt esetek, gyakorlás, a belépők képzésének újratervezése | terület vezetője |
| Látszólagos kontroll | a jóváhagyás átlagos ideje néhány másodperc | véletlenszerű mintavétel, írott kritérium, mért eredmény | verifikátor |
| Néma minőségromlás | a visszautasítási arány lassan emelkedik | vizsgálati készlet rendszeres futtatása, romlásjelzés | folyamattulajdonos |
| Szállítófüggés | a folyamat egyetlen szolgáltató felületére épül | elvonatkoztató réteg, a váltás mérése a készleten | műszaki felelős |
| Megfelelési kitettség | a felhasználás kockázati kategóriája nincs megállapítva | előzetes osztályozás, dokumentáció, naplózás | megfelelési felelős |
| Bizalomvesztés a csapaton belül | a munkatársak kerülik a rendszert vagy párhuzamosan dolgoznak | a szándék előzetes kimondása, a mérőszámok átrendezése | ügyvezetés |
A jegyzék értéke a rendszeres átolvasásban van, nem a kitöltésében. Egy negyedéves áttekintés, amely minden sornál megkérdezi, látszik-e a jel, elég ahhoz, hogy a lassan épülő kár időben felszínre kerüljön.
Tovább
Megfelelési anyagok
A szabályozási oldal gyakorlati kezeléséhez külön anyagok tartoznak. A kötelezettségek cégre szabott végigvezetését adja az AI Compliance csomag, a belső szabályozás felépítését a vállalati AI policy útmutató, a határidők alakulását pedig az AI Act csúszásáról szóló elemzés.
Hivatkozások
Hivatkozott források
Az anyag állításai az alábbi szakirodalomra épülnek.
- Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775-779.
- Parasuraman, R., Riley, V. (1997). Humans and Automation. Use, Misuse, Disuse, Abuse. Human Factors, 39(2), 230-253.
- Autor, D. H. (2015). Why Are There Still So Many Jobs? The History and Future of Workplace Automation. Journal of Economic Perspectives, 29(3), 3-30.
- Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., Gal, Y. (2024). AI Models Collapse When Trained on Recursively Generated Data. Nature, 631, 755-759.
- Brynjolfsson, E. (2022). The Turing Trap. The Promise and Peril of Human-Like Artificial Intelligence. Daedalus, 151(2), 272-287.
- Az Európai Parlament és a Tanács (EU) 2024/1689 rendelete a mesterséges intelligenciáról.
- Az Európai Parlament és a Tanács (EU) 2016/679 rendelete a személyes adatok védelméről.