Mi a NIST AI RMF
A NIST AI Risk Management Framework, rövidítve AI RMF, az Egyesült Államok szabványügyi hivatalának önkéntes kerete az AI rendszerek kockázatainak kezelésére. Nem jogszabály és nem kötelező szabvány, hanem egy technológiasemleges gondolkodási keret, amelyet bármely szervezet a saját kontextusához igazíthat. A célja, hogy a megbízhatóság szempontjait beépítse az AI rendszerek tervezésébe, fejlesztésébe, használatába és értékelésébe. A keret magja, amelyet Core-nak nevez, négy, egymással összefüggő funkcióból áll. Ezek a Govern, a Map, a Measure és a Manage. A négy funkció nem egy merev, egyszer lefutó sorrend, hanem iteratív, egymásba visszacsatoló folyamat.
Govern, a kockázatkezelési kultúra
A Govern funkció a kockázatkezelés kultúráját alakítja ki és ülteti át a gyakorlatba azoknál a szervezeteknél, amelyek AI rendszereket terveznek, fejlesztenek, bevezetnek, értékelnek vagy beszereznek. Ez adja a kereteket, a szerepeket, a felelősségeket és a belső szabályokat, amelyekre a többi funkció épül. A NIST ezért nem egyszerű első lépésként kezeli, hanem kereszttengelyként, amely a teljes folyamatot átszövi. Ha nincs világos irányítás, felelős szerepek és belső szabályozás, akkor hiába térképezünk fel és mérünk kockázatokat, nem lesz, aki dönt róluk és számon kéri őket. A Govern tehát nem papírmunka, hanem az az alap, amely a többi funkciót működőképessé teszi.
- GovernA kockázatkezelési kultúra, a szerepek, a felelősségek és a belső szabályok kialakítása. Minden más funkciót áthat.
- MapA kontextus megértése, az AI rendszerhez kötődő kockázatok azonosítása és keretbe foglalása a rendeltetés és a hatások alapján.
- MeasureMennyiségi, minőségi vagy vegyes módszerekkel a kockázatok és a hatások elemzése, értékelése és folyamatos nyomon követése.
- ManageAz erőforrások hozzárendelése a feltérképezett és megmért kockázatokhoz, reagálás, monitorozás és folyamatos javítás.
Map, Measure, Manage
A Map funkció teremti meg a kontextust. Itt azonosítjuk és foglaljuk keretbe azokat a kockázatokat, amelyek az adott AI rendszerhez kötődnek, figyelembe véve a rendeltetést, a képességeket, a lehetséges hatásokat és a rendszer összetevőit. A Map ad tehát választ arra, hogy egyáltalán mivel állunk szemben. A Measure funkció ezután mennyiségi, minőségi vagy vegyes módszerekkel elemzi, értékeli, viszonyítja és nyomon követi az AI-kockázatot és a hozzá kapcsolódó hatásokat. Ez adja a tényeket, a méréseket, amelyekre a döntéseket alapozzuk. Végül a Manage funkció rendeli hozzá az erőforrásokat a feltérképezett és megmért kockázatokhoz, a Govern által meghatározott módon, rendszeres időközönként. A Manage tehát a tényleges cselekvés, a reagálás, a monitorozás és a folyamatos javítás helye.
Négy funkció, egy folyamat. A Govern kereteket ad, a Map felismeri a kockázatot, a Measure megméri, a Manage pedig kezeli. A négy funkció iteratívan működik együtt, nem egyszeri lépésekként.
Miért hasznos ez a szervezetnek
A négy funkció ereje abban áll, hogy egy közös nyelvet és sorrendet ad a felelős AI-hoz. Az előző leckékben tárgyalt szempontok, a méltányosság, az átláthatóság, az adatvédelem és az emberi felügyelet, mind beköthetők ebbe a keretbe. A méltányosságot például a Map során ismerjük fel mint kockázatot, a Measure során mérjük csoportokra bontva, a Manage során kezeljük, a Govern pedig biztosítja, hogy legyen felelős és szabály hozzá. A NIST kerete ezért nem helyettesíti a korábbi szempontokat, hanem rendszerbe foglalja őket. A záró leckében ezt a rendszert fordítjuk le konkrét, a szervezetben végigvihető folyamattá.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →