Felelős AI folyamat a szervezetben

Az elvekből folyamat lesz

Az eddigi leckékben megismertük a felelős AI szempontjait, a méltányosságot, az átláthatóságot, az adatvédelmet, az elszámoltathatóságot, valamint a Google, a Microsoft és a NIST keretrendszereit. Egy szervezetben ezek akkor érnek valamit, ha nem külön elvekként lebegnek, hanem egyetlen, ismételhető folyamattá állnak össze. A legjobb váz erre a NIST négy funkciója, mert az összes korábbi szempont beköthető a Govern, a Map, a Measure és a Manage logikájába. A folyamat nem attól lesz felelős, hogy sok szabályt gyártunk, hanem attól, hogy minden AI felhasználásra ugyanazokat a kérdéseket tesszük fel, és a válaszokat dokumentáljuk.

A folyamat lépésről lépésre

A gyakorlati folyamat egy irányítási alappal kezdődik. Ki felel a szervezetben az AI felhasználásokért, milyen belső szabály vonatkozik rájuk, és hova kerülnek nyilvántartásba. Ez a Govern. Ezután minden tervezett AI felhasználást feltérképezünk, tisztázzuk a rendeltetését, az érintettjeit és a lehetséges kárait. Ez a Map. A harmadik lépésben a rendszert megmérjük, teszteljük a méltányosságot csoportokra bontva, a biztonságot és az adatvédelmet, és rögzítjük az eredményt. Ez a Measure. Végül eldöntjük az emberi felügyelet mértékét, élesítjük a rendszert, dokumentáljuk, monitorozzuk, és nyitva tartunk egy visszacsatolási csatornát. Ez a Manage. A négy lépés nem egyszer fut le, hanem újraindul minden lényeges változásnál.

A folyamat dokumentumai

A felelős AI folyamat akkor válik ellenőrizhetővé, ha nyomot hagy. Nem bürokráciáról van szó, hanem néhány jól használható anyagról. Egy AI nyilvántartás összefogja, milyen AI felhasználások futnak a szervezetben, és ki felel értük. A modellkártya minden rendszernél leírja a rendeltetést, a tanító adatot, a teljesítményt és a korlátokat, ahogyan azt a harmadik leckében láttuk. A kockázatértékelés rögzíti a feltérképezett kockázatokat és a mérési eredményeket. A felügyeleti terv pedig kimondja, milyen mértékű emberi kontroll társul az adott döntéshez. Ez a néhány dokumentum együtt teszi lehetővé, hogy a felelős AI ne szándék maradjon, hanem számonkérhető gyakorlat legyen.

A felelős AI nem egyszeri feladat

A legfontosabb tanulság, hogy a felelős AI nem egy projekt, amit egyszer le lehet zárni. A NIST is iteratív folyamatként írja le a négy funkciót, a Google pedig a teljes életciklusra kiterjedő, a bevezetés utáni monitorozást és javítást is magában foglaló megközelítésről beszél. Egy modell viselkedése idővel változhat, az adat elavul, a kontextus átalakul, új kockázatok jelennek meg. Ezért a folyamatnak élnie kell, rendszeresen vissza kell térnie a korábbi lépésekhez, és tanulnia kell a visszacsatolásból. A felelős AI így nem fékezi a szervezetet, hanem épp az a keret, amelyben az AI hosszú távon, biztonságosan és bizalmat építve tud értéket teremteni. Ezzel a tananyag végére értünk, a megszerzett tudást a záróteszten ellenőrizheted.

Forrás

A Google Responsible AI gyakorlatai és alapelvei (ai.google/responsibility), a Microsoft Responsible AI Standard és a hozzá tartozó hat alapelv, valamint a NIST AI Risk Management Framework (AI RMF 1.0) hivatalos anyagai alapján, magyar feldolgozásban. A tananyag oktatási célú, a konkrét, aktuális megfogalmazást mindig az eredeti forrásnál ellenőrizd.