Három adatkategória
A vállalati AI szabályzatoknál a három színkategóriát javaslom, és ez a belső appokra is jól működik. Zöld az az adat, amiben nincs semmi érzékeny. Sárga a belső üzleti adat és a személyes adat, ami csak jóváhagyott eszközben, adatfeldolgozói szerződéssel kezelhető. Piros a különleges személyes adat, a szabályozott üzleti titok és minden, aminek jogi kockázata van, ezek csak külön, ellenőrzött környezetben mozoghatnak.
Egy belső app tervezésekor ezért azt is leírom, melyik színű adat megy át rajta. A legtöbb meglepetés innen jön. Egy beszerzési appban kiderül, hogy a szállítói szerződések teljes szövege is benne van, egy ügyfélszolgálati eszközben pedig az ügyfelek panaszlevelei egy ingyenes, külföldi szolgáltatásnál landolnak.
A magabiztosság csapdája
Perry és társai a Stanford egyetemen 47 résztvevővel vizsgálták, hogyan írnak biztonsági szempontból kényes kódot AI asszisztenssel és anélkül, az eredményt 2023-ban közölték. Az asszisztenst használók több sérülékenységet hagytak a kódban, és közben nagyobb eséllyel tartották biztonságosnak a saját megoldásukat, mint a kontrollcsoport. Akik több munkát tettek a kérésük megfogalmazásába, például segédfüggvényt adtak meg vagy módosították a beállításokat, gyakrabban jutottak biztonságos megoldásra.
Ez a kutatás programozókról szól, a tanulság egy belső appot építő kollégára még inkább igaz. A működő felület meggyőző, a hiányzó jogosultságellenőrzés, a nyilvános linken elérhető adat vagy a kódba írt jelszó viszont nem látszik rajta. Jól megírja a gép, amit kérünk, és csendben kihagyja, amire nem gondoltunk.
Hat dolog, ami nem kerül bele az építés közbeni beszélgetésbe. Ügyféladat névvel, emaillel vagy telefonszámmal, munkavállalói személyes adat, belső pénzügyi kimutatás és előrejelzés, szerződés és titoktartási megállapodás, éles kulcs vagy jelszó, valamint folyamatban lévő tárgyalás részletei. Az app maga dolgozhat ilyen adattal, ha jóváhagyott környezetben fut, a fejlesztéshez viszont tesztadat is elég.
Mikor kell az informatika
Az informatika bevonása nem engedélykérés, hanem munkamegosztás. Három esetben nem hagyom ki. Amikor az app a cég gerincét adó rendszerhez kapcsolódik, például a vállalatirányítási rendszerhez, a könyveléshez, a bérszámfejtéshez vagy az ügyfélnyilvántartáshoz. Ha sárga vagy piros kategóriájú adat megy át rajta. Végül akkor, ha egy folyamat megáll nélküle, vagyis üzletkritikussá vált.
A tiltás ezen nem segít. Ahol a cég megtiltja a saját eszközöket, ott ugyanazok az eszközök tovább élnek, csak nem látja őket senki, és a tiltásból vakfolt lesz. Az informatika dolga az, hogy a szabályos út legyen a kényelmesebb, céges tárhellyel, jóváhagyott modellel és egy egyszerű regisztrációval, amely egy délutánnál nem tart tovább.
Tiltás
- Az eszközök a látótéren kívül élnek tovább
- Senki nem tudja, milyen adat hol van
- A tudás magánfiókokban ragad
- Az első incidensnél derül ki minden
Szabályos út
- Céges tárhely és jóváhagyott modell
- Regisztráció egy délután alatt
- A kockázatos appoknál ott az informatika
- A cég látja, mire épül a munka
Források és további olvasnivaló
Perry, N., Srivastava, M., Kumar, D., Boneh, D., Do Users Write More Insecure Code with AI Assistants?, ACM CCS 2023. A három adatkategóriáról a shadow AI kezeléséről szóló cikkemben, a hat kerülendő adattípusról ebben az írásomban írtam. A témát részletesen az AI policy és belső szabályzat tananyag dolgozza fel.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, priorizált cselekvési lista.
Érdekel a program →