A kérés, ami minden projektben előjön
Amikor a biztonsági csapat azt kéri, hogy semmi ne maradjon meg
Egy körülbelül 1200 fős biztosítónál dolgoztam a nyáron, ahol a jogi és a biztonsági terület közösen fogalmazta meg a feltételt. Semmilyen körülmények között nem fogadják el, hogy a kollégák által beírt szöveg a szolgáltató oldalán akár egyetlen napig is ott maradjon. A felügyeleti elvárások, az ügyféladatok jellege és a belső auditkultúra együtt vezetett ide, és nem is vitáztam volna vele. Szabályozott szektorokban a nulla adatmegőrzés ma gyakorlatilag beszállítói alapkövetelmény.
Ami viszont ilyenkor elmarad, az a kérés másik fele. Ugyanez a biztonsági szervezet a szerződés egy másik pontjában azt is elvárta, hogy a szolgáltató szűrje ki a kártékony használatot. Jelezze, ha valaki a modellt támadó kód összeállítására próbálja rávenni, ha egy kompromittált fiókkal szokatlan mintázat indul, ha egy ügynök a beállított körén kívülre próbál kinyúlni. Ez a két elvárás ugyanabban a dokumentumban állt egymás mellett, és mechanikusan kizárják egymást.
Azt tapasztaltam, hogy ez az ütközés nagyon ritkán kerül felszínre a tárgyalóasztalon. A jogi oldal az adatvédelmi mellékletet olvassa, a biztonsági oldal a felderítési képességet pipálja ki egy másik listán, és senki nem teszi egymás mellé a kettőt. Közben a szállító mindkettőre igent mond, mert mindkettőt tudja külön-külön. Csak nem egyszerre, ugyanazon a forgalmon.
A rejtett költség
Amit a nulla adatmegőrzéssel együtt kikapcsolsz
A nulla adatmegőrzés azt jelenti, hogy a beküldött szöveg és a válasz a feldolgozás után azonnal eltűnik. Nincs napló, nincs visszakereshető munkamenet, nincs mihez hasonlítani a következő kérést. Ez adatvédelmi szempontból kiváló. Felderítési szempontból viszont ugyanaz, mint egy kamerarendszer, amely felvesz, majd a következő másodpercben felülír.
Egy egyszeri, egyértelműen rosszindulatú kérést egy modell a kérés pillanatában is fel tud ismerni, ahhoz nem kell emlékezet. A valódi problémát nem így csomagolják. Egy tapasztaltabb támadó szétszedi a szándékát húsz ártalmatlannak tűnő lépésre, ezeket szétosztja három fiók és két hét között, és minden egyes lépés külön-külön teljesen legitim munkának látszik. A mintázat csak akkor áll össze, ha valami emlékszik az előzőkre.
Erre a felismerésre a nagy modellszolgáltatók is eljutottak. Az Anthropic a legújabb generációnál épp azért vezetett be egy harminc napos megőrzési ablakot, mert a legkifinomultabb visszaélés sok apró feladatra oszlik, több munkameneten és több fiókon keresztül. A szabályozott ügyfélkör viszont ezt nem fogadta el, és itt szorult be a piac két, egyformán jogos elvárás közé.
Amikor ezt egy bank kockázatkezelőjével átbeszéltem, néhány perc alatt megértette a tétet. Ha nulla megőrzést kér, akkor a szolgáltatótól gyakorlatilag azt kapja, hogy a nyilvánvaló eseteket szűri, a lassan épülő, szofisztikált visszaélést pedig nem látja senki. A cég szemszögéből ez nem elméleti kockázat. Egy belső elkövető, aki hónapok alatt szivárogtat ki fejlesztési dokumentációt egy AI felületen keresztül, épp ebben a vakfoltban dolgozik.
Van egy második réteg is, amely az ügynökök megjelenésével vált élessé. Amikor egy ember ír be egy kérést, a napló egy sorral bővül. Egy ügynök viszont nyolcvan lépésen keresztül dolgozik önállóan, adatot kér le, fájlt ír, levelet fogalmaz, majd meghív egy külső rendszert, és ugyanabból az egy feladatból nyolcvan esemény keletkezik. Ilyenkor a hiba vagy a visszaélés általában nem az első lépésnél látszik, hanem a huszonhetediknél. Egy gyártó cég automatizálási projektjén épp ezért álltunk meg egy hétre. Az ügynök hibátlanul működött, de amikor megkérdeztem, honnan tudnánk meg, ha egy köztes lépésben rossz rendszert szólít meg, kiderült, hogy a naplózás a nulla megőrzés miatt csak a végeredményt őrizte. A köztes nyolcvan lépés nyomtalanul eltűnt.
Az új felállás
A harmadik út, ahol a napló nálad áll, a felderítés a szállítónál
Szeptember elején jelent meg egy megoldás, amely ezt az ellentmondást nem kompromisszummal, hanem a tárolás áthelyezésével oldja fel. A logika nagyon egyszerű, és szerintem gyorsan iparági alapmintává fog válni. Ebben a felállásban a forgalomról készülő napló nem a modellszolgáltató rendszerében áll, hanem a te saját felhős tárolódban, a te titkosítási kulcsaid alatt. A szolgáltató automatizált felderítő rendszere ezen a mozgó időablakon fut, emberi betekintés nélkül, és ha talál valamit, a jelzés a te biztonsági csapatodhoz megy be.
Ez három dolgot választ el egymástól, amit korábban egy csomagban kellett megvenni. Az adat helye a tiéd. A felderítő logika a szállítóé, hiszen neki van képe arról, hogyan nézhet ki egy új típusú támadási minta. Maga a vizsgálat és a döntés a te oldalodon marad, mert a naplóhoz csak te férsz hozzá. A szolgáltató tehát elemez, de nem tárol, és nem is olvas bele kézzel.
A megoldás a három nagy felhőplatform tárolószolgáltatásaira épül, és több mint száz nagyvállalattal közösen alakították ki, pénzügyi szolgáltatóktól az egészségügyön és a gyártáson át a távközlésig, a jogi szektorig és a közszféráig. Magáért a képességért a szállító nem kér díjat. A tárolás és a rajta végzett műveletek költsége a felhőszámládon jelenik meg, ami a legtöbb cégnél elenyésző, de a tervezésnél attól még sorba kell állítani.
Amit a cégen belül ez kerül
Ha nálad áll a napló, neked kell kezelni is
Itt jön az a rész, amit a bevezetéseken a legtöbbször alábecsülnek. Abban a pillanatban, hogy a napló a saját tárolódba kerül, és a jelzések a saját csapatodhoz futnak be, a felelősség átcsúszik hozzád. Ebből a projektből tanultam, hogy a technikai bekapcsolás egy nap munka, a működtetés viszont szervezeti kérdés, és több hét előkészítést kér.
Ki nézi meg a jelzést. Ha nincs megnevezett csapat és nincs ügyeleti rend, akkor egy olyan naplót vettél, amelyet senki nem nyit ki. Azt tapasztaltam, hogy ahol nincs kijelölt felelős, ott a jelzések három hét alatt szűrt mappába kerülnek, és onnantól semmit nem érnek.
Mi történik a jelzés után. A jelzés még nem incidens. Kell egy előre leírt menet arról, hogyan nyitja meg valaki a naplórészletet, kit kell bevonni HR oldalról, ha belső kollégáról van szó, és milyen küszöbnél lép be a jogi terület. Egy holding kontrolling csapatánál azt láttam, hogy az első két jelzés kezelése azért akadt el három napra, mert senki nem tudta, kinek van joga beleolvasni a naplóba.
Meddig áll a napló. A saját tárolóban lévő naplóra ugyanúgy vonatkozik a GDPR, mint bármely más adatkezelésre, hiszen munkavállalói tevékenységet és sokszor személyes adatot is tartalmaz. Kell rá jogalap, megőrzési idő és automatikus törlés. Ezt a legcélszerűbb a tárolón beállított életciklus szabállyal megoldani, nem kézi takarítással.
Mit tud a munkavállaló. Ha a kollégák munkamenetei naplózva vannak, azt el kell nekik mondani, világosan és előre. Ennek a mondatnak be kell kerülnie a belső AI szabályzatba és a munkavállalói tájékoztatóba. Ahol ez utólag derül ki, ott az adoption hónapokra visszaesik, és ezt sokkal drágább visszaszerezni, mint előre kimondani.
A tárgyalóasztalnál
Hat kérdés, amit a szállítónak fel kell tenni
Ezt a hat kérdést szoktam bevinni minden olyan beszerzésbe, ahol AI platformról tárgyalunk. Mindegyikre kétoldalas marketinganyag helyett egy konkrét, technikai választ kérek, mert a különbség a válaszok élességében látszik meg.
Hol áll fizikailag a napló. A te tárolódban, a szállítónál, vagy egy harmadik fél rendszerében. Az elhelyezkedés minden további kérdést meghatároz.
Kinek van kulcsa. A titkosítási kulcsot te kezeled, vagy a szolgáltató. Enélkül a saját tároló szó szerinti értelemben nem sokat jelent.
Lát bele ember. Az automatizált elemzés mellett van emberi felülvizsgálat a szállító oldalán, és ha igen, milyen esetben, milyen jogosítvánnyal.
Milyen hosszú az időablak. Mennyi forgalmat vizsgál egyszerre a felderítés, mert ez határozza meg, milyen lassan épülő mintázatot lehet egyáltalán észrevenni.
Hova megy a jelzés. A te biztonsági csapatodhoz, a szállító incidenskezelőjéhez, vagy mindkettőhöz. Ebből derül ki, kinek kell reagálnia és milyen határidővel.
Mi történik ügynök esetén. Amikor nem ember ír, hanem egy ügynök dolgozik önállóan sok lépésen keresztül, a naplózás ugyanígy működik, vagy más szabály él rá. Ez ma a leggyakoribb rés, amit a szerződések nem fednek le.
Hol kezdd
Szintezés adattípus szerint, nem cégszinten
A leggyakoribb hiba, amit ebben a témában látok, a cégszintű döntés. Valaki egyetlen szabályt hoz az egész szervezetre, vagy a teljes nulla megőrzést, vagy a teljes naplózást, aztán a döntés az egyik irányban megfojtja a hasznot, a másik irányban vállalhatatlan kockázatot hagy. A használható felosztás a feladat érzékenységéhez kötődik, nem a cég egészéhez.
Egy 400 fős logisztikai cégnél három szintre bontottuk a használatot, és ez a felosztás azóta változatlanul működik. A napi, nem érzékeny munkánál, ahol nyilvános információ és belső munkaszervezés a bemenet, egyszerű vállalati naplózás fut, felderítéssel. Az ügyféladatot vagy szerződéses anyagot érintő feladatoknál a napló a cég saját tárolójába kerül, saját kulccsal és rövid megőrzési idővel. A harmadik körbe a felügyeleti hatáskörű és a különleges személyes adatot érintő munka esett, ott pedig nem a naplózáson változtattunk, hanem eleve leszűkítettük, mi mehet be a rendszerbe.
Ez a felosztás azért működik, mert minden szintnél ugyanazt a két kérdést kell megválaszolni. Milyen kár keletkezik, ha ez az adat kiszivárog, és milyen kár keletkezik, ha egy visszaélést hat hónapig senki nem vesz észre. A két szám nagyságrendje dönt, nem a szabályzat szövege.
Amikor ezt a szintezést egy vezetői körben először végigvittem, a hasznos hozadék nem is a döntés volt, hanem az, hogy a biztonsági és az üzleti oldal először beszélt ugyanarról a kockázatról ugyanazon a nyelven. A vezérigazgató a végén azt mondta, most először értette meg, miért nem lehet egy aláírással letudni ezt a témát.
Ami a döntésből következik
A láthatóság nem adatvédelmi engedmény
A szeptemberi bejelentés azért számít a magyar közép- és nagyvállalatoknak is, mert kivesz egy szembeállítást a beszerzési tárgyalásokból. Eddig a biztonsági és az adatvédelmi elvárás egymás rovására teljesült, és a döntés mindig a szervezetben erősebb terület felé dőlt el. Ha a napló a cég saját tárolójába kerül, a két elvárás egyszerre teljesíthető, cserébe viszont a működtetés terhe hazakerül.
Ez a teher reális, és megnevezhető. Egy felelős csapat, egy leírt eljárás, egy megőrzési szabály és egy mondat a munkavállalói tájékoztatóban. Aki ezt a négyet a szerződés aláírása előtt leteszi az asztalra, annak a bevezetés nem az első jelzésnél fog megállni. Utólag hozzákezdve viszont a saját naplóból derül ki hónapokkal később, mi történt.