Miért nem elég a meglévő tanúsítás
Amikor egy cégnél szóba kerül az AI biztonság, az első válasz gyakran az, hogy van ISO 27001 tanúsításunk vagy SOC 2 jelentésünk, a pénzügyi szektorban PCI, az egészségügyben HIPAA. Ezek komoly munkával megszerzett keretek, és a hagyományos informatikai kockázatot jól fedik.
Az AI specifikus kockázatot viszont nem. Egyik sem kérdezi meg, honnan jött a tanítóadat, ki hagyta jóvá az ügynök jogosultságait, vagy mi történik, ha a szolgáltató lecseréli a modellt a hátunk mögött. A meglévő tanúsítás szükséges alap, de önmagában nem jelenti az AI kockázatok kezelését. A beszállítók gyakran az ellenkezőjét sugallják, ezért ezt a különbséget a tárgyalóasztalnál is tartani kell.
A különbség a kérdésekben van. A 27001 auditor azt kérdezi, ki fér hozzá az adatbázishoz. Az AI szempontú felülvizsgálat azt, mi történik, ha az ügynök egy weboldalon olvasott utasítás alapján fér hozzá ugyanahhoz az adatbázishoz. Az első kérdésre a legtöbb cégnek van válasza, a másodikra csak akkor, ha már foglalkozott az AI specifikus keretekkel.
ISO 42001, az AI irányítási rendszer
Az ISO 42001 az AI irányítási rendszer szabványa. Ahogy a 27001 az információbiztonsági irányítási rendszert írja le, úgy a 42001 azt, hogyan vezeti be, tartja fenn és frissíti folyamatosan egy szervezet az AI használatát. Nem technikai előírás, hanem szervezeti. Szerepeket, folyamatokat és felülvizsgálati ciklusokat rögzít.
A szabvány a meglévő rendszerekre épül rá, nem helyettük van. Aki már működtet 27001-et, annak a kockázatkezelési módszertana, a dokumentációs rendje és az auditfolyamata újrahasználható, és a 42001 ezekhez adja hozzá az AI specifikus kérdéseket. Ebből a bevezetés sorrendje is következik. Előbb a klasszikus alap, utána az AI réteg.
Ügyfél vagy partner felé a 42001 tanúsítvány azt bizonyítja, hogy az AI használatnak van gazdája, folyamata és felülvizsgálati rendje. Egyre több nagyvállalati beszerzés kérdez rá, ezért aki beszállítóként dolgozik ilyen cégeknek, annak érdemes legalább a szabvány logikáját követnie akkor is, ha a tanúsítást későbbre tolja.
SAIF és AIUC-1, a gyakorlati keretek
A Google Secure AI Framework, röviden SAIF, gyakorlati keret az AI rendszerek védelmére. A kiindulópontja az, hogy a meglévő biztonsági kontrollokat kell kiterjeszteni az AI rendszerekre, nem újakat kitalálni a nulláról. Hozzáférés kezelés, észlelés, válaszadás, mind marad, csak a modell, a tanítóadat és a promptok is bekerülnek a védett vagyonelemek közé.
Az AIUC-1 kifejezetten az ügynökökre fókuszál, a biztonságukra, a megbízhatóságukra és a biztonságos működésükre. Ami megkülönbözteti a többitől, az a biztosítási háttér. A keret mögött biztosítók állnak, akik a megfelelést kockázati árazásra váltják. Vezetőként ez azért érdekes, mert a megfelelésnek így kézzelfogható pénzügyi következménye lesz, nem csak egy tanúsítvány a falon.
A két keret jól kiegészíti egymást. A SAIF a meglévő biztonsági csapatnak ad nyelvet arra, hogyan terjessze ki a munkáját az AI rendszerekre. Az AIUC-1 pedig a vezetőnek és a pénzügynek ad mércét arra, mennyit ér a megfelelés, mert a biztosítási díj és a fedezet egyből mutatja, hol tart a cég.
BIML, a kockázatok katalógusa
A Berryville Institute of Machine Learning, röviden BIML, kutatóintézetként katalogizálja a gépi tanulás kockázatait. 2019-ben 78 kockázatot gyűjtött össze a hagyományos gépi tanulásra, 2024-ben pedig további 81-et kifejezetten a nagy nyelvi modellekre.
A nyolcvanegy új kockázat nagyjából negyede egyetlen okra vezethető vissza. A modell fekete doboz. Nincs rálátásunk a tanítóadatra és a tanítás módjára, ezért nem tudjuk, mit tanult meg, mit hagyott ki, és milyen torzítást hozott magával. Ez a saját oldalunkon nem javítható, mert az információ a gyártónál van. A többi háromnegyed is tanulságos, mert jó részük a felhasználás módjából ered, abból, hogy a modell kimenetét ellenőrzés nélkül engedjük tovább a folyamatba. Ezekre a saját oldalunkon van ráhatásunk, a fekete doboz negyedére nincs.
Ebből következik a beszállítói követelés. Aki modellt vagy AI szolgáltatást vásárol, három dolgot kér a szállítótól. Modellkártyát, ami leírja a modell célját, korlátait és tesztelt teljesítményét. Tanítóadat leírást, legalább a források típusáról és időszakáról. És verziókövetést, hogy kiderüljön, mikor változott a modell a hátunk mögött. Ezek nélkül a kockázatértékelés találgatás. A szállító reakciója ezekre a kérésekre önmagában is beszédes. Aki rutinszerűen adja, azzal lehet dolgozni. Ha viszont kitér, a kockázatot a vevőre tolja.
A gyakorlati minimum egy cégnél
A keretrendszerek több száz oldalas dokumentumok, és nem minden cégnek kell azonnal tanúsítvány. Van viszont egy minimum, ami minden AI-t használó szervezetnél megáll a méretétől függetlenül, és bármelyik keret felé jó kiindulópont. A minimumot nem tanúsítás kedvéért érdemes bevezetni, hanem azért, mert ezek nélkül a vezető nem tudja megválaszolni azt az egyszerű kérdést sem, hogy hány AI rendszer fut a cégben, és melyik mit érhet el.
Öt elemből áll. AI leltár, angol rövidítéssel AI-BOM, vagyis AI anyagjegyzék arról, mely modellek, mely szolgáltatók, mely folyamatokban, milyen adattal dolgoznak. Ügynökönkénti jogosultsági lista arról, mit érhet el és mit nem. Emberi jóváhagyási pontok a visszafordíthatatlan lépéseknél. Naplózás, hogy utólag rekonstruálható legyen, mi történt. És a modellváltás kezelése felülvizsgálati kiváltó eseményként, mert ha a szolgáltató új modellverziót ad, az nem frissítés, hanem új kockázatértékelés.
Ez az öt elem egy közepes cégnél néhány hét munka, és a későbbi 42001 vagy SAIF bevezetés nagy részét előre elvégzi. Aki ezzel kezd, annak az auditor már kész dokumentumokat talál, nem üres lapot. A keretrendszerek közötti választást pedig nem érdemes a bevezetés elé tenni, mert az öt elem mindegyikben szerepel, csak más néven és más fejezetben.
A tanúsítvány nem véd, a leltár igen Az ISO 27001 vagy a SOC 2 nem fedi az AI kockázatokat, a 42001, a SAIF és az AIUC-1 ezekre épül rá. Mielőtt bármelyik keret felé elindul egy cég, az öt elemű minimum álljon. AI leltár, ügynökönkénti jogosultsági lista, emberi jóváhagyási pontok, naplózás, és a modellváltás mint felülvizsgálati kiváltó esemény. A beszállítótól pedig modellkártyát, tanítóadat leírást és verziókövetést kell kérni, mert a fekete dobozt csak a gyártó tudja kinyitni.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →