Adatvédelem és biztonság, két külön szempont
Az adatvédelem és a biztonság szorosan összefügg, de nem ugyanaz, és a felelős AI keretei külön is kezelik őket. A Microsoft egyetlen alapelvbe fogja össze őket, amely szerint az AI rendszereknek biztonságosnak kell lenniük és tiszteletben kell tartaniuk a magánszférát. A NIST viszont két külön megbízhatósági jellemzőt is megnevez, a magánszférát erősítő (privacy-enhanced), valamint a biztonságos és ellenálló (secure and resilient) jellemzőt. Az adatvédelem arról szól, hogy milyen személyes adatot, milyen célra, mennyi ideig kezelünk. A biztonság arról, hogy a rendszer és az adat védve van-e a jogosulatlan hozzáféréstől és a támadásoktól. Egy rendszer lehet biztonságos úgy is, hogy közben túl sok adatot gyűjt, és fordítva, ezért mindkettőt külön is végig kell gondolni.
Adatvédelem, a szükséges minimum elve
Az adatvédelem gyakorlati magja az, hogy csak annyi személyes adatot kezelünk, amennyi feltétlenül szükséges, és csak arra a célra, amelyre gyűjtöttük. A Google gyakorlata a magánszféra és a biztonság előmozdítását, valamint a szellemi tulajdon tiszteletben tartását emeli ki a felelős fejlesztés részeként. A NIST a magánszférát erősítő jellemzőnél olyan technikákat is megnevez, mint az anonimizálás és a személyazonosításra alkalmas jellemzők eltávolítása, amelyek segítenek úgy tanítani és működtetni egy modellt, hogy közben kevesebb kockázatnak tesszük ki az egyéneket. A lényeg, hogy az adatvédelmet ne utólag próbáljuk ráhúzni egy kész rendszerre, hanem már a tervezéskor beépítsük, mert így sokkal olcsóbb és megbízhatóbb.
AI-specifikus fenyegetések
Az AI rendszereknek a hagyományos informatikai kockázatokon túl vannak sajátos gyenge pontjaik is. A NIST a biztonságos és ellenálló jellemzőnél kifejezetten olyan támadásokra hívja fel a figyelmet, amelyek az AI működéséhez kötődnek. Ilyen az adatmérgezés, amikor a támadó a tanító adatot manipulálja, hogy a modell rossz irányba tanuljon. Ilyen a modell, a tanító adat vagy más szellemi tulajdon kiszivárogtatása a rendszer végpontjain keresztül. És ilyenek azok a manipulált bemenetek, amelyek célzottan megtévesztik a modellt. Ezek nem elméleti veszélyek, hanem valós támadási felületek, amelyeket egy felelős szervezetnek ismernie és kezelnie kell.
Gyakorlati védelem a szervezetben
A védelem nem egyetlen eszköz, hanem egymásra épülő intézkedések sora. Az első lépés a hozzáférés szabályozása, hogy csak az férjen a rendszerhez és az adathoz, akinek tényleg szüksége van rá. A második az adat minimalizálása és álnevesítése ott, ahol lehet. A harmadik a rendszer célzott, támadói szemléletű tesztelése, amit a Google is a felelős fejlesztés részeként hangsúlyoz. A negyedik a folyamatos monitorozás, hogy a szokatlan viselkedés időben kiderüljön, és legyen terv a helyreállításra. Ezek együtt teszik a rendszert nemcsak biztonságossá, hanem ellenállóvá is, tehát képessé arra, hogy egy hiba vagy támadás után is működőképes maradjon.
- Hozzáférés szabályozásaCsak az férjen a rendszerhez és az adathoz, akinek a feladatához valóban szükséges.
- Adatminimalizálás és álnevesítésCsak a szükséges adatot kezeljük, és ahol lehet, eltávolítjuk az azonosítókat.
- Támadói szemléletű tesztelésCélzottan próbáljuk kikezdeni a rendszert, mielőtt egy valódi támadó tenné.
- Monitorozás és helyreállításFigyeljük a szokatlan viselkedést, és legyen kész terv a hiba utáni visszaállásra.
Két külön feladat. Az adatvédelem a személyes adatot védi, a biztonság a rendszert. A felelős AI mindkettőt már a tervezéskor beépíti, nem utólag toldja hozzá.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →