Vállalati AI biztonsági kockázatok, mit ne tegyünk a ChatGPT-be?

A probléma gyökere

Miért veszélyes a naiv AI használat a vállalatoknál?

Amikor egy munkatárs megnyitja a ChatGPT-t és beilleszti egy ügyfél adatait egy e-mail megírásához, nem érzi úgy, hogy kockázatos dolgot csinál. Az egyik pénzügyi ügyfelemnél pontosan ezt tapasztaltam. A csapat hónapokon át tette be az ügyféladatokat a fogyasztói verzióba, mert az élmény pontosan olyan volt, mint egy szövegszerkesztőé. A különbség mégis alapvető. A beírt szöveg egy külső szerverre kerül, egy OpenAI által üzemeltetett infrastruktúrára, amelynek adatkezelési feltételei az esetek döntő többségében nem illeszkednek a vállalati adatvédelmi szabályokhoz.

A 2023-as Samsung-eset ezt tette szemléletessé. A cég mérnökei belső forráskódot és meetingfeljegyzéseket illesztettek ChatGPT-promptokba, mielőtt a vállalat bármilyen belső szabályt alkotott volna a témában. Az incidens nem okozott azonnali katasztrófát, de az érintett adatok az OpenAI rendszerébe kerültek, és a Samsung ezt követően teljes vállalati tiltást vezetett be az ingyenes fogyasztói AI eszközökre. Magyar cégeknél is láttam ehhez hasonló helyzeteket, csak azokat ritkábban hozzák nyilvánosságra.

A magyarországi és európai vállalatoknál ez a kérdés különösen éles, mert a GDPR itt nem opció, hanem kötelezettség. Ha személyes adatot visznek be egy nem megfelelő jogi alapon működő rendszerbe, az adatvédelmi incidens kategóriája is felmerülhet, ami hatósági eljárást és bírságot vonhat maga után.

Konkrét kockázati kategóriák

Mit ne tegyünk soha AI eszközbe?

A legtöbb vállalati AI policy összezavarodik, mert mindent tilt vagy semmit. Az én tapasztalatom szerint az adatokat kategóriánként kell átgondolni, nem egységesen kezelni. Néhány terület azonban szinte minden helyzetben tiltott kell legyen.

Személyes adatok és különleges kategóriák

Bármilyen természetes személyre vonatkozó azonosítható adat, például ügyféllista nevekkel és e-mail-címekkel, munkavállalói értékelés névvel, egészségügyi vagy pénzügyi adat személyre lebontva, GDPR hatálya alá esik. Amikor ezt egy fogyasztói AI eszközbe viszik be, az adatkezelés jogalapja és célja azonnal megkérdőjelezhető. Az Európai Adatvédelmi Testület több iránymutatása is hangsúlyozza, hogy az adatfeldolgozó, itt az AI szolgáltató, bevonásához adatfeldolgozói szerződés és megfelelő garanciák szükségesek. Ezt az összefüggést az ügyfeleim egy része csak az első workshopon érti meg igazán.

Üzleti titok és belső stratégia

Felvásárlási tárgyalás részletei, árazási stratégia, termékfejlesztési ütemterv, versenytárselemzés belső forrásból. Ezek mind olyan információk, amelyek nyilvánosságra kerülve komoly üzleti hátrányt okoznak. A fogyasztói ChatGPT ingyenes verziója 2023 végéig alapértelmezetten felhasználta a promptokat a modell betanításához. Azóta ezt ki lehet kapcsolni, de az én tapasztalatom szerint a beállítás ismerete és az enterprise licenc megléte sok szervezetnél egyáltalán nem garantált. Több cégnél láttam, hogy a munkatársak tizenharmadik hónapban is az ingyenes verzióval dolgoztak, miközben a cég azt hitte, hogy rendezett az AI használat.

Forráskód és technológiai dokumentáció

A Samsung-esethez hasonló szituációt magam is láttam egy technológiai projektnél. A fejlesztők belső kódot és infrastruktúra-konfigurációkat illesztettek a promptba, mert ez volt a leggyorsabb út a hibajavításhoz. Ezek szellemi tulajdonjogi kérdéseket vetnek fel, és ha a kódban véletlenül éles API-kulcs vagy jelszó szerepel, az közvetlenül biztonsági incidenst jelent. Ez az a kategória, ahol a kár percek alatt keletkezhet.

GDPR és jogi keretek

Mit mond a jog, és mi a vállalat felelőssége?

A GDPR szempontjából az AI eszköz bevonása adatfeldolgozónak minősül, ami kötelező adatfeldolgozói szerződést (Data Processing Agreement, DPA) tesz szükségessé. Az OpenAI kínál ilyet az enterprise csomagjaihoz, de az ingyenes vagy pro fogyasztói előfizetések esetén ez hiányzik. Az uniós vállalatok számára ez nem adminisztratív formaság. DPA nélkül az adatfeldolgozás jogellenesnek minősülhet, és a felügyeleti hatóság, Magyarországon a NAIH, hatásköre kiterjed az ilyen esetekre. Amikor ezt először elmagyaráztam egy közepes méretű gyártócég jogi igazgatójának, meglepetten nézett rám. Addig azt hitte, a felelősség az OpenAI-nál van.

2024-ben az olasz adatvédelmi hatóság, a Garante átmenetileg le is tiltotta a ChatGPT elérhetőségét Olaszországban, pontosan az adatkezelési átláthatóság és a jogalap hiánya miatt. Bár a tilalmat feloldották, miután az OpenAI változtatásokat tett, az ügy egyértelműen jelzi, hogy az európai hatóságok nem formálisan kezelik ezt a területet.

A vállalat felelőssége kettős. Adatkezelőként felelős azért, hogy munkatársai milyen rendszerekbe juttatnak személyes adatot. Ha egy munkatárs egy ügyfél adatát jogosulatlanul küldi ki, az adatvédelmi incidenst jelent, amelyet 72 órán belül be kell jelenteni a NAIH-nak, ha az érintett jogaira kockázatot jelent. Az „én nem tudtam róla„ védekezés nem csökkenti a szankciót. Ezt a 72 órás határidőt az ügyfeleim többsége alábecsüli, amíg szembe nem kerül vele.

Vállalati AI policy

Hogyan néz ki egy működő vállalati AI szabályzat?

Az AI policy nem egyenlő az AI tiltással. A legjobb szervezetek, amelyekkel dolgoztam, nem azt döntötték el, hogy „szabad-e az AI„, hanem azt, hogy milyen adatkategóriához milyen eszközt szabad használni. Egy jól felépített szabályzat négy elemet tartalmaz.

1. Adatosztályozás. Definiálni kell legalább három szintet. Nyilvános (pl. marketingszöveg), belső (pl. folyamatleírások) és bizalmas (pl. ügyféladatok, pénzügyi adatok). Az AI eszköz csak a nyilvános és esetleg az anonim belső kategóriánál engedélyezett alapból.
2. Eszközlista. Meg kell határozni, melyik AI eszköz használható melyik célra. Enterprise ChatGPT, Microsoft Copilot M365-tel vagy vállalati tűzfal mögötti lokális modell, ezek különböző garanciákat nyújtanak, és különböző esetekben alkalmasak.
3. Promptolási irányelvek. Konkrét példákat kell mutatni arról, mi az, ami beilleszthető, és mi az, amit anonimizálni kell előtte. Egy táblázatban látva sokkal könnyebb betartani, mint elvont szabályként megfogalmazva.
4. Képzés és tudatosítás. A szabályzat önmagában nem véd. Ha a munkatársak nem értik, miért van ott, és mi a saját felelősségük, nem fogják követni. Egy félnapos belső tréning sokat tesz hozzá.

A policy kialakításakor az IT-biztonsági és jogi csapat mellett a tényleges felhasználókat is be kell vonni. Amikor ezt elvégeztük az egyik gyártó ügyfelemnél, kiderült, hogy a kollégáknak egészen más aggályaik voltak, mint amit a vezetőség feltételezett. Ez a bevonás meggyorsítja az elfogadást és csökkenti a megkerülést. Ha a szabály betarthatatlanul szigorú, az emberek kerülőutat keresnek. Ha túl laza, nem véd. A cél egy olyan középút, ahol az AI valódi hasznot hoz, de az adatok nem kerülnek ki ellenőrizetlenül.

Technikai megoldások

Enterprise AI eszközök, miben mások, mint a fogyasztói változatok?

A fogyasztói és az enterprise AI hozzáférés között valódi különbségek vannak, amelyeket sok döntéshozó nem ismer. Ezek nem marketingfogások, hanem valódi adatvédelmi és biztonsági garanciákat takarnak. Az én tapasztalatom szerint ez az egyik legtöbb félreértést okozó terület a vállalati AI bevezetéseknél.

ChatGPT Enterprise és Team előfizetés

Az OpenAI enterprise megállapodása tartalmaz DPA-t, és garantálja, hogy a promptok nem kerülnek be a modellek betanításába. A vállalat admin felületen kezelheti a hozzáféréseket, és naplózhatja a használatot. Ez nem teszi az eszközt korlátlanul biztonságossá, de a szabályozási megfelelés szempontjából más kategória, mint az ingyenes verzió.

Microsoft Copilot M365-tel

A Microsoft 365-höz kötött Copilot azért lehet vonzó megoldás, mert a vállalati adatok a meglévő M365 bérlői határain belül maradnak. A Microsoft adatfeldolgozói szerződése az M365 szerződés részeként érvényes, és az EU-s adatrezidencia-opciók is elérhetők. A Copilot azonban csak annyit lát, amennyihez a felhasználónak hozzáférése van. Ezt az összefüggést az egyik projektnél a bevezetés után fedeztük fel. A rendezetlen jogosultságkezelés miatt a Copilot olyan dokumentumokat is elővett, amelyeket az adott munkatársnak nem lett volna szabad látnia. A Copilot tehát nem pótol egy rendezetlen hozzáférési struktúrát.

Lokális vagy privát felhős modellek

Ahol az adatok különösen érzékenyek, például egészségügyi, jogi vagy pénzügyi szektorban, a szervezetek egyre inkább a vállalati tűzfal mögött futó lokális modellek felé fordulnak. Az Ollama, a vLLM vagy a saját Azure OpenAI Service-példány mind erre a célra alkalmas. Ezek üzemeltetési költsége magasabb, de adatkezelési szempontból a legbiztonságosabb megközelítést adják. Olyan ügyfelekkel, ahol különösen szigorú az adatkezelési elvárás, magam is ezt a megoldást javasolom első körben.

Emberi tényező

A legnagyobb kockázat nem a technológia, hanem a szokás

Az elmúlt két évben azt tapasztaltam, hogy a vállalati AI bevezetések legnagyobb biztonsági kihívása nem a rendszer maga, hanem az, ahogy az emberek hozzányúlnak. A munkatársak nincsenek rosszindulattal. Egyszerűen azt csinálják, ami gyors és kényelmes. Ha a ChatGPT-t otthon is használják, a vállalati gépen is ugyanolyan reflexből nyúlnak hozzá. Ezt a mintát szinte minden ügyfelemnél megtalálom az első felmérés után.

Ez nem hibáztatás kérdése. Ez tervezési kérdés. Ha a biztonságos AI eszköz nehezebben érhető el, mint a nem biztonságos, az emberek a könnyebb utat választják. A vállalati Copilot vagy az enterprise ChatGPT akkor működik biztonsági szempontból, ha ez az alapértelmezett, ami az asztalon van, nem valami extra lépésekkel elérhető alternatíva.

Az egyik projektnél az IT csapattal együtt beállítottuk, hogy a vállalati böngészőben a ChatGPT ingyenes verziójához való navigálás egy belső tájékoztató oldalra irányítson, ahol megjelenik a jóváhagyott alternatíva linkje. Ez egyetlen technikai lépés volt, de a mért használati adatok szerint drámaian megváltoztatta a viselkedési mintát két héten belül. Hasonló logikát alkalmaznak a szociális mérnöki támadásokkal szembeni védekezésnél is. Nem a szabályt erőltetik, hanem a helyes döntést teszik a legkönnyebb útnak.

Ha részletesebben érdekel, hogyan lehet egy AI bevezetés megtérülését és kockázatait együtt kezelni, olvasd el a vállalati AI bevezetés megtérüléséről szóló cikket is, amely a befektetési logikát járja körbe.

Összefoglalás és következő lépések

Mit tegyen most egy felelős vállalati döntéshozó?

Az AI biztonsági kockázatok nem azt jelentik, hogy az AI-t nem szabad használni, hanem azt, hogy gondolatlanul nem szabad használni. Az első lépés nem egy 40 oldalas policy megírása. Ebből a projektből tanultam, hogy a legjobb kiindulópont három egyszerű kérdés megválaszolása. Milyen AI eszközöket használnak most a munkatársak? Milyen adatokat visznek be? Van-e bárki, aki erről tud a szervezetben?

Ha a válasz az, hogy „nem tudom„ vagy „nincs“, ott az igazi kockázat. A jó hír az, hogy ez rendezhető. Egy rövid felmérés, egy belső megbeszélés és egy egyoldalas iránymutatás már a helyes irányba visz. Az enterprise licencre való váltás is kevesebbet kerül, mint sokan gondolják, különösen ha összehasonlítják egy esetleges GDPR-bírság összegével, amely akár a globális éves forgalom 4 százalékáig terjedhet. Ezt az összehasonlítást minden pénzügyi igazgatónak meg szoktam mutatni az első találkozón.

Ha szeretné ezt egy szakemberrel közösen végigvinni, az AI Transformation Day egy egésznapos, személyre szabott workshop, ahol a vállalati AI bevezetés biztonsági, jogi és szervezeti kérdéseit egyben kezeljük. Eddigi résztvevők közepes méretű magyarországi vállalatoktól, gyártóktól és pénzügyi szolgáltatóktól érkeztek. A workshop végére minden cégnek van egy konkrét, bevezethető akciótervük.

Részletek és időpontok.[email protected]