Kockázati kategóriák: tiltott, magas, korlátozott, minimális

A négy szint áttekintése

Az AI Act négy kockázati szintet különböztet meg egymástól. Elfogadhatatlan kockázat, ez a tiltott kategória az 5. cikk alapján. Magas kockázat, ez az Annex III szerinti területeket jelenti szigorú kötelezettségekkel. Korlátozott, más néven átláthatósági kockázat, ez az 50. cikk szerinti tájékoztatási kötelezettségeket takarja. Minimális vagy nulla kockázat, ide tartozik a legtöbb ma használt AI-alkalmazás, mint például a spamszűrő vagy a videojáték, ezekre nincs külön szabály. Ez a lecke ezt a négy szintet önellenőrizhető módon bontja ki, hogy egy adott rendszernél el tudd dönteni, melyik kategóriába esik.

Elfogadhatatlan kockázat, a tiltott gyakorlatok

Az 5. cikk nyolc olyan AI-gyakorlatot tilt meg, amelyeket a jogalkotó eleve elfogadhatatlannak minősít, ezekre nincs megfelelési út, egyszerűen nem szabad forgalomba hozni vagy használni őket az Unióban. Ide tartozik a tudatküszöb alatti vagy szándékosan manipulatív, megtévesztő technikák alkalmazása, amelyek jelentős kárt okozó viselkedéstorzulást eredményeznek, a kor, fogyatékosság vagy szociális-gazdasági helyzet miatti sebezhetőség kihasználása, valamint a social scoring, vagyis természetes személyek társadalmi viselkedés alapján történő értékelése, ha ez hátrányos bánásmódot eredményez.

Tilos továbbá a természetes személy bűnelkövetési kockázatának kizárólag profilalkotás vagy személyiségjegyek alapján történő becslése, az arcfelismerő adatbázisok építése az internetről vagy CCTV-felvételekből való célzatlan arckép-lehalászással, az érzelmek kikövetkeztetése munkahelyi és oktatási intézményekben (orvosi vagy biztonsági célok kivételével), és az érzékeny adatokat, például faji hovatartozást, politikai véleményt, vallást vagy szexuális irányultságot kikövetkeztető biometrikus kategorizálás. A nyolcadik tiltott gyakorlat a valós idejű távoli biometrikus azonosítás nyilvánosan hozzáférhető tereken bűnüldözési célból, ez főszabályként tilos, csak szűk kivételekkel, előzetes engedélyhez kötve, például emberrablás áldozatának keresésénél vagy közvetlen terrorfenyegetés elhárításánál.

Magas kockázat, az Annex III nyolc területe

A magas kockázatú rendszerek listáját az Annex III határozza meg, nyolc területen. Biometrika, ide tartozik a távoli biometrikus azonosítás, a biometrikus kategorizálás és az érzelemfelismerés. Kritikus infrastruktúra, mint a víz, a gáz, a fűtés, az elektromosság, a közúti közlekedés és a kritikus digitális infrastruktúra biztonsági komponensei. Oktatás és szakképzés, például felvételi eljárások, tanulási eredmények értékelése vagy vizsgai viselkedés monitorozása. Foglalkoztatás és munkavállalók irányítása, ide tartozik a toborzás, a kiválasztás, az előléptetés és az elbocsátás.

A további négy terület: alapvető magán- és közszolgáltatásokhoz való hozzáférés, mint a közsegélyekre való jogosultság, a hitelképesség értékelése vagy az élet- és egészségbiztosítási árazás. Bűnüldözés, például áldozattá válás kockázatának becslése, poligráf vagy bizonyítékok megbízhatóságának értékelése. Migráció, menekültügy és határellenőrzés, ide tartozik a vízum- és menedékkérelmek elbírálása. Igazságszolgáltatás és demokratikus folyamatok, például bírói döntéstámogatás vagy választás, népszavazás kimenetelének befolyásolása. A magas kockázatú rendszerek szolgáltatóinak kockázatkezelési rendszert kell működtetniük, magas minőségű, diszkriminációt minimalizáló adatkészleteket kell használniuk, biztosítaniuk kell a tevékenység naplózását, részletes műszaki dokumentációt kell készíteniük, és emberi felügyeletet kell beépíteniük a rendszer működésébe.

Korlátozott kockázat, az 50. cikk szerinti átláthatóság

Az 50. cikk (1) bekezdése előírja, hogy a szolgáltató biztosítsa: a felhasználó tudja, AI rendszerrel áll kapcsolatban, kivéve ha ez nyilvánvaló. A tájékoztatás módjára és időzítésére vonatkozó részletes szabály, vagyis hogy világos és megkülönböztethető módon, legkésőbb az első interakció időpontjában kell tájékoztatni, az 50. cikk (5) bekezdésében szerepel, ami az (1)-(4) bekezdésre együttesen vonatkozik. Fontos tehát a két bekezdést nem összemosni, az (1) bekezdés azt mondja meg, mit kell biztosítani, az (5) bekezdés pedig azt, hogyan és mikor.

Az 50. cikknek további bekezdései is vannak. A (2) bekezdés a szintetikus tartalomra vonatkozik, a szintetikus hang-, kép-, videó- vagy szövegtartalmat előállító AI szolgáltatójának gépi olvasható formátumban meg kell jelölnie a kimenetet mesterségesen generáltként vagy manipuláltként. A (3) bekezdés az érzelemfelismerő vagy biometrikus kategorizáló rendszert használó alkalmazóra vonatkozik, neki tájékoztatnia kell az érintett természetes személyeket a rendszer működéséről. A (4) bekezdés a deepfake-ekről szól, a deepfake-et előállító vagy manipuláló alkalmazónak fel kell tárnia, hogy a tartalom mesterségesen generált vagy manipulált, ez a szabály a közérdekű tájékoztatásra közzétett, AI-val generált szövegre is vonatkozik, kivéve ha az emberi szerkesztői ellenőrzésen esett át.

Minimális kockázat, a legtöbb AI-alkalmazás

A negyedik szint a minimális vagy nulla kockázatú AI, ide tartozik az EU-ban használt AI-alkalmazások túlnyomó többsége, például a spamszűrők vagy a videojátékokban használt AI. Ezekre az AI Act nem ír elő külön kötelezettséget. Ez a négy szint együtt adja azt a térképet, amivel egy adott rendszer besorolható, és eldönthető, milyen mélységű megfelelési munka szükséges hozzá.