Ingyenes tananyag

AI biztonsági kockázatok

8 lecke arról, milyen új biztonsági kockázatok jelennek meg az AI és a nagy nyelvi modellek használatával, és hogyan kezelhetők. Végigvesszük a prompt injekciót, a jailbreaket, az érzékeny adatok kiszivárgását, az ügynökök túlzott jogosultságát, az adatmérgezést és a védelmi kereteket. A NIST AI Risk Management Framework, az OWASP Top 10 for LLM Applications és az Anthropic, valamint az OpenAI publikált biztonsági kutatása alapján. Technikai előképzettség hasznos, de nem feltétlenül szükséges.

KD AI Academy · Kalmár Dániel

Fontos. Ez a tananyag oktatási célú, általános tájékoztatás, nem minősül biztonsági szaktanácsnak. Egy konkrét rendszer védelméhez mindig kérj szakszerű információbiztonsági és AI biztonsági tanácsot. A hivatkozott keretrendszerek és kutatások a lejegyzés időpontjában elérhető szövegen alapulnak, a pontos és aktuális tartalmat mindig az eredeti forrásnál ellenőrizd.
01Miért más az AI biztonsága 02Az OWASP LLM Top 10 áttekintése 03Prompt injekció és jailbreak 04Érzékeny adatok és adatszivárgás 05Ügynökök kockázatai és a túlzott jogosultság 06Adatmérgezés és modell-manipuláció 07Autonómia és önállóság kockázatai 08Védelmi keretek: NIST AI RMF, red teaming, emberi felügyelet

Ha végigért

Záróteszt és tanúsítvány

10 feleletválasztós kérdés, 15 perc. Ha sikeresen teljesíted, a tanúsítvány automatikusan, egyedi sorszámmal kiállításra kerül.

Záróteszt kitöltése

Forrás

A NIST AI Risk Management Framework, az OWASP Top 10 for LLM Applications (2025) és az Anthropic, valamint az OpenAI publikált biztonsági kutatása alapján, magyar feldolgozásban.