Gépi tanulás alapjai · Lecke 04

Általánosítás, tanító, validációs és teszthalmaz

Egy modell akkor jó, ha nem csak a tanító adaton, hanem új, korábban nem látott adaton is jól teljesít. Ebben a leckében megnézzük, mit jelent az általánosítás, hogyan ismerjük fel a túltanulást, és miért osztjuk az adatot tanító, validációs és teszthalmazra.

Vissza a tananyaghoz

Mi az általánosítás

Az általánosítás (generalization) a modell azon képessége, hogy új, a tanítás során nem látott adaton is jól teljesítsen. Ez a gépi tanulás valódi célja. A tanító adaton elért kiváló eredmény önmagában keveset ér, hiszen a modellt éppen ezen az adaton igazítottuk be. Ami számít, hogy amikor éles helyzetben, korábban nem látott esetekre alkalmazzuk, akkor is pontos marad. Egy modell csak akkor hasznos, ha a tanult mintázat átvihető az adott adathalmazon túlra.

Túltanulás és alultanulás

Két véglet ronthatja el az általánosítást. A túltanulás (overfitting) akkor következik be, amikor a modell túl szorosan illeszkedik a tanító adathoz, és nemcsak a valódi mintázatot, hanem a véletlen zajt és az egyedi kilengéseket is megtanulja. Ilyenkor a tanító adaton kiváló, új adaton viszont gyenge. Az alultanulás (underfitting) az ellenkező hiba, a modell túl egyszerű ahhoz, hogy megragadja az adatban rejlő mintázatot, ezért mindenhol gyengén teljesít. A cél a kettő között áll, egy olyan modell, amely megfogja a lényeget, de nem tapad rá a zajra.

ALULTANULÁS túl egyszerű, nem fogja meg a mintát JÓ ILLESZKEDÉS a lényeget fogja meg, jól általánosít TÚLTANULÁS a zajt is megtanulja, rosszul általánosít
Ugyanaz az adat háromféle illeszkedéssel. Az alultanult modell túl egyszerű, a túltanult a zajra tapad, a jó modell a valódi mintázatot fogja meg.

Miért osztjuk három részre az adatot

Ha a modellt ugyanazon az adaton mérnénk, amin tanult, a mérés félrevezetne, hiszen a modell akár be is magolhatta a példákat anélkül, hogy valódi mintázatot tanult volna. Ezért az adatot három elkülönített részre osztjuk. A tanító halmaz (training set) az, amin a modell a súlyokat beállítja. A validációs halmaz (validation set) a fejlesztés közbeni finomhangolást és a hiperparaméterek beállítását szolgálja, ezen figyeljük, hogyan halad a modell. A teszthalmaz (test set) a legvégén, egyetlen, elfogulatlan méréshez van fenntartva, ezt a modell a tanítás során soha nem látja. Fontos, hogy a teszthalmaz valóban érintetlen maradjon, mert ha akár közvetve is beszivárog a fejlesztésbe, a végső mérés újra elveszíti a jelentőségét, és túl optimista képet fest a modellről.

A TELJES ADATHALMAZ Tanító halmaz a súlyok beállítása Validációs finomhangolás Teszt végső mérés A teszthalmazt a modell a tanítás során soha nem látja, ezért ad elfogulatlan képet.
Az adat felosztása. A legnagyobb rész a tanítás, egy köztes rész a finomhangolás, egy elkülönített rész pedig a végső, elfogulatlan mérés célját szolgálja.

A túltanulás felismerése a veszteséggörbén

A túltanulás jól látszik, ha a tanítás közben együtt figyeljük a tanító és a validációs veszteséget. Eleinte mindkettő csökken, ahogy a modell tanul. Egy ponton túl azonban a tanító veszteség tovább csökken, a validációs veszteség viszont emelkedni kezd. Ez az a pillanat, amikor a modell már a tanító adat egyedi zaját tanulja, az általánosítása pedig romlik. Ezt a fordulópontot használja ki a korai leállítás (early stopping), amely a validációs teljesítmény romlásakor megállítja a tanítást, mielőtt a modell túltanulna.

tanítás előrehaladása (epoch) veszteség tanító veszteség validációs veszteség itt kezdődik a túltanulás
Amíg a validációs veszteség csökken, a modell tanul. Amikor a tanító veszteség tovább csökken, de a validációs emelkedni kezd, a modell túltanul.
3

Három elkülönített halmaz. A tanító halmazon tanul a modell, a validációs halmazon hangoljuk a beállításokat, a teszthalmazt pedig érintetlenül tartjuk a végső, elfogulatlan mérésig. Ez a felosztás védi meg az általánosítást a túltanulástól.

← Előző lecke Következő lecke →

Workshop

AI Transformation Day

Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.

Érdekel a program →