Hogyan épül fel egy nyelvi modell · Lecke 05

Előtanítás és a tanítóadat

A modell nem kap kész válaszokat, mégis megtanul beszélni. Ennek a titka az önfelügyelt előtanítás, amelyben maga a szöveg szolgáltatja a helyes választ minden lépéshez. Ebben a leckében megnézzük, hogyan tanul a modell címkék nélkül, honnan jön a tanítóadat, és miért olyan fontos annak a minősége.

Vissza a tananyaghoz


A szöveg mint saját tanítója

A hagyományos gépi tanulásban minden tanítópéldához kézzel megadott helyes válasz tartozik, és ilyen címkézett adatból nagyon kevés van. A nyelvi modellek egy okos fordulattal kerülik meg ezt a szűk keresztmetszetet. Nem kérnek külön címkét, mert a helyes válasz már benne van magában a szövegben. Egy mondat minden pontján ismert, mi a következő token, hiszen csak el kell takarni a folytatást, és megnézni, eltalálja-e a modell. Ezt hívjuk önfelügyelt tanulásnak (self-supervised learning), és éppen ez teszi lehetővé, hogy a modell hatalmas mennyiségű nyers szövegen tanuljon.


A SZÖVEG ADJA A HELYES VÁLASZT A Duna Budapesten át ? ? ? eltakarva a modell tippel: folyik a valódi következő token: „folyik" a tipp és a valóság eltéréséből tanul a modell
Az előtanítás minden lépésében a modell megjósolja a következő tokent, majd összeveti a valódival. Az eltérés adja a tanulás irányát, külön címke nélkül.

Hogyan javítja magát a modell

A tanulás lényege egy visszacsatoló hurok. A modell megtippeli a következő tokent, ezt összeveti a valódival, és megméri, mennyire tévedett. Ezt az eltérést nevezzük veszteségnek (loss). Ha a modell magabiztosan a rossz tokenre szavazott, a veszteség nagy, ha a helyesre, akkor kicsi. A cél a veszteség csökkentése az egész tanítószövegen. A modell ezért apró lépésekben igazgatja a belső paramétereit abba az irányba, amely a következő alkalommal valamivel jobb tippet eredményez. Ez a lépés sokmilliárdszor ismétlődik, és a modell fokozatosan egyre pontosabban jósol.


veszteség tanítási lépések → eleinte sokat téved egyre pontosabb a veszteség a tanítás előrehaladtával fokozatosan csökken
A veszteség a tanítás alatt fokozatosan csökken. A görbe azt mutatja, hogy a modell egyre kevesebbet téved a következő token megjóslásában.

Honnan jön a tanítóadat

Az előtanításhoz rengeteg szöveg kell, jellemzően nyilvánosan elérhető internetes szövegek, könyvek és programkód nagy gyűjteményéből. A nyers gyűjtemény azonban messze nem használható közvetlenül. Tele van ismétlődéssel, kódtöredékkel, kevés értékű vagy káros tartalommal. Az adat előkészítése ezért önálló, gondos munka, és a modell minőségét legalább annyira meghatározza, mint maga az architektúra. A jó minőségű, tiszta adat jó modellt eredményez, a szennyezett adat gyenge modellt, bármilyen fejlett is egyébként a felépítés.


  1. GyűjtésNagy mennyiségű nyers szöveg összegyűjtése nyilvános forrásokból.
  2. SzűrésA gyenge minőségű, káros vagy nem odaillő tartalom kiszűrése.
  3. Duplikáció eltávolításaAz ismétlődő és majdnem azonos szövegrészek kiszűrése, hogy a modell ne ugyanazt tanulja túl sokszor.
  4. Tokenizálás és tanításA megtisztított szöveg tokenekre bontása, majd az önfelügyelt előtanítás futtatása.

Miért számít a minőség és a keverék

Az adat nem csak mennyiségében, hanem összetételében is számít. Ha túl sok a rossz minőségű vagy egysíkú szöveg, a modell azt tanulja meg, ami benne gyakori, függetlenül attól, hogy az helyes vagy hasznos. Ha az adatban egyáltalán nincs valamilyen nyelv vagy szakterület, a modell abban gyenge marad. A duplikáció külön veszély, mert a sokszor megismételt szöveget a modell aránytalanul beépíti, akár szó szerint megjegyzi. Az adat gondos kiválasztása és arányos keverése ezért az egyik legfontosabb mérnöki döntés az egész folyamatban.


Webes szövega legnagyobb rész
Könyvek és hosszabb írásokigényes nyelv
Programkódszerkezet és logika
Szakmai és tudományos szövegmélység

Mi készül el az előtanítás végén

Az előtanítás eredménye az úgynevezett alapmodell (base model). Ez a modell rendkívül jól folytatja a szöveget, mert erre tanítottuk, de még nem az, amivel a felhasználók beszélgetni szoktak. Egy kérdésre nem feltétlenül válaszol, inkább folytatja azt a stílust, amit a bemenetben lát, akár további kérdésekkel. Az alapmodell tehát a nyelv és a világ hatalmas tudását tartalmazza, de ezt még nem egy beszélgetőpartner formájában. Hogy ebből engedelmes, hasznos asszisztens legyen, még két lépés hiányzik, a méret kérdése és a finomhangolás, amelyekkel a következő leckék foglalkoznak.


5

Címke nélkül, mégis felügyelten. Az előtanítás azért lehet ekkora méretű, mert nem igényel kézi címkézést. A helyes válasz minden lépéshez már ott van a szövegben, a modellnek csak el kell találnia a folytatást, és a tévedéseiből tanul.


← Előző lecke Következő lecke →

Workshop

AI Transformation Day

Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.

Érdekel a program →