A szöveg mint saját tanítója
A hagyományos gépi tanulásban minden tanítópéldához kézzel megadott helyes válasz tartozik, és ilyen címkézett adatból nagyon kevés van. A nyelvi modellek egy okos fordulattal kerülik meg ezt a szűk keresztmetszetet. Nem kérnek külön címkét, mert a helyes válasz már benne van magában a szövegben. Egy mondat minden pontján ismert, mi a következő token, hiszen csak el kell takarni a folytatást, és megnézni, eltalálja-e a modell. Ezt hívjuk önfelügyelt tanulásnak (self-supervised learning), és éppen ez teszi lehetővé, hogy a modell hatalmas mennyiségű nyers szövegen tanuljon.
Hogyan javítja magát a modell
A tanulás lényege egy visszacsatoló hurok. A modell megtippeli a következő tokent, ezt összeveti a valódival, és megméri, mennyire tévedett. Ezt az eltérést nevezzük veszteségnek (loss). Ha a modell magabiztosan a rossz tokenre szavazott, a veszteség nagy, ha a helyesre, akkor kicsi. A cél a veszteség csökkentése az egész tanítószövegen. A modell ezért apró lépésekben igazgatja a belső paramétereit abba az irányba, amely a következő alkalommal valamivel jobb tippet eredményez. Ez a lépés sokmilliárdszor ismétlődik, és a modell fokozatosan egyre pontosabban jósol.
Honnan jön a tanítóadat
Az előtanításhoz rengeteg szöveg kell, jellemzően nyilvánosan elérhető internetes szövegek, könyvek és programkód nagy gyűjteményéből. A nyers gyűjtemény azonban messze nem használható közvetlenül. Tele van ismétlődéssel, kódtöredékkel, kevés értékű vagy káros tartalommal. Az adat előkészítése ezért önálló, gondos munka, és a modell minőségét legalább annyira meghatározza, mint maga az architektúra. A jó minőségű, tiszta adat jó modellt eredményez, a szennyezett adat gyenge modellt, bármilyen fejlett is egyébként a felépítés.
- GyűjtésNagy mennyiségű nyers szöveg összegyűjtése nyilvános forrásokból.
- SzűrésA gyenge minőségű, káros vagy nem odaillő tartalom kiszűrése.
- Duplikáció eltávolításaAz ismétlődő és majdnem azonos szövegrészek kiszűrése, hogy a modell ne ugyanazt tanulja túl sokszor.
- Tokenizálás és tanításA megtisztított szöveg tokenekre bontása, majd az önfelügyelt előtanítás futtatása.
Miért számít a minőség és a keverék
Az adat nem csak mennyiségében, hanem összetételében is számít. Ha túl sok a rossz minőségű vagy egysíkú szöveg, a modell azt tanulja meg, ami benne gyakori, függetlenül attól, hogy az helyes vagy hasznos. Ha az adatban egyáltalán nincs valamilyen nyelv vagy szakterület, a modell abban gyenge marad. A duplikáció külön veszély, mert a sokszor megismételt szöveget a modell aránytalanul beépíti, akár szó szerint megjegyzi. Az adat gondos kiválasztása és arányos keverése ezért az egyik legfontosabb mérnöki döntés az egész folyamatban.
Mi készül el az előtanítás végén
Az előtanítás eredménye az úgynevezett alapmodell (base model). Ez a modell rendkívül jól folytatja a szöveget, mert erre tanítottuk, de még nem az, amivel a felhasználók beszélgetni szoktak. Egy kérdésre nem feltétlenül válaszol, inkább folytatja azt a stílust, amit a bemenetben lát, akár további kérdésekkel. Az alapmodell tehát a nyelv és a világ hatalmas tudását tartalmazza, de ezt még nem egy beszélgetőpartner formájában. Hogy ebből engedelmes, hasznos asszisztens legyen, még két lépés hiányzik, a méret kérdése és a finomhangolás, amelyekkel a következő leckék foglalkoznak.
Címke nélkül, mégis felügyelten. Az előtanítás azért lehet ekkora méretű, mert nem igényel kézi címkézést. A helyes válasz minden lépéshez már ott van a szövegben, a modellnek csak el kell találnia a folytatást, és a tévedéseiből tanul.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →