Az adatmunka új helyei
Nyelvi modellt ritkán tanítunk nulláról, az adatközpontú gondolkodás mégis ugyanúgy érvényes, csak máshol csapódik le. Három tipikus helye van. A promptba kerülő példák, a visszakeresésre szánt dokumentumtár, és a finomhangoláshoz készülő példapárok. Mindhárom kurálást igényel, és mindháromnál az adat minősége a felső korlát.
A duplikátum mint méreg
A nagy szöveges gyűjtemények visszatérő problémája az ismétlődés. Ugyanaz a bekezdés öt dokumentumban, ugyanaz a sablonszöveg száz levélben. A tanításnál a duplikátum torzít, mert a modell a gyakorit tanulja fontosnak. A visszakeresésnél helyet foglal a találati listában, és kiszorítja a valódi választ. A duplikátumszűrés ezért mindkét helyen az első lépések között van.
A minőségszűrés
A nagy modellek tanításánál kiderült, hogy az adat szűrése és keverése legalább annyira számít, mint a mennyisége. A céges léptékben ugyanez azt jelenti, hogy a dokumentumtárba nem minden kerül be, ami van. A jó tár válogatott. Ami elavult, ami vitatott, ami csak félkész vázlat volt, az kimarad, mert a rendszer nem tudja megkülönböztetni a jó forrást a rossztól, ha mi nem különböztettük meg.
A kérdés sosem az, hogy van-e elég adatunk, hanem az, hogy mennyi belőle az, amit oda mernénk adni egy új kollégának első nap, azzal, hogy ebből dolgozzon. Ami annak a mércének nem felel meg, az a rendszernek sem való.
Források és további olvasnivaló
A tananyag gerince az MIT ingyenes Introduction to Data-Centric AI kurzusa. A visszakeresésre épülő rendszerekről a RAG architektúra a gyakorlatban tananyagban.