A testreszabás létrája
A modell viselkedése négy szinten szabható testre, növekvő költséggel. Az első a prompt, a jó instrukció és a példák. A második a visszakeresés, amikor a céges tudást a kérdés mellé tesszük. A harmadik a finomhangolás, amikor a modell súlyait igazítjuk. A negyedik az előtanítás, ami nagyvállalati léptékben is ritka madár.
A hüvelykujjszabály egyszerű. Ami tudás, azt visszakereséssel adjuk át, mert a tudás változik, és a visszakeresésben frissíthető. Ami viselkedés, stílus, formátum, szakszókincs, azt előbb prompttal, és csak ha az kevés, finomhangolással. A finomhangolt modellbe égett tudás elavul, és nem lehet belőle kitörölni.
Nem finomhangolási feladat
- A céges dokumentumok ismerete
- Naprakész adatok használata
- Egy-egy feladat jobb megoldása jó prompttal
- Az általános minőség javítása
Finomhangolási feladat
- Következetes, kötött kimeneti formátum nagy tömegben
- Szakterületi nyelvezet és terminológia
- Kis, olcsó modell felhúzása egy szűk feladatra
- Olyan viselkedés, amit a prompt már nem bír el
A kis modell nagy lehetősége
A finomhangolás valódi üzleti értelme ma legtöbbször a méretcsökkentés. Egy szűk, jól definiált feladatra, kategorizálásra, kivonatolásra, kötött formátumú átalakításra egy finomhangolt kis modell elérheti a nagy modell minőségét, töredék futtatási költséggel, akár saját gépen futtatva. A Hugging Face kurzusa is erre az irányra épül, kis modelleken tanít, és a tudás nagyobbakra is átvihető.
A döntés előtt egyetlen mérés kötelező. A kiinduló minőség a legjobb prompttal és példákkal, számokban. Finomhangolni csak ehhez képest érdemes, különben sosem derül ki, hogy megérte-e a munka.
Források és további olvasnivaló
A tananyag gerince a Hugging Face ingyenes smol-course kurzusa, amely kis nyelvi modellek instrukciókövetésre hangolását és igazítását tanítja. A visszakeresés és a finomhangolás határvonaláról a RAG architektúra tananyag első leckéje szól.