A költség szerkezete
A finomhangolási projekt költségének kisebbik fele a gépidő. A nagyobbik az emberi munka, az adat összegyűjtése és tisztítása, a kiértékelő készlet megépítése, a kísérletezés körei, és az üzemeltetés berendezése. Aki csak a tanítási órákat árazza, az a projekt felét felejti ki, és ez a terület a kis kihagyott tételek büntetője.
A megtérülés két tiszta esete
A gyakorlatban két helyzet ad egyértelmű üzleti esetet. Az első a nagy volumenű, szűk feladat, ahol a bérelt nagy modell hívási költsége a darabszám miatt fáj, és a hangolt kis modell töredékáron hozza ugyanazt. A második az adatszuverenitás, ahol az adat nem mehet külső szolgáltatóhoz, és a saját, hangolt modell a megfelelés ára. Ami e kettőn kívül esik, ott a prompt és a visszakeresés általában olcsóbban célba ér.
A tisztességes projektterv kimondja a leállási feltételt is. Ha a hangolt modell a kiértékelésen nem veri a jó promptos kiindulást érdemi különbséggel, akkor a prompt marad, és a projekt eredménye egy megspórolt üzemeltetési teher. Ez nem kudarc, hanem olcsón megvett bizonyosság.
Források és további olvasnivaló
A tananyag gerince a Hugging Face ingyenes smol-course kurzusa, amely kis nyelvi modellek instrukciókövetésre hangolását és igazítását tanítja. MIT Project NANDA, The GenAI Divide. State of AI in Business 2025. A mérési és üzleti keretekhez az AI megtérülés és üzleti eset tananyag.