Az egyik leggyakoribb félreértés, amivel ügyfeleknél találkozom, hogy a mai AI folyamatosan tanul a használatból. Sokan úgy képzelik, hogy amit ma megbeszélnek a modellel, azt az holnap már tudni fogja, mint egy új kolléga, aki napról napra okosabb lesz a munkában. Ez viszont pont fordítva működik. A ma használt modellek beszélgetés közben nagyon ügyesen alkalmazkodnak, de amint a beszélgetés véget ér, az egészet elfelejtik. A következő induláskor ugyanott kezdenek, ahol tegnap.
Ez nem hiba, hanem a jelenlegi felépítés természete. A modell a betanítás során szerezte a tudását, és utána az rögzül. A napi használat, a te konkrét céged, a te folyamataid, a tegnapi beszélgetés nem épül be tartósan. A modell rövid távon csodákra képes egy adott feladatban, de nincs benne semmi, ami ezt a rövid távú ügyességet hosszú távú tudássá érlelné. Pontosan ezt a hiányt nevezi el a kutatás úgy, hogy a modelleknek alvásra van szükségük.
Mit csinál az alvás az emberi agyban
Az emberi tanulás nem a nap közbeni figyelemben dől el, hanem éjszaka. Amikor alszunk, az agy visszajátssza a nap eseményeit, a fontosat megerősíti, a lényegtelent elengedi, és a friss, törékeny emléket áthelyezi egy tartósabb tárba. Ezt a folyamatot nevezi az idegtudomány memória konszolidációnak. Nélküle a napi tapasztalat nagy része elszállna, mert a rövid távú emlék önmagában nem marad meg.
Az alvásnak van egy másik szerepe is, ami első hallásra meglepő. Nemcsak megőriz, hanem gyakoroltat is. Álom közben az agy olyan helyzeteket játszik le, amelyek nem pontosan úgy történtek, kombinálja a nap darabjait, és ezzel új összefüggéseket próbál ki. Ez a fajta belső gyakorlás segít abban, hogy amit megtanultunk, az ne csak egyetlen helyzethez tapadjon, hanem újakra is átvihető legyen.
A kutatók pontosan ezt a két funkciót hiányolják a mai modellekből, és pontosan ezt próbálják beépíteni. Egy alvás fázist, amiben a modell nem új kérdésre válaszol, hanem a már megszerzett tapasztalatot dolgozza fel, megerősíti és beépíti. A hasonlat nem költői díszítés, hanem a módszer lényege.
Amit a kutatás javasol
A Google Research és a Cornell egyetem kutatóinak friss munkája egy alvás nevű szakaszt vezet be a nyelvi modellek működésébe. Az alapgondolat, hogy a modell a beszélgetés közben szerzett, ideiglenes tudást egy külön fázisban tartós, beépült tudássá alakítja, ahelyett hogy a beszélgetés végén elveszítené. A rövid távú, törékeny emléket visszajátszással érleli stabillá, nagyjából úgy, ahogy az alvó agy teszi.
Ehhez társul egy második szakasz, amit a kutatók álmodásnak neveznek. Ebben a modell maga állít elő gyakorló anyagot, saját magának generál feladatokat, és emberi közreműködés nélkül gyakorolja rajtuk az új tudást. Ez a rész kapcsolódik ahhoz a tágabb irányhoz, amiről korábban a rekurzív önfejlesztés kapcsán írtam, ahol az AI a saját fejlődésének egyre nagyobb részét veszi át. Az álmodás ennek egy szelídebb, a tanuláshoz kötött formája.
A kutatás azt találta, hogy ez az alvás szakasz több különböző helyzetben is számít. Ott, ahol a feladat hosszú és sok lépésen át tart, ott, ahol a modellnek folyamatosan új tudást kell befogadnia, és ott is, ahol keveset lát egy új témából, mégis általánosítania kell. Vagyis nem egyetlen szűk trükkről van szó, hanem egy hiányzó képességről, ami sok területen egyszerre javít.
A mai megoldások csak tapaszok
Érdemes tisztázni, hogy a cégek ma sem tehetetlenek ezzel szemben, csak a megoldásaik nem valódi tanulást adnak, hanem kerülik a problémát. A legelterjedtebb módszer, hogy a modell mellé egy külső tudásbázist teszünk, amiből a válasz pillanatában kikeresi a releváns információt. Ez hasznos, és a legtöbb jól működő vállalati rendszer így épül, de fontos látni, mi ez valójában. A modell nem tanulja meg a cég tudását, hanem minden egyes kérdésnél frissen elé teszik. Olyan, mint egy munkatárs, aki minden feladatnál újra kinyitja a kézikönyvet, mert fejből semmit nem jegyzett meg.
A másik út, hogy a modellt betanítással igazítjuk a cég igényeihez. Ez már közelebb áll a tanuláshoz, de drága, lassú, és nem lehet napi szinten csinálni. Egy hét közben felmerülő új szabályt nem tanítunk be a modellbe, mert az egy külön projekt. Ezért marad a külső tudásbázis a gyakorlati megoldás, a maga korlátaival együtt.
Épp ezért izgalmas az alvás gondolata. Ha a modell maga tudná a napi tapasztalatot tartós tudássá érlelni, akkor nem kellene minden alkalommal elé tenni a kézikönyvet, és nem kellene külön betanítási projekt sem minden változáshoz. A kutatás egyelőre a laborban tart itt, de az irány világos, és megmutatja, mi hiányzik a mai eszközökből.
Miért érdekli ez a vállalatvezetőt
Ez elsőre kutatási téma, ami távol áll a napi működéstől. A gyakorlati üzenete mégis pontosan az, amit a legtöbb cégnél nem gondolnak végig. A mai AI nem tanul magától a te cégedről. Nem elég egyszer bevezetni és aztán azt hinni, hogy majd magától egyre jobb lesz. Ami nincs beépítve vagy karbantartva, az nem marad meg és nem fejlődik.
Egy hazai kereskedelmi cégnél láttam ennek a tiszta példáját. Bevezettek egy AI alapú ügyfélválasz rendszert, betöltötték a termékadatokat és a szabályokat, és nagyon jól működött. Aztán fél évig senki nem nyúlt hozzá. Közben változott az árazás, jöttek új termékek, módosultak a szállítási feltételek, a rendszer viszont ugyanazt tudta, mint az induláskor. Lassan, észrevétlenül csúszott el a valóságtól, míg egy vevő rá nem világított, hogy elavult adatot kapott.
A tanulság nem az, hogy az AI megbízhatatlan, hanem hogy alvás nélkül működött. Nem volt semmilyen ciklus, amiben a friss tapasztalat és az új adat beépült volna a tudásába. A cég egyszeri telepítésként kezelte, holott olyan, mint egy munkatárs, akinek időnként le kell ülnie, hogy feldolgozza a változásokat. Amíg ez a ciklus hiányzik, a legjobb rendszer is elavul.
Amikor a modell tényleg tanulni fog
Érdemes végiggondolni, mi változik, ha ez a képesség egyszer eljut a mindennapi eszközökig. Ma azt szoktuk mondani egy modellről, hogy kiszámítható, mert a viselkedése rögzített, és nem változik a használattól. Ez néha kényelmetlen, de egyben biztonság is. Tudjuk, mit kapunk, mert a modell tegnap és ma ugyanaz. Ha viszont a modell folyamatosan tanul a saját használatából, akkor ez a biztonság megváltozik.
Egy tanuló rendszer nemcsak a jót tanulja meg, hanem a rosszat is. Ha a napi használatba hibás minta, rossz szokás vagy torzító adat kerül, azt ugyanúgy beépíti, mint a hasznosat. Ahogy egy ember is felszedhet rossz beidegződéseket, úgy egy folyamatosan tanuló modell is elcsúszhat egy nem kívánt irányba, ha nincs rá figyelem. A tanulás képessége önmagában nem áldás, a minőség azon múlik, mivel táplálják.
Ez pontosan az a pont, ahol a technológiai kérdés vezetői és felügyeleti kérdéssé válik. Ha a cég modellje azt tanulja, amit napközben lát, akkor hirtelen sokat számít, mit lát. Ki felügyeli, mi épül be és mi nem, honnan jön a tapasztalat, amiből tanul, és mi történik, ha rossz irányba indul el. Ezek ma még nem éles kérdések a legtöbb cégnél, de az irány, amerre a kutatás mutat, néhány éven belül a napirendre hozza őket. Aki most kezdi érteni, mit jelent egy tanuló rendszer, az felkészülten fogadja majd, amikor tényleg megérkezik.
Az alvás mint vezetői elv
Amíg a kutatás beépített megoldásai el nem terjednek a mindennapi eszközökben, addig ezt az alvást a szervezetnek kell pótolnia. Nem bonyolult, csak tudatosságot kíván. Kell egy rendszeres ritmus, amiben valaki átnézi, mit tud az AI rendszer, mi változott azóta, és mit kell frissíteni benne. A tudásbázist aktualizálni, az elavult szabályokat cserélni, a rossz válaszokból tanulni. Ez a cég oldali konszolidáció.
Ennek a ritmusnak nem kell sűrűnek lennie, de rendszeresnek igen. Ahogy az ember sem hagyhatja ki heteken át az alvást következmény nélkül, úgy egy AI rendszer sem maradhat karbantartás nélkül hónapokig. A cégeknél, ahol ez a ciklus beépült a működésbe, a rendszer hónapok múlva is pontos maradt. Ahol elmaradt, ott lassan leépült, pont mint egy kialvatlan ember, aki még dolgozik, de egyre több hibát vét.
A gyakorlatban ez nem sokból áll, csak legyen gazdája és fix ideje. Legyen valaki, akihez a rendszer karbantartása tartozik, legyen egy rögzített időköz, amikor átnézi a friss adatokat és a rossz válaszokat, és legyen egy egyszerű nyoma annak, mi változott a legutóbbi kör óta. A kereskedelmi cég példájánál pont ez a három dolog hiányzott. Nem a technológiával volt baj, hanem azzal, hogy senki nem volt felelős a rendszer ébren tartásáért, és így az szép csendben elaludt, csak nem úgy, ahogy a kutatók értik.
Van ennek egy tágabb tanulsága is arról, hogyan érdemes az AI-ra gondolni. Nem gépként, amit egyszer beüzemelünk és onnantól magától jár, hanem valamiként, ami folyamatos gondozást igényel, hogy jó maradjon. A kutatás, amelyik az alvást keresi a modellekben, végső soron ugyanazt mondja, amit a gyakorlatban minden jól működő bevezetésnél látok. A tudás nem marad meg magától. Vagy van egy folyamat, ami frissen tartja, vagy lassan elkopik.
Az a szervezet, amelyik ezt megérti, másképp tervez. Nem egy projektként gondol az AI-ra, aminek van kezdete és vége, hanem egy rendszerként, aminek van ritmusa. Bevezetés, használat, konszolidáció, aztán újra. Ez a ritmus tartja életben azt az előnyt, amiért az egészbe belevágtak, és ez az, amit a legtöbb cég a bevezetés lázában elfelejt betervezni. A kutatás egyelőre a modellekben keresi az alvást, a cégeknek addig maguknak kell megadniuk a rendszereiknek.
kdconsulting.hu · [email protected]