A kereséstől a nyelvi modellekig, az AI rövid útja

A kérdés

Amit egy vezető valójában tudni akar

Amikor egy cégnél leülök a vezetőséggel, a technológia belső részletei ritkán érdeklik őket igazán. Ami tényleg foglalkoztatja őket, az egyetlen kérdés. Mit tud ez a dolog, és mit nem. A válasz sokkal érthetőbb lesz, ha nem a mai állapotból indulunk ki, hanem visszamegyünk oda, ahonnan az egész elindult.

Az AI ugyanis nem egyik napról a másikra lett az, ami ma. Több nagy lépésen ment át, és mindegyik lépés másképp közelítette meg ugyanazt a feladatot, hogyan hozzon egy gép értelmes döntést. Ha ezt a néhány lépést végigveszem egy ügyféllel, a végén sokkal tisztábban látja, miért működik jól a mai AI bizonyos helyzetekben, és miért mond csődöt máshol.

A kezdet

Amikor az AI még szabályokból állt

A korai AI egészen máshogy működött, mint amit ma megszoktunk. Ott az ember írta meg kézzel a szabályokat, a gép pedig végrehajtotta őket. Ha ez a feltétel teljesül, tedd ezt, különben amazt. Ilyen elven épültek a régi szakértői rendszerek, amelyek egy orvos vagy egy mérnök tudását próbálták sok ezer apró szabályba önteni.

A másik nagy irány a keresés volt. A gép nem értette a problémát, viszont hihetetlen gyorsan végig tudott próbálni rengeteg lehetőséget. A régi sakkprogramok így működtek. Nem tudták, mi a szép lépés, egyszerűen előre számoltak nagyon sok lépést, és kiválasztották a számukra legjobb kimenetet. Amikor a Deep Blue nevű gép megverte a világ akkori legjobb emberi sakkozóját, sokan azt hitték, megszületett a gondolkodó gép. Valójában egy elképesztően gyors kereső futott, ember által beleírt értékelési szabályokkal.

Ezeknek a rendszereknek megvolt a maguk értéke, és bizonyos feladatokban ma is használjuk a logikájukat. A korlátjuk viszont mindenhol ugyanaz volt. Csak azt tudták, amit előre beleírtak. Ha a világ egy kicsit is eltért a szabályoktól, a rendszer megállt vagy hibázott. Egy ilyen gép soha nem lépett túl azon, amit a készítője elképzelt neki.

A fordulat

Amikor a gép elkezdett példákból tanulni

A nagy váltás akkor jött, amikor megfordítottuk a logikát. A gépi tanulásnál már nem az ember írja meg a szabályokat. Ehelyett rengeteg példát mutatunk a gépnek, és ő maga keresi meg bennük a mintázatot. A különbség óriási, és pont ezt a pontot szokta a legnehezebben megérteni egy vezető.

Vegyünk egy egyszerű esetet, a levélszemét kiszűrését. A régi módszerrel valakinek végig kellett gondolnia, milyen szó vagy jel árulkodik a kéretlen levélről, és ezt szabályként rögzíteni. A gépi tanulás máshogy áll neki. Kap sok ezer levelet, amelyekről tudjuk, melyik szemét és melyik nem, és magától rájön, mi különbözteti meg őket. Nem mi mondjuk meg neki a szabályt, hanem ő vonja le a példákból.

Ez azért volt fordulat, mert innentől a gép olyan feladatokat is meg tudott oldani, amelyekre nehéz vagy lehetetlen lett volna kézzel szabályt írni. Egy emberi arc felismerése egy fotón pontosan ilyen. Senki nem tud leírni egy pontos képletet arról, mitől arc egy arc. Példákból viszont a gép megtanulja. A gépi tanulás sikere azon múlik, mennyi és milyen jó példát kap. Rossz vagy egyoldalú adatból rossz mintázatot tanul, és ezt később nagyon nehéz kijavítani.

A mélység

A neurális hálók és a rétegek

A gépi tanuláson belül egyre nagyobb szerepet kapott egy különleges megközelítés, a neurális háló. A név kicsit megtévesztő, mert az emberi agyhoz csak lazán van köze. Egy neurális háló egyszerű számolóegységek sok rétegéből áll, és minden réteg egyre elvontabb dolgokat ismer fel. A tanulás során a háló apránként állítgatja a belső súlyait, amíg egyre pontosabban el nem találja a jó választ a példákon.

Egy képfelismerő hálónál az első réteg még csak éleket és foltokat lát. A következő ezekből formákat rak össze. A feljebb lévő rétegek már egész tárgyakat vagy arcokat ismernek fel. Senki nem programozta be, hogy egy szem hogyan néz ki. A háló a rengeteg példa alapján magától építette fel ezt a rétegzett felismerést.

Ez a rétegzettség adta a mélytanulás nevet, és ez hozta el az elmúlt évek nagy ugrásait a képfelismerésben, a beszéd megértésében és a fordításban. Ahogy nőtt a rétegek száma és a rendelkezésre álló adat mennyisége, a gépek egyre bonyolultabb mintázatokat tudtak kezelni. Ez a vonal vezetett el egyenesen a mai nyelvi modellekig.

Az áttörés

A nyelvi modellek és a következő szó

A mai AI, amiről mindenki beszél, egy nagyon nagy neurális háló, amit óriási mennyiségű szövegen tanítottak. A feladata első hallásra kiábrándítóan egyszerű. Adott egy szövegrészlet, és a modell megpróbálja kitalálni, mi a következő szó. Csak ennyi. Ezt csinálja újra és újra, szóról szóra, és így áll össze egy egész válasz.

A meglepő az, hogy ebből az egyszerű feladatból milyen sok minden következik. Ha egy gép elég jól meg akarja tippelni a következő szót emberi szövegek millióin, akkor menet közben meg kell tanulnia egy csomó dolgot a nyelvről, a tényekről és az összefüggésekről. Ezért tud a mai nyelvi modell összefüggő szöveget írni, összefoglalni, fordítani vagy kódot javasolni. Nem azért, mert érti a világot úgy, ahogy mi, hanem mert elképesztő pontossággal tanulta meg, milyen szöveg szokott milyen szöveget követni.

Ezt szoktam a leggyakrabban tisztázni a vezetőkkel. A mai AI nem egy adatbázis, amelyből kikeresi az igazságot. Sokkal inkább egy nagyon jó nyelvi minta követő, amely mindig a valószínű folytatást állítja elő. Sokszor ez a valószínű folytatás egybe is esik a valósággal, mert a modell rengeteg helyes szöveget látott. Néha viszont magabiztosan mond valami hihetőt, ami mégis téves. Ezt hívjuk hallucinációnak, és ez nem egy elrontott csavar a rendszerben, hanem az egyenes következménye annak, ahogy az egész működik.

A tanulság

Miért segít ez a néhány lépés egy döntéshozónak

Amikor egy vezető végigköveti ezt az utat a szabályoktól a példákon át a következő szó jóslásáig, valami fontos változik a fejében. Onnantól nem varázslatként tekint az AI-ra, és nem is csalódott szkeptikusként. Elkezdi reálisan látni, mire jó a mai technológia.

A mai AI ott erős, ahol nyelvi mintázatokról van szó. Szöveget ír, átfogalmaz, összefoglal, javaslatot ad, kódot vázol, ötletet indít el. Ott gyenge, ahol pontos tényekre, friss adatra vagy megbízható számításra van szükség, hacsak nem kötjük össze a saját megbízható forrásainkkal. Egy vezető, aki ezt érti, nem attól fél, hogy az AI átveszi a döntéseit, és nem is attól vár csodát, hogy majd magától mindent tud.

Innentől a beszélgetés is más lesz. A vezető nem azt kérdezi, hogy jó vagy rossz az AI, hanem azt, hol illik bele a cég folyamataiba úgy, hogy a gép a mintázatokat kezelje, az ember pedig az ítéletet és a felelősséget tartsa meg. Ez a kérdés sokkal termékenyebb, és sokkal közelebb visz egy működő bevezetéshez. A legjobb projektek, amelyeket láttam, mind ebből a józan alaphelyzetből indultak, nem a lelkesedésből és nem is a félelemből.

A gyakorlatban

Egy székesfehérvári cég példája

Tavaly egy székesfehérvári logisztikai középvállalathoz hívtak, ahol az operatív vezető, nevezzük Gábornak, nagy reményeket fűzött az AI-hoz. Azt képzelte, hogy elég betölteni a cég szállítási adatait egy nyelvi modellbe, és onnantól bármit megkérdezhet tőle, a gép pedig pontos választ ad a fuvarokról, a késésekről és a költségekről. Amikor kipróbálta, csalódott. A modell néha jó választ adott, néha viszont magabiztosan mondott olyan számot, ami sehol nem szerepelt az adataikban.

Leültünk, és végigvettük ugyanezt az utat, amit itt is leírtam. Amikor Gábor megértette, hogy a nyelvi modell nem kikeresi a választ, hanem a valószínű folytatást írja le, azonnal más lett a hozzáállása. Rájött, hogy a probléma nem a modell butasága, hanem a hibás elvárás volt. Egy nyelvi modelltől önmagában pontos céges számokat várni nagyjából olyan, mintha egy remek stílusú írótól kérnénk számon a könyvelést.

Ezután átalakítottuk a projektet. A modellt összekötöttük a cég saját, ellenőrzött adatbázisával, hogy a válaszokat valós számokra alapozza, ne a saját tippjeire. A tényleges kimutatásokat továbbra is a rendszer adta, a modell dolga a kérdések értelmezése és a szöveges összegzés lett. Ahol pénzről vagy határidőről volt szó, oda emberi jóváhagyást tettünk. Fél év múlva Gábor csapata gyorsabban készített riportokat, és senki nem félt attól, hogy egy kitalált szám bekerül egy ügyfélnek menő anyagba.

Ami a leginkább megmaradt bennük, az nem egy konkrét eszköz volt, hanem a szemlélet. Attól kezdve, hogy értették, honnan hová jutott a technológia, maguktól meg tudták ítélni, melyik feladatra való a mai AI, és melyikre nem. Ez a tudás sokkal tartósabb, mint bármelyik aktuális eszköz ismerete, mert a következő évek új eszközeinél is ugyanúgy eligazít.

A folytatás

A következő lépés ugyanennek az útnak a része

Az AI története nem állt meg a nyelvi modelleknél. Már most látszik, hogy a következő szakasz azokról a rendszerekről szól, amelyek nem csak szöveget írnak, hanem lépéseket is tesznek, eszközöket használnak, adatokhoz nyúlnak és feladatokat végeznek el helyettünk. Ezeket szokták ügynököknek hívni, és ugyanabból a vonalból nőnek ki, amit az imént végigvettünk.

A tanulság ugyanaz marad. Aki érti, milyen elven működik a mai gép, az a következő hullámot is józanabbul fogadja. Nem dől be minden nagy ígéretnek, és nem is marad le a valódi lehetőségekről. Egy vezető számára ez a történet nem technológiai érdekesség. Ez az az alap, amiről meg tudja mondani, mibe érdemes most pénzt és időt fektetni, és mi az, ami még nem tart ott, ahol az ígéretek sugallják.