A regényben a teremtmény megkéri alkotóját, hogy építsen neki egy társat. A tudós bele is kezd, aztán megáll, és elpusztítja a félkész lényt. Nem kegyetlenségből. Rájön, hogy ha kettő van belőlük, azok szaporodhatnak, a teremtményeik pedig idővel az emberek fölé kerekedhetnek. A pillanat, amikor egy alkotás elkezdi létrehozni a saját folytatását, kétszáz éve foglalkoztatja azokat, akik komolyan gondolkodnak arról, mit engednek ki a kezük közül.
Most először látok olyan technológiai dokumentumot, amelyik ugyanezt a kérdést nem irodalmi allegóriaként, hanem mérnöki és stratégiai problémaként teszi fel. Az Anthropic publikált egy jelentést arról, hogy a saját modelljük, a Claude, egyre inkább a saját fejlesztésének a mozgatója lett. Ez nem marketing, és nem is riogatás. Higgadt, tényszerű helyzetjelentés egy olyan folyamatról, amit a szakma rekurzív önfejlesztésnek hív.
Mi történik most az Anthropicnál
A számok, amiket a jelentés közöl, önmagukban is beszédesek. Az Anthropic saját kódjának több mint négyötödét ma már a Claude írja. Nem kiegészítésként, nem a fejlesztők melletti segédként, hanem a munka nagyobbik részének tényleges elvégzőjeként. Az ember egyre inkább az irányt adja meg és a döntéseket hozza, a kivitelezés jó része átkerült a modellhez.
A belső, még nem publikus Mythos Preview nevű modell egy adatoptimalizálási feladaton ötvenkétszer jobb eredményt ért el, mint a legjobb emberi kutatójuk. Nem valamivel jobbat, nem kétszer jobbat. Ötvenkétszer. Ez az a fajta különbség, ami után az ember nem finomítja a régi munkamódszert, hanem újragondolja az egészet.
A legjobban egy harmadik megfigyelés fogott meg. A kutatók visszamentek olyan pontokra a saját munkájukban, ahol annak idején rossz irányba fordultak, zsákutcába jutottak, elvesztettek heteket. Megmutatták ezeket a helyzeteket a modellnek, és megkérdezték, ő mit tenne. Az esetek majdnem kétharmadában a modell jobb utat választott, mint amit annak idején az emberi csapat választott. Ez már nem gyorsítás. Ez ítélet, méghozzá gyakran jobb ítélet, pont azon a terepen, ahol a szakértelem a legtöbbet számít.
Külön-külön mindhárom adat lenyűgöző, de a jelentőségük abban van, ahogy összeállnak. A kód nagy részét a modell írja, tehát a fejlesztés sebessége már nem az emberi kéz sebessége. A kutatásban a modell néha jobb irányt választ, tehát a minőség sem kizárólag emberi. És egy előzetes változat egy szűk feladaton nagyságrenddel túlszárnyalja a legjobb szakembert. Ez a három együtt rajzolja ki a görbét, ahol a rendszer egyre nagyobb szerepet vállal a saját tökéletesítésében. Nem egyetlen áttörés, hanem egy irány.
Mit jelent pontosan a rekurzív önfejlesztés
Érdemes tisztán látni, miről van szó, mert a fogalom könnyen elúszik a sci-fi irányába. A rekurzív önfejlesztés az a pont, amikor egy AI rendszer teljesen önállóan képes megtervezni és felépíteni a nála jobb következő változatot. Nem a fejlesztő gyorsabb lesz a segítségével, hanem a rendszer maga tervezi meg az utódját, az az utód pedig még ügyesebben tervezi meg a következőt. Innen a rekurzió. Minden lépcső maga építi a rákövetkezőt.
Az Anthropic világosan fogalmaz abban is, hogy ma még nem tartunk itt. A mostani állapot nem a teljes önállóság, hanem egy nagyon erős asszisztens, aki a folyamat egyre nagyobb szeletét viszi. A jelentés azt sem állítja, hogy a teljes önfejlesztés elkerülhetetlen. Egy dolgot állít, és pont ez a lényeg. Hamarabb eljöhet, mint amire a világ intézményei, cégei és szabályozói felkészültek.
Ezt a mondatot érdemes lassan elolvasni, mert nem a technológiáról szól, hanem rólunk. A kérdés nem az, hogy a gép mire lesz képes. A kérdés az, hogy mire leszünk mi készek, mire ez megtörténik.
Miért nem lehet egyszerűen lelassítani
A Frankenstein történetben a tudós a pusztítást választotta, mert egyedül volt, és a döntés csak rajta múlt. Elég volt egy kéz, egy elhatározás, és a folyamat megállt. A mostani helyzet ennél sokkal kényelmetlenebb, és a jelentés ezt sem kendőzi el.
Az Anthropic azt írja, hogy ha lehetséges lenne érdemben lassítani ezt a folyamatot, azt jó dolognak tartanák. A kérdést a hidegháborús fegyverzetkorlátozási egyezményekhez hasonlítják, ahol a felek kölcsönösen vállalták, hogy nem lépnek tovább egy határon. Csakhogy van egy döntő különbség. Egy rakétasilót műholdról látni lehet, egy leszerelést ellenőrizni lehet. Egy modell betanítását sokkal könnyebb titokban tartani. Nincs füst, nincs kilőtt teszt, nincs mit lefényképezni.
Ebből pedig egy nagyon emberi csapda következik. Ha néhány szereplő önként megáll, de valaki csendben tovább fejleszt, akkor az, aki nem állt meg, átveszi a vezetést. A felelős önkorlátozás így könnyen büntetéssé válik, a felelőtlen folytatás pedig előnnyé. Ez a szerkezet nem a rossz szándékról szól, hanem arról, hogy a bizalom ellenőrizhetőség nélkül törékeny. Pontosan ezért nehéz ügy ez, és pontosan ezért nem oldja meg egyetlen cég jószándéka.
Amit egy magyar cégnél ebből érdemes érteni
Most jön az a rész, ami miatt egyáltalán írok erről. Könnyű ezt a hírt úgy elintézni, hogy ez a nagy laborok belügye, San Franciscó gondja, nekünk itthon még évekig nem téma. A tanácsadói munkámban azt látom, hogy ez a hozzáállás pont fordítva veszélyes. Nem attól kell tartani, hogy holnap egy öntudatos gép kopogtat az ajtón. Attól, hogy a fejlődés tempója gyorsabb, mint a szervezeti reakcióidő, és a kettő közötti rés csendben nő.
Egy budapesti pénzügyi szolgáltatónál tavaly ősszel azzal kezdtük a közös munkát, hogy felmértük, hol tartanak. Kiderült, hogy a döntés, amit a vezetés fél évvel korábban hozott arról, mire jó és mire nem az AI, addigra teljesen elavult. Nem rosszul döntöttek annak idején. Csak közben a talaj mozdult el alattuk. Amit fél éve még a modell nem tudott megbízhatóan megcsinálni, azt azóta simán megoldotta, és emiatt a teljes bevezetési tervük egy meghaladott képességszintre épült. Újra kellett tervezni, nem azért, mert hibáztak, hanem mert a világ ment tovább.
Ez a valódi üzenete ennek a jelentésnek egy hazai vezető számára. Ha a modellek fejlődése tényleg felgyorsul, akkor az a szervezet nyer, amelyik nem egyetlen nagy döntést hoz az AI-ról, hanem képes újra és újra dönteni, ahogy a képességek változnak. A stratégia nem egy dokumentum, amit egyszer letesznek az asztalra. Egy izom, amit folyamatosan használni kell. Aki egyszer felmér, egyszer bevezet, aztán évekig hozzá sem nyúl, az garantáltan egy régi világ térképével navigál egy új terepen.
A gyakorlatban ez néhány nagyon földhözragadt dolgot jelent. Legyen a cégben valaki, akinek a dolga követni, mit tudnak most a modellek, és negyedévente visszahozni a vezetés elé, hogy min változtatna. Legyen a bevezetés kicsi és ismételhető, ne egyetlen nagy projekt, ami másfél év múlva készül el egy addigra elavult feltételrendszerre. És legyen a szervezetben elég ember, aki érti, mit lát, mert a legdrágább hiba az, amikor a döntéshozó nem tudja megítélni, hogy amit a szállító mutat, az valódi képesség vagy csak ügyes demó.
Azt szoktam mondani az ügyfeleimnek, hogy az AI-nál a legnagyobb kockázat ma nem a technológia, hanem a saját tempónk. A modellek úgyis fejlődnek, akár figyelünk rá, akár nem. Az egyetlen dolog, amit mi kontrollálunk, az az, milyen gyorsan tanul a szervezetünk. Az Anthropic jelentése erről szól, csak globális léptékben. A rés a képesség és a felkészültség között ott is a fő kérdés, és idelent, egy magyar középvállalatnál is pontosan ez.
A két rossz reakció, amit a leggyakrabban látok
Amikor egy ilyen hír eljut a vezetőkhöz, jellemzően kétféleképpen reagálnak, és mind a kettő zsákutca. Az egyik a pánik. Hirtelen minden sürgős lesz, azonnal kell egy nagy AI projekt, tegnapra kell egy stratégia, és a szervezet fejvesztve elkezd olyasmit bevezetni, amit nem ért. Ebből drága, félbehagyott kísérletek lesznek, a csapat pedig kiég, mielőtt bármi értéket termelt volna. A pánik rossz tanácsadó, mert a tempót nem a saját érettségünkhöz, hanem egy külső híréhez igazítja.
A másik reakció a bénultság, és ez alattomosabb. A vezető azt mondja, megvárja, míg letisztul a kép, míg kiderül, melyik eszköz marad talpon, míg a szabályozás rendeződik. Racionálisnak hangzik, csak közben a rés a szervezet tudása és a technológia képessége között hónapról hónapra tágul. Amikor egy ilyen cég végül elkezdi, nem onnan indul, ahol tavaly abbahagyta a gondolkodást, hanem sokkal hátrébbról, mert a terep közben teljesen átrendeződött. A várakozás nem semleges állapot. Csendben visszaesés.
A harmadik út, amit az ügyfeleimnek javaslok, se nem a pánik, se nem a fagyás. Kis lépés, gyakori újraértékelés, folyamatos tanulás. Egy gyártó ügyfelemnél például nem egyetlen nagy bevezetést terveztünk, hanem havonta egy szűk, mérhető felhasználást vezettünk be, és minden hónap végén megnéztük, mit tanultunk belőle. A tizedik hónapra a szervezet nemcsak tíz működő megoldást használt, hanem megtanulta magát a bevezetés ritmusát. Amikor jött egy erősebb modell, nem kapkodtak. Elővették a bevált ritmust, és beépítették. Ez a képesség sokkal többet ér, mint bármelyik konkrét eszköz, mert ez az, ami nem évül el.
A tudós dilemmája, kétszáz évvel később
Shelley tudósa megtehette, hogy elpusztítja a félkész lényt, mert a döntés az ő kezében volt. Ma nincs egyetlen kéz, amelyik megállíthatná a folyamatot, és nincs egyetlen ország vagy cég, amelyik egyedül eldönthetné a kimenetet. Ami van, az a felkészültség, a magunké és a szervezeteinké. Az, hogy amikor ez a fejlődés eléri a mindennapi működésünket, ne kapkodva reagáljunk rá, hanem legyen egy szemléletünk, egy nyelvünk és egy rutinunk, amivel értelmezni tudjuk.
A jelentést nem riogatásnak olvasom, hanem meghívónak arra, hogy komolyan vegyük a saját tanulási sebességünket. A cégek, amelyekkel dolgozom, nem az öntudatra ébredő géptől félnek. Attól, hogy lemaradnak egy versenyben, aminek megváltoztak a szabályai, miközben ők a régi szabályok szerint játszottak tovább. Ez ellen pedig van egy egyszerű, bár nem könnyű recept. Tanulni legalább olyan gyorsan, ahogy a technológia halad.