Kiindulópont
Honnan jön a 2030-as jóslat
Szeptember 8-án Jacob Coxon, aki az elmúlt három évben az OpenAI-nál, majd az Anthropicnál a nagy nyelvi modellek előtanításán dolgozott, bejelentette, hogy felmond. Azt írta, hogy egyik cég sem cselekszik felelősen, egyenesen az önmagát fejlesztő szuperintelligencia felé versenyeznek, és az életünkkel játszanak. Hozzátette, hogy akik ezeket a rendszereket építik, őszintén hiszik, hogy az AI az évtized végére mindannyiunkat megölhet, és ezen szerinte csak erős állami beavatkozás vagy a nagy laborok közös lassítása változtathat.
A bejelentésre az Anthropic alignment kutatásának vezetője, Evan Hubinger is reagált. Megerősítette, hogy a cégnél valóban hisznek abban, hogy az AI kiirthatja az embereket, ő maga a következő évtizedre tíz százaléknál nagyobbra teszi ennek az esélyét, és elismerte, hogy egy szuperintelligencia irányíthatóságára még nincs kidolgozott tervük.
A hír azért kapott ekkora figyelmet, mert nem kívülálló kommentátortól jött, hanem a fejlesztők belső köréből. Komolyan veszem, amit mondanak. Azt viszont, hogy az évtized végére kihal az emberiség, nem tartom reálisnak. Valós veszélyt látok, csak máshol, mint ahol a filmek és a hangzatos jóslatok keresik.
Technológia
Mit csinál valójában egy nagy nyelvi modell
Amikor ügyfeleknek magyarázom a nagy nyelvi modellek működését, mindig ugyanonnan indulok. Ezek a rendszerek statisztikai modellek, amelyek az emberiség leírt szövegeinek óriási mennyiségén tanulták meg, milyen szó követ valószínűleg egy adott szövegkörnyezetet. A betanítás során egyetlen feladatot gyakorolnak milliárdnyi alkalommal, kitalálják a következő szót, és ehhez kénytelenek megtanulni a nyelvtant, a tényeket, a stílust és az érvelés mintáit is. Amit a képernyőn gondolkodásnak látunk, az ennek a valószínűségi gépezetnek a kimenete.
Semmiképpen nem akarom lebecsülni ezeket a rendszereket. A mai modellek matematikai versenyfeladatokat oldanak meg, programot írnak és hibát keresnek benne, és a saját projektjeimen is azt látom, hogy egy jól beállított rendszer napi órákat spórol meg egy elemzőnek. Valódi képességek ezek. Az viszont jól látszik, mi hiányzik belőlük ahhoz, hogy önálló, emberiséget veszélyeztető szereplővé váljanak.
A modellnek nincs saját célja. Kérés nélkül nem indít semmit, erőforrást sem gyűjt, és a következő hétre sem tervez magától. Biztonsági kísérletekben ugyanakkor megfigyelték, hogy egy szerepbe helyezett modell a saját leállítása ellen kezd dolgozni, vagyis az önfenntartónak látszó viselkedés abból is fakadhat, amit a modell a tanítószövegekben látott. Az úgynevezett AI ügynökök, amelyek több lépésen át dolgoznak egy feladaton, szintén emberek által írt keretben futnak, egy ciklusban, amely eszközöket ad a modell kezébe, és amelyet bármikor le lehet állítani. Magától a korábbi beszélgetésekre sem emlékszik a modell, csak arra, amit a keretrendszer visszaad neki, és a világot sem látja, csak a szöveget, amit elé teszünk.
Ebből következik, hogy a gépi rendszerek hibái más természetűek, mint a filmekben. A modell magabiztosan állít valótlant, félreért egy utasítást, vagy túl szó szerint vesz egy célt, és akkor is végrehajtja, amikor a megbízója egészen mást akart. Az igazi veszély az utasítás és a szándék közötti résben lakik, és ez a rés annál nagyobb kárt okozhat, minél több jogosultságot kap a rendszer.
Forgatókönyvek
Miért nem látok gépi apokalipszist 2030-ra
Egy kihalási forgatókönyvhöz sok feltételnek kellene egyszerre teljesülnie. A rendszereknek önállóan és gyorsan kellene fejleszteniük önmagukat, a céljaiknak észrevétlenül el kellene válniuk a miénktől, és olyan hozzáféréssel kellene rendelkezniük a fizikai világhoz, hogy egy ellenük forduló civilizáció ne tudja időben leállítani őket. Coxon és Hubinger aggodalma leginkább az elsőre, az önmagát fejlesztő rendszerre épül. Mindegyik láncszem bizonytalan, és a láncot a leggyengébb szeme dönti el.
A fizikai világ lassú. Egy gyárat évekig tart felépíteni, egy chipgyártó sor ellátási lánca kontinenseken ível át, egy adatközpont áramellátása erőművekre és vezetékekre épül, amelyeket emberek üzemeltetnek. Amikor nagyvállalati AI bevezetéseken dolgozom, a legtöbb idő sosem a modellre megy el, hanem arra, hogy a rendszer hozzáférjen a céges adatokhoz, jogosultságokhoz és gépekhez. Ha egyetlen vállalati folyamatba is hetekig tart bekötni egy modellt, egy bolygóméretű hatalomátvételhez szükséges infrastruktúra nem fog észrevétlenül, néhány év alatt összeállni.
Óvatosságra int a jóslatok története is. A mesterséges intelligencia kutatás legnagyobbjai kilencven éve tévednek a dátumokban, hol túl korai áttörést ígértek, hol túl későre tették azt, ami végül hamar megérkezett. Ma a szakértői becslések az általános mesterséges intelligencia érkezéséről néhány évtől évtizedekig szórnak, és egy kisebbség szerint a mostani irányból el sem érhető. Ekkora szórás egy tudományterület legjobbjai között azt jelenti, hogy senki sem tudja.
Van egy csendesebb pesszimista út, amelyet komolyabban veszek a lázadó gépnél. Ez a fokozatos önfeladás. A kényelem miatt egyre több döntést adunk át a rendszereknek, mert gyorsabbak és olcsóbbak, a saját készségeink közben elsorvadnak, és egy nap azon kapjuk magunkat, hogy elvileg bármikor visszavehetnénk az irányítást, a gyakorlatban viszont már nincs meg hozzá a tudásunk. Ehhez nem kell szuperintelligencia, elég a kényelem, és éppen ezért kezelhető is, szabályokkal, képzéssel és azzal a szokással, hogy a fontos döntéseknél ember marad a folyamatban.
Hadviselés
Ahol a veszély már most valós
Ha valahol aggódom, az a katonai felhasználás. Az ukrajnai háborúban a filléres drónok milliói uralják a harcteret, és egyre több bennük a gépi önállóság, méghozzá prózai okból. Ahol az ellenfél zavarja a rádiójelet, ott a drón lezuhan, hacsak nem ismeri fel magától a célt és repül rá. A harctéri kényszer így magától tolja a rendszereket az önállóság felé. Egy ENSZ szakértői jelentés már 2020-ban leírt egy líbiai esetet, amelyben egy drón külön parancs nélkül támadhatott meg embereket, és a mai napig vitatott, mi történt valójában.
Ma tehát léteznek autonóm AI rendszerek, amelyek fegyvert irányítanak, és emberek életéről döntenek a harctéren. A szakmai vita középpontjában az áll, hol van az ember a döntési hurokban. Ha minden halálos döntést ember hagy jóvá, a gép csak segít. Amikor a döntés a gépé, és az ember csak felügyel, a felügyelet egyre inkább formalitás, mert a gép másodpercek alatt dönt, az ember pedig percekig gondolkodik. A kutatók automatizálási elfogultságnak hívják azt a hajlamot, hogy az operátor a sokadik megbízható javaslat után már felülvizsgálat nélkül bólint rá a következőre.
A legnagyobb veszélyt abban látom, ha egyszer valaki autonóm döntési láncot kötne a nukleáris fegyverrendszerekre. Erről jelenleg nincs tudomásunk, és semmilyen nyilvános információ nem utal arra, hogy bármelyik atomhatalom ezt megtette volna. 2024 novemberében, a limai csúcstalálkozón az amerikai és a kínai elnök megerősítette, hogy a nukleáris fegyverek bevetéséről szóló döntés emberi ellenőrzés alatt marad, és Kína ekkor mondta ki ezt első alkalommal. A megállapodás nem kötelező érvényű, de jelzi, hogy a két legnagyobb katonai hatalom is látja ezt a határt.
A hidegháború legveszélyesebb pillanataiban többször egy kételkedő ember mentette meg a világot azzal, hogy nem hitt a riasztó rendszernek, és várt. Egy teljesen automatizált láncban nincs, aki várjon. Ezért tartom a nukleáris és a katonai autonómia nemzetközi szabályozását sürgetőbb ügynek, mint a szuperintelligencia körüli apokaliptikus vitát. A vegyi fegyverek és a vakító lézerfegyverek tilalma megmutatta, hogy a világ képes normát állítani egy fegyvertípus elé, és ez a precedens itt is használható volna.
Történelem
Amit az ipari forradalom megtanított
A másik valós veszély kevésbé látványos, és sokkal több embert érint. Ez a munka átalakulása, és ehhez az ipari forradalomnál jobb tükröt nem ismerek. A gazdaságtörténészek számításai szerint Angliában 1790 és 1840 között az egy munkásra jutó termelés közel a felével nőtt, a munkások reálbére viszont nagyjából csak egy tizedével. Ezt a hasznot a gyárak tulajdonosai vitték, a profitráta megduplázódott, és a nemzeti jövedelemből a munka részesedése csökkent.
A takácsok és kötőmesterek, akik addig a saját otthonukban, a saját szerszámaikkal dolgoztak, néhány év alatt elvesztették a megélhetésüket, és vele a társadalmi helyüket. Ők voltak a korabeli középréteg, a szakértelmükre büszke kézművesek. Technológiaellenesek sem voltak, a ludditák célzottan azoknak a gyárosoknak a gépeit törték össze, akik a béreket verték le velük. Választójoguk és szakszervezetük nem lehetett, az állam pedig több katonát vezényelt ellenük, mint amennyivel akkoriban Napóleon ellen harcolt.
1840 után a bérek végül elkezdték utolérni a termelékenységet, a század végéig gyorsabban nőttek, mint maga a termelés, és ebből nőtt ki a modern középosztály. A végállapot tehát jobb lett, mint a kiindulópont. Aki viszont 1800 körül volt fiatal takács, annak az élete nagyobb része a vesztes oldalon telt el. Ebből az időszakból származik az egyik legkeserűbb történelmi tanulság, a haszon hamarabb érkezik meg, mint a jólét, és a kettő között két-három emberöltő is eltelhet.
Munkaerőpiac
A szellemi munka után a szakmunka is sorra kerül
Kétszáz éven át az volt a jó tanács, hogy taníttasd a gyereked, mert a gép a kétkezi munkát veszi el. Az AI az első technológia, amely ezt a védett zónát találja el. Szöveget ír, elemez, programot ír, összefoglal, vagyis éppen azt a rutinszerű kognitív munkát végzi el, amelyből a diplomás középosztály nagy része él.
Egy budapesti könyvelőirodánál, ahol tavaly AI eszközöket vezettünk be, a tulajdonos fél év után közölte, hogy idén nem vesz fel pályakezdőt. A korábbi fiatalokkal elégedett volt, a rutin adatrögzítést viszont, amelyen eddig kitanulták a szakmát, már a rendszer végzi. Megértem a döntését, a rövid távú számok neki adnak igazat. Csakhogy ha minden iroda így dönt, öt év múlva nem lesz, aki tapasztalt könyvelővé érjen, mert a szakma létrájának éppen az alsó fokai tűntek el.
A fizikai munkánál a gyárak nagy része már átesett az automatizáláson, az autóipari és elektronikai összeszerelő sorokon régóta robotok dolgoznak. Most zajlik a következő lépés. Humanoid és ügyes kezű robotokat fejlesztenek, kifejezetten azzal a céllal, hogy a raktári és karbantartói munkákat, később pedig a szakmunkákat is átvegyék. Ma még a villanyszerelőt, a vízszerelőt és az ápolót nehezebb gépesíteni, mint egy jelentésírót, de a fejlesztési pénzek iránya jól mutatja, hová tart a terület.
Ha ez a folyamat végigmegy, abban a világban az emberi munka luxussá válik. A kézzel készített bútor, az emberi ápoló és a személyes tanácsadó drága prémium szolgáltatás lesz, az átlagos ember pedig a robotok és a modellek által végzett olcsó munkát fogyasztja. Ez önmagában nem baj, ha a termelékenység haszna széles körben oszlik el. A történelmi minta azonban azt mutatja, hogy magától nem így történik. Ilyenkor a gépek és a modellek tulajdonosainál halmozódik a tőke, miközben sok ember jövedelme csökken, mert a munkáját olcsóbban elvégzi egy gép, és a társadalom egy része elszegényedik.
Hosszú távon elképzelhető, hogy a civilizáció ezt is kinövi, ahogy az ipari forradalom után is magasabb életszínvonalra jutott. Az átmenet azonban a múlt tapasztalatai alapján fájdalmas lesz, és ezúttal gyorsabb is. A gőzgép százötven év alatt terjedt el, a nyelvi modellek néhány hónap alatt jutottak el emberek százmillióihoz.
Szabályozás
Mit várok a kormányoktól
A géprombolás nem volt válasz, és ma sem az. Eltiporták a ludditák mozgalmát, a gépeket újraépítették, és a takácsokon ez sem segített. A 2023-as hollywoodi forgatókönyvíró sztrájk viszont megmutatta, hogy létezik civilizált út is. Az írók tárgyalóasztalhoz ültették a stúdiókat, és a megállapodásukba bekerültek az első komoly AI védőkorlátok egy munkaszerződésben.
Kötelező nemzetközi megállapodásba kellene foglalni a nukleáris döntések fölötti emberi kontrollt, és az autonóm fegyverekre is normát kellene állítani, ahogy a vegyi fegyverekre sikerült. Amíg ezek a szabályok hiányoznak, a verseny logikája minden szereplőt gyorsabb haladásra és lazább fékekre ösztönöz, mint amit maga is helyesnek tartana.
A munka világában olyan léptékű válaszra volna szükség, mint amilyen száz éve az általános iskola kiépítése volt. Az átképzést társadalmi infrastruktúraként érdemes kezelni, mert egy negyvenöt éves embertől, aki a családja mellett dolgozik, nem várható el, hogy a saját költségén és szabadidejében tanuljon új szakmát. Ösztönözni kellene a pályakezdők felvételét azokban a szakmákban, ahol az AI a belépő szintű feladatokat viszi el, különben néhány év alatt kiürül az utánpótlás. Az adózás logikáját is újra kell gondolni, ha egyre több értéket gépek termelnek, és egyre kevesebbet bérből élő emberek.
A feltétel nélküli alapjövedelem vitáját nem tartom lezártnak. Kísérletekben a pénzt kapók jólléte javult, és a munkakedvük sem esett vissza érdemben, de ezek kicsi és rövid programok voltak, egy egész ország gazdaságáról keveset mondanak. Arra viszont már most szükség van, hogy a társadalmak kimondják, mi történjen azokkal, akiknél az átmenet évtizedeiben a munka és a megélhetés kapcsolata elszakad. Erre a válaszra ezúttal kevesebb idő jut, mint bármelyik korábbi technológiai hullámnál.
Ezekről és a hozzájuk hasonló kérdésekről, a géprombolók történetétől az AI fegyverkezési versenyig, részletesen írok a nemsokára megjelenő Az AI Kora című könyvemben, amely segít megérteni, honnan erednek a gépekkel kapcsolatos reményeink és félelmeink, mire képes valójában ez a technológia, és miért a mi döntéseinken múlik, hogy a mostani átmenetből felemelkedés vagy újabb elszegényedés lesz.
Ennek a cikknek egy rövidebb, közérthetőbb változata megjelent a Hetek hasábjain 2026. szeptember 23-án.
kdconsulting.hu · [email protected]