A hír pár napja ment végig a szaksajtón, és azóta három ügyfelem kérdezett rá. A Claude mostantól láthatatlan jelet tesz abba a szövegbe, amit generál. Ez így igaz, csak épp önmagában majdnem használhatatlan információ. Amikor elolvastam az Anthropic saját, technikai igényű leírását, kiderült, hogy a lényeg nem az, hogy van jel, hanem az, hogy mikor nincs, és mit nem lehet belőle kiolvasni.
A háttér röviden a következő. Az európai szabályozás előírja a generált tartalom megjelölését, az erről szóló magatartási kódexet pedig a nyár folyamán a nagy modellszolgáltatók és további mintegy száznyolcvan szereplő aláírta. Az augusztus elejétől induló új Claude modellek már a megjelenéstől jelölnek, a korábbiaknál ez az átállás a következő hónapokban zajlik. A jelölés nem európai határon belül működik, hanem mindenhol, mert a gyártó szerint nincs tartós módja annak, hogy régiónként kapcsolgassa.
Írtam korábban arról, mit mondj az ügyfélnek arról, hogy AI-t használsz. Az a cikk arról szólt, hogyan döntsd el, mennyit osztasz meg. Ez a mostani változás nem veszi el ezt a döntést, de ad mellé egy technikai nyomot, ami a beszélgetés időzítését megváltoztatja.
Hogyan keletkezik a jel
A megoldás a Google DeepMind egyik módszerén alapul, és a működése meglepően elegáns. Amikor a modell szöveget ír, folyamatosan választ egymással jelentésben egyenértékű szavak közül. Rengeteg ilyen apró, tétnélküli döntés van egy bekezdésben. Eddig ezt a választást véletlen döntötte el. Mostantól egy kulcs és az előtte álló néhány szó együtt határozza meg, melyik legyen.
A szöveg így kívülről nézve továbbra is véletlenszerű marad. Aki viszont ismeri a kulcsot, végig tudja nézni a szósorozatot, és meg tudja mondani, hogy ez a mintázat egyezik-e azzal, amit a modell a kulcs használatával választott volna.
Ebből több gyakorlati következmény adódik, amit a vezetői beszélgetésekben hasznos tudni. A jel nem hoz létre plusz tokent, tehát nem drágítja és nem lassítja a használatot. A gyártó saját tesztjei szerint a szöveg tartalmán, kreativitásán és olvashatóságán nem változtat, az olvasó számára a jelölt és a jelöletlen válasz megkülönböztethetetlen.
A rész, amit a hírek kihagynak
Itt válik a dokumentum igazán hasznossá, mert a gyártó maga sorolja fel, hol nem működik a saját megoldása.
A jel akkor áll össze megbízhatóan, ha sok szóválasztás történt. Rövid szövegen ezért nem használható, egyszerűen kevés a döntés, amiből ki lehetne olvasni bármit.
Ennél érdekesebb, hogy a jel ritkul ott, ahol a szöveg tényszerű. Ha egy mondatnak pontosnak kell lennie, akkor nincs miből választani. Az a mondat, hogy Isaac Newton legismertebb műve a Principia, gyakorlatilag egyféleképpen írható le értelmesen, tehát nincs hová jelet rejteni. Minél szárazabb és tényszerűbb egy anyag, annál gyengébb lesz rajta a nyom.
A kód külön fejezetet érdemel, mert a fejlesztési vezetőktől ezzel kapcsolatban kaptam a legélesebb kérdést. Erre lentebb részletesen kitérek.
A legfontosabb pont viszont a szerkesztésről szól, és ez az, amit a leggyakrabban félreértenek. Ha valaki saját szöveget ad be és csak átolvastatja, a kimenetben szinte minden szó az emberé marad, tehát a jelnek alig van mibe kapaszkodnia. Ilyenkor gyenge nyom keletkezik vagy semmilyen. A gyártó ezt egyértelműen kimondja. Ugyanakkor azt is kimondja, hogy a jel nem tudja megkülönböztetni azt, hogy a Claude írta a szöveget, attól, hogy a Claude erősen átdolgozta.
A könnyű utólagos szerkesztés valószínűleg nem tünteti el a nyomot, a teljes újraírás viszont igen. Ha minden szó kicserélődik, nem marad mihez mérni.
Végül a hiány kérdése. Ha nincs jel, az önmagában semmit nem bizonyít. Hiányozhat azért, mert régebbi modell írta, mert a szöveg rövid, mert erősen szerkesztették, mert formátumot váltott, vagy mert más gyártó modellje készítette, aminek más a kulcsa.
Mi történik a kóddal
Egy fejlesztési vezető tette fel a legjobb kérdést, amit eddig hallottam a témában. Ha a vízjel befolyásolja, melyik szót választja a modell, akkor előfordulhat-e, hogy a kódban nem azt írja oda, ami a legjobb lenne, hanem azt, ami a jelnek megfelel. Vagyis romolhat-e a kód minősége attól, hogy jelölni kell.
A válasz a mechanizmusból következik, és megnyugtató. A jel ott egyáltalán nem kerül alkalmazásra, ahol pontos kimenetre van szükség. A gyártó megfogalmazása szerint ahol nincs valódi választás, és egy másik kifejezéstől a kód eltörne vagy az állítás tényszerűen hibás lenne, ott a vízjel nem lép működésbe. Nem arról van szó tehát, hogy a rendszer utólag felülbírálja a jó megoldást. Arról van szó, hogy azokon a pontokon, ahol a modellnek amúgy sincs mozgástere, nincs mit jelölni.
Ahol viszont tényleg szabad a választás, ott megjelenhet a jel. A kódban ilyenek a kommentek, illetve azok az elnevezések, ahol több megoldás is egyformán helyes. A gyártó állítása szerint magára a működő kódra ennek elhanyagolható hatása van.
A kérdés második fele azonban jogos, és szerintem ezt a részt nem szabad elhallgatni. A jel akkor lép be, amikor a modell két olyan lehetőség között választ, amit ő maga egyformán jónak ítél. Ez a saját valószínűségi mércéje szerint értendő, ami nem ugyanaz, mint amit egy adott kódbázisban a legjobbnak tartanánk. Két változónév lehet a modell számára egyenrangú, miközben az egyik sokkal jobban illeszkedik a csapat névadási szokásaihoz.
Csakhogy ez a helyzet a vízjel előtt is pontosan ugyanígy nézett ki. Ilyenkor a döntést véletlen hozta meg. A változás annyi, hogy a véletlen forrása lett más. A rendszer nem a jobb megoldás helyett választ rosszabbat, hanem az egyformán jónak ítéltek közül másikat, mint amit korábban a véletlen adott volna. Ez a különbség a gyakorlatban ott jelenik meg, ahol eddig sem volt szakmai tétje.
A minőségi állításokra a gyártó két bizonyítékot hoz. A saját belső tesztjeiben nem látták, hogy a jelölés hatna a tartalomra, a kreativitásra vagy az olvashatóságra. Emellett hivatkozik arra a kutatásra is, amelyen a módszer alapul, ahol a jelölt és a jelöletlen kimenet között nem mutatkozott statisztikailag szignifikáns eltérés, és az emberi értékelők egymás mellé téve sem láttak minőségi különbséget.
Egy dolgot viszont hozzá kell tenni, mert a gyártó anyagában nem szerepel. Kódra vonatkozó külön mérést nem tettek közzé. A hivatkozott vizsgálatok szöveges kimenetre vonatkoznak. Ha egy fejlesztési szervezetnél ez érdemi kockázati kérdés, akkor nem a nyilatkozatot kell elfogadni, hanem a saját feladatain kell megnézni. Ez amúgy sem nagy munka, mert a legtöbb csapatnál már fut valamilyen automatikus tesztkészlet, ami erre használható.
A gyakorlati következtetés a fejlesztési vezetőknek két mondat. A kód minősége miatt nem kell tartani a jelöléstől, mert a mechanizmus pont ott áll félre, ahol a pontosság számít. Aki viszont abban reménykedett, hogy ezzel majd kimutatható lesz, mennyi gépi kód került a rendszerbe, annak rossz hírem van, mert a kód a leggyengébb terep ehhez, és ezen a helyzet a közeljövőben sem fog változni.
Amit a magyar cégek a leggyakrabban kérdeznek
Az első kérdés szinte mindig ugyanaz, és jogos. Kiderül-e a jelből, hogy melyik cég vagy melyik munkatárs használta a rendszert.
A válasz nem. A gyártó leírása szerint a jel semmilyen azonosító információt nem hordoz, nem vezet vissza személyre, szervezetre vagy beszélgetésre. Ez a mondat több ügyfelemnél oldott fel egy komoly félelmet. Ott ugyanis az volt a feltételezés, hogy a jelölt szövegből előbb-utóbb kiolvasható lesz, melyik cégnél születtek a dokumentumok. A jel nem így épül fel. Azt lehet vele megnézni, hogy a mintázat egy Claude modelltől származik-e, azt nem, hogy kitől.
A második gyakori kérdés a felelősségről szól. Egy 250 fős mérnökiroda pályázati csapatánál pontosan ezt vitattuk meg. Ott a dokumentációt a kollégák írják, a gép pedig a nyelvi simításban segít. A leírás alapján ez a fajta használat gyenge nyomot hagy vagy semmilyet, mert a szavak túlnyomó része emberi marad. Ahol viszont a gép nagyobb részt vállal, ott a jel megjelenik, és nem fogja megkülönböztetni a nagyfokú átdolgozást a nulláról írástól.
Ebből a beszélgetésből azt tanultam, hogy a jel körüli aggodalom nagy része rossz helyre irányul. A cégek attól félnek, hogy lelepleződnek. A tényleges kockázat nem ez, hanem az, hogy valaki egy ilyen mérést bizonyítéknak fog tekinteni, holott a gyártó szerint sem az.
Ahol ez tényleg számítani fog
Három területet látok, ahol a következő hónapokban ütközés lesz.
Az egyik a közbeszerzés és a pályázat. Egyre több kiírásban szerepel nyilatkozat a saját szellemi termékről. Eddig ez nehezen volt vizsgálható, most viszont lesz hozzá egy jelzés, ami könnyen tűnik bizonyítéknak. Azt tapasztaltam, hogy az ellenőrző oldal az új eszközöket eleinte sokkal határozottabban használja, mint amennyire azok megbízhatóak, és a mostani leírás pont arról szól, hogy ez az eszköz mennyire nem alkalmas ilyen szerepre.
A másik a HR. Egy 80 fős szoftvercégnél a toborzásért felelős kolléga felvetette, hogy jó lenne a motivációs leveleket megnézetni. Ezt határozottan lebeszéltem róla, és a gyártó leírása azóta még több érvet adott hozzá. A motivációs levél rövid, tehát pont az a szövegtípus, amin a mérés a leggyengébb. Aki ilyenre alapoz döntést, az egy megbízhatatlan méréssel dönt emberi sorsokról.
A harmadik a régi szerződéses vállalás. Sok ügynökségi és tanácsadói szerződésben van mondat arról, hogy a szállító eredeti, emberi munkát ad át. Ezeket évekkel ezelőtt írták. Egy kreatív ügynökségnél, ahol harmincöten dolgoznak, ebből lett kellemetlen beszélgetés az egyik nagy ügyféllel, mert a keretszerződés régi fordulata szigorúbban hangzott, mint a napi gyakorlat. Amikor leültünk, kiderült, hogy az ügyfelet egyáltalán nem zavarja a gépi segítség a fogalmazásnál. Az zavarta volna, ha erről nem tud. Harminc perc alatt átírtuk a bekezdést arra, amit mindkét fél amúgy is csinált.
Amit most nézzen át egy cég
Nem nagy projekt, néhány óra munka.
Elsőként a kimenő szerződések és általános feltételek azon mondatait kell összeszedni, amelyek eredetiségről vagy emberi munkáról szólnak. Ha van köztük olyan, ami szó szerint értelmezve a mai gyakorlatot tiltja, azt módosítani kell. Nem a gyakorlatot kell a régi mondathoz igazítani.
Ugyanezt meg kell tenni a bejövő oldalon is. Egy pénzügyi szolgáltató marketing területén ebből jött ki, hogy két ügynökségi szerződésben olyan vállalás szerepelt, amit maga a megrendelő sem várt el komolyan.
A harmadik a belső szabályzat. A vállalati AI policy-ba egyetlen bekezdés kell arról, hogy a cég nem hoz elmarasztaló döntést kizárólag ilyen mérés alapján, sem munkatárssal, sem jelentkezővel, sem beszállítóval szemben. Aki ezt nem írja le előre, annál az első ilyen eset kapkodásban fog eldőlni.
A negyedik a fájlokra vonatkozik. A képekbe és a támogatott állományokba aláírt eredetadat kerül egy nyílt szabvány szerint, és ez a metaadat sokkal könnyebben olvasható, mint a szövegbe rejtett jel. Aki ügyfélnek ad át képanyagot, számoljon azzal, hogy ez az információ vele megy.
Az utolsó lépés nem szabályzat kérdése, hanem beszélgetésé. A nagyobb ügyfeleknél előbb-utóbb szóba kerül a téma, és jobb, ha a szállító hozza fel. Két mondat arról, hogyan használ a cég gépi eszközt és ki felel a végeredményért, minden ilyen beszélgetést lezár.
Amit ne csináljon
Két reakciót látok kialakulni, és mindkettő rossz irányba visz.
Az egyik a váltás olyan eszközre, ami nem jelöl. A szabályozás iránya egyértelmű, a kódexet a nagy szolgáltatók aláírták, tehát aki most emiatt vált, az fél éven belül ugyanitt lesz, csak közben elveszít egy bevezetést. A platform döntést nem ez a szempont kell hogy vezesse.
A másik a lelkes ellenőrzés. Az a vezető, aki most azt tervezi, hogy végre kideríti, ki használ gépet a csapatában, két hét alatt tönkre tudja tenni a saját AI bevezetését. Ha a munkatársak azt érzik, hogy a használat lebukás kérdése, akkor nem abbahagyják, hanem eltitkolják. Ezzel pontosan az az árnyékhasználat erősödik meg, amiről külön írtam.
A másik oldal, amiről kevesebb szó esik
A vitában szinte kizárólag a lebukás kérdése jelenik meg, pedig a fájlokra kerülő eredetadatnak van egy praktikusabb haszna is. Ez a szabvány nem csak azt tudja jelezni, hogy egy állomány gépi eszközön ment át, hanem azt is, ha utólag megváltoztatták.
Ez azoknak hasznos, akik ma nehezen tudják igazolni a saját anyagaik épségét. Aki dokumentációt vagy vizuális anyagot ad át, és eddig sehogy nem tudta bizonyítani, hogy az átadás óta nem nyúlt hozzá senki, az most kap egy technikai lehetőséget. Ez a rész évekig alig érdekelt bárkit, és szerintem nagyobb üzleti jelentősége lesz, mint annak a kérdésnek, hogy ki írta a bekezdést.
A gyártó jelezte, hogy a jel kimutatására szolgáló eszközt később nyilvánosan is elérhetővé tesz. Amíg ez nincs meg, addig a téma inkább szerződési és kommunikációs kérdés, mint technikai. Az a cég, amelyik előre tisztázza az ügyfelével, hogyan dolgozik, ezt a néhány hónapot nyugodtan átvészeli.
kdconsulting.hu · [email protected]