Hallucináció és a modell korlátai

Mi a hallucináció

Hallucinációnak azt nevezzük, amikor a modell olyasmit állít, ami hihetően hangzik, de nem igaz. Kitalálhat egy nem létező forrást, hibás évszámot adhat meg, összekeverhet két embert, vagy magabiztosan leírhat egy eljárást, amely valójában nem így működik. A bosszantó az, hogy a téves válasz gyakran ugyanolyan határozott és gördülékeny, mint a helyes. A hangnemből nem lehet megállapítani, hogy igazat mond-e. A modell akkor is meggyőzően fogalmaz, amikor téved.

Ez a jelenség sokakat megtéveszt, mert az ember hozzászokott, hogy a magabiztos, jól megfogalmazott állítás mögött általában tudás áll. A modellnél ez a kapcsolat nem áll fenn. A folyékony fogalmazás nem a helyesség jele, csak a nyelvi ügyességé. Aki ezt megérti, sokkal óvatosabban, és éppen ezért sokkal biztonságosabban használja az eszközt.

Egy hétköznapi példa jól megvilágítja a helyzetet. Kérjünk egy nyelvi modelltől néhány könyvajánlót egy szűk témában. Előfordulhat, hogy tökéletesen hihető címeket és szerzőket sorol fel, pontos évszámmal, meggyőző leírással, csak éppen az adott könyv nem létezik. A modell nem hazudni akart, egyszerűen a legvalószínűbbnek tűnő folytatást állította elő, és egy könyvajánló listában ilyen elemek szoktak szerepelni. A forma tökéletes, a tartalom kitalált. Ez a fajta hiba nem korlátozódik a könyvekre, ugyanígy megjelenhet jogszabályi hivatkozásoknál, tudományos forrásoknál vagy pontos számadatoknál is.

Miért történik

A hallucináció nem hiba a szó megszokott értelmében, hanem a modell természetéből következik. Idézzük fel, mit csinál valójában. A korábbi szöveg alapján a legvalószínűbb folytatást állítja elő. A célja egy nyelvileg meggyőző, jól illeszkedő szöveg, nem pedig a tényellenőrzés. A modellnek nincs beépített fogalma az igazságról. Nem tud utánanézni és nem tudja, mit nem tud. Ha egy kérdésre a legvalószínűbb folytatás egy kitalált, de hihető részlet, akkor azt fogja leírni, mintha tudná.

Ez különösen olyankor jelentkezik, amikor a modell ismereteinek határán jár. Ha ritka, pontos adatot kérünk, egy konkrét számot, egy hivatkozást, egy nevet, amiről keveset tanult, akkor nő az esély, hogy inkább kitalál valamit, semmint bevallja a hiányt. Szintén gyakori a hallucináció a betanítás utáni, friss eseményeknél, hiszen ezekről a modell alapból nem tud semmit. A jelenség tehát nem véletlen, hanem előre látható, és éppen ezért kezelhető.

Hogyan védekezzünk

Az első és legfontosabb szokás az ellenőrzés. Ha egy válasz tényt, számot, nevet vagy hivatkozást tartalmaz, és ez fontos nekünk, akkor nézzünk utána megbízható forrásból. A modell kiválóan segít megfogalmazni, ötletelni, vázlatot készíteni, de a konkrét tényeket érdemes emberi kézzel visszaigazolni. Ez nem a bizalmatlanság jele, hanem a felelős használat alapja. Ugyanígy járnánk el egy gyors, magabiztos, de ismeretlen forrásból származó információval is.

A második hasznos eszköz a földelés. Ez azt jelenti, hogy a modellnek nem szabadon kell emlékeznie, hanem odaadjuk neki a megbízható forrást, és arra kérjük, abból dolgozzon. Ha egy dokumentumot beillesztünk, és arra kérdezünk rá, sokkal kisebb a kitalálás esélye, mert a modell a látott szövegből meríthet. Sok mai eszköz éppen ezért kapcsol frissen keresett forrásokat a válaszhoz. Harmadikként érdemes a modelltől is elkérni, honnan tudja, amit állít, mert ilyenkor jobban kiderül, ha bizonytalan lábakon áll a felelet.

Mikor ne bízzuk rá

Vannak helyzetek, amikor a puszta modellválasz nem elég, és emberi felelősség kell. Ilyen minden nagy tétű döntés, ahol a tévedés komoly kárt okozhat. Orvosi, jogi vagy pénzügyi kérdésekben a modell hasznos segéd lehet a tájékozódásban, de a döntést szakemberre és ellenőrzött forrásra kell bízni. Szintén óvatosak legyünk, ha a válasz alapján másokat érintő lépést tennénk, vagy ha nyilvánosságra kerülő anyagba emelnénk át a modell állításait ellenőrzés nélkül.

A jó gyakorlat egyszerű elvre épül. A modell remek első vázlatot ad, gyorsan összefoglal, ötletet szór, nyelvet csiszol. De a végső felelősség az emberé marad. Minél nagyobb a tét, annál fontosabb az emberi ellenőrzés a folyamat végén. Ha ezt a szemléletet magunkévá tesszük, akkor a hallucináció nem csapda, hanem egy ismert korlát, amivel együtt lehet dolgozni. Az utolsó leckében kitekintünk arra, merre tart mindez, és mit jelent a felelős használat egy egyre önállóbb AI korában.

A magabiztosság csapdája

A hallucináció azért különösen alattomos, mert a modell a téves választ is meggyőző hangon adja elő. Az ember pedig ösztönösen bízik a magabiztos, gördülékeny közlésben, hiszen a mindennapokban a magabiztosság gyakran valódi tudást takar. A modellnél ez a kapocs elszakad. A folyékony fogalmazás és a helyesség két különböző dolog, és az egyikből nem következik a másik. Aki ezt a csapdát ismeri, az nem a hangnem alapján ítéli meg a választ, hanem aszerint, hogy a tartalom ellenőrizhető-e.

Egy egyszerű szokás sokat segít. Fontos állításnál kérdezzük meg magunktól, ellenőriztem-e ezt független forrásból. Ha egy szám, egy név, egy dátum vagy egy hivatkozás tétje nagy, akkor a válasz addig csak feltételezés, amíg meg nem erősítettük. Az is hasznos, ha a modellnek kifejezetten megengedjük, hogy azt mondja, nem tudja. Ha a promptban jelezzük, hogy inkább vallja be a bizonytalanságot, mintsem kitaláljon valamit, akkor gyakran óvatosabb és őszintébb választ ad. A cél nem a bizalmatlanság, hanem az éber, ellenőrző használat, amely mellett a modell erősségei biztonságosan érvényesülnek.