Mit jelent a földelés
A földelés azt jelenti, hogy az AI állításait valós forrásokhoz kötjük. Nem elégszünk meg azzal, hogy valami helyesnek hangzik, hanem megnézzük, honnan jön. Ha a gép egy adatra hivatkozik, megkeressük az eredeti dokumentumban. Ha egy szabályt idéz, ellenőrizzük a hivatalos szövegben. A cél, hogy a válasz ne a levegőben lógjon, hanem legyen alatta talaj, amelyre rá tudunk mutatni.
Ez azért fontos, mert a nyelvi modellek nem adatbázisból keresnek elő tényeket, hanem valószínű folytatásokat állítanak elő. Ezért előfordul, hogy egy jól formázott, hihető részletet egyszerűen kitalálnak. Erre a jelenségre gyakran hallucinációként hivatkoznak. Nem rosszindulatból történik, hanem a működés természetéből fakad, ezért nem lehet teljesen kizárni, csak ellenőrzéssel elfogni.
Hogyan segíthet a saját anyagod
A hallucináció kockázata jóval kisebb, ha a gép a te forrásaidból dolgozik, nem a saját emlékezetéből. Amikor egy dokumentumot beillesztesz vagy megadsz neki, és arra kéred, hogy csak abból válaszoljon, a válaszok sokkal jobban kötődnek a valósághoz. Ilyenkor is előfordulhat tévedés, de az ellenőrzés egyszerűbb, mert tudod, hol kell keresned. A jó kérés része lehet az is, hogy megkéred, jelölje meg, honnan vette az állítást.
Hasznos technika, hogy a bizonytalanságot is kéred. Megmondhatod a gépnek, hogy ha valamiben nem biztos, inkább jelezze, semmint kitaláljon egy választ. Ez nem szünteti meg a kockázatot, de csökkenti, és jelzésekhez juttat, hol érdemes jobban odafigyelned. A cél nem a tökéletes gép, hanem az, hogy a hibák láthatóvá és javíthatóvá váljanak.
Külön óvatosnak kell lenni azokkal a részletekkel, amelyek nagyon konkrétnak tűnnek. Egy pontos idézet, egy törvényhely száma, egy statisztikai adat vagy egy hivatkozás mind olyan, amit a gép meggyőzően elő tud állítani akkor is, ha nem létezik. Éppen a részletgazdagság kelti a hitelesség látszatát. Ezért a szabály egyszerű. Amit ténynek szánsz továbbadni, azt ne a válasz megjelenése alapján fogadd el, hanem azért, mert egy megbízható forrásban is megtaláltad.
A tényellenőrzés gyakorlata
A földelés a mindennapokban néhány egyszerű szokásból áll össze. Ezek nem lassítanak le komolyan, viszont megvédenek a legkínosabb hibáktól.
A felelősség nem delegálható. Akárki írta a szöveget, aki kiküldi vagy dönt alapján, az felel érte. A gép nem vállal felelősséget a saját tévedéséért, ezért a végső jóváhagyás mindig emberi lépés. A földelés ennek a felelősségnek a gyakorlati oldala.
Az ellenőrzés súlya a téthez igazodik
Nem minden állítást kell ugyanolyan alapossággal földelni, és ezt fontos tisztán látni, különben az ellenőrzés maga válik akadállyá. Egy belső ötletelésnél, ahol te vagy az egyetlen olvasó, elég a józan ész. Egy blogszövegnél már megnézed a fontosabb tényeket. Egy hivatalos beadványnál, egy szerződésnél vagy egy sajtónak szánt anyagnál viszont minden konkrét állításnak visszakövethetőnek kell lennie. A kérdés mindig ugyanaz. Mi a következménye, ha ez az állítás hibás, és ki fogja elszenvedni.
Ez a mérlegelés maga is gyakorlott készséggé válik. Az elején talán mindent kétszer néznél meg, később ránézésre megérzed, hol a valódi kockázat. A tapasztalt felhasználót nem az különbözteti meg, hogy mindent ellenőriz, hanem hogy tudja, mit muszáj, és mit lehet nyugodtan elengedni. A földelés így nem lassít le, hanem éppen felszabadít, mert biztonságot ad ott, ahol számít, és időt spórol ott, ahol nem.
Összegzés
A generatív AI kiváló társ, de nem tévedhetetlen forrás. A földelés az a szokás, amely a válaszokat visszaköti a valósághoz, és tényként csak azt engedi tovább, ami ellenőrizhető. Ha ezt beépíted, nyugodtan támaszkodhatsz a gépre a gyorsításban, miközben a fontos állításokért te állsz jót. A bizalom és az ellenőrzés így nem ellentét, hanem együtt adják a megbízható használatot.
A földelés szemlélete akkor is segít, amikor nincs időd mindent visszanézni. Ilyenkor magát a szöveget is átalakíthatod úgy, hogy ne állítson többet, mint amennyi biztos. Ha egy adatban nem vagy biztos, kihagyhatod, vagy jelezheted, hogy ellenőrzésre szorul. Ha egy következtetés bizonytalan, óvatosabb megfogalmazást választhatsz. A felelős használat nem mindig jelent teljes ellenőrzést, néha azt jelenti, hogy nem adsz tovább ellenőrizetlen állítást tényként. A kettő közötti különbség sokszor csak néhány szó, de az olvasó számára óriási.
A következő leckében a leggyakoribb hibákat vesszük sorra, azokat a buktatókat, amelyekbe a legtöbben beleesnek, és amelyeket egy kis odafigyeléssel könnyű elkerülni.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →