Az emberi ellenőrzés helye

A jó rendszer nem az, ahol az ember eltűnik

Könnyű azt hinni, hogy egy AI megoldás annál jobb, minél teljesebben veszi ki az embert a képből. A gyakorlat ennek pont az ellenkezőjét mutatja. Sok mindent lehet automatizálni, de nem mindent érdemes. Van, ahol egyetlen emberi döntés több időt és pénzt spórol, mint egy újabb automatikus lépcső, amit meg kell tervezni, fel kell építeni, karban kell tartani és folyamatosan ellenőrizni kell. És van, ahol egyszerűen ki kell mondani, hogy ezt nem lehet megbízhatóan gépre bízni.

A teljes automatizálás azért csábító, mert olcsónak és modernnek hangzik. A baj az, hogy egy rossz automatikus lépés ára gyakran sokkal nagyobb, mint az a néhány perc emberi idő, amit megspórolna. Egy téves visszatérítés, egy sértő hangú válasz vagy egy rossz címre kiküldött bizalmas adat nem javítható vissza egy kattintással. Amikor tehát azt kérdezzük, kikerülhet-e teljesen az ember, valójában azt kérdezzük, megéri-e a kockázat. Sokszor nem éri meg, és ez nem az AI korlátja, hanem józan mérnöki mérlegelés.

Érdemes a mércét is átgondolni. Az emberi jelenlétet gyakran költségként könyveljük el, a hibát viszont ritkán számoljuk hozzá az automatizálás mérlegéhez. Pedig egy megfelelő ponton meghagyott ellenőrzés valójában nem a lassítás, hanem a biztosíték kategóriájába tartozik. A kérdés nem az, hogy hány lépésből tűnt el az ember, hanem hogy a rendszer egészében hol keletkezik a legnagyobb érték és hol a legnagyobb veszteség. Egy jó AI termék ezt a két térképet fekteti egymásra, és ott hagy döntést emberi kézben, ahol a kettő találkozik.

Hol maradjon ember a folyamatban

A kérdés nem az, hogy legyen-e ember a rendszerben, hanem hogy pontosan hol. Egy jól tervezett megoldásban az ember nem mindenhol ellenőriz, hanem célzottan azokon a pontokon marad, ahol a jelenléte a legtöbbet ér. Három ilyen pont van, és érdemes mindhármat végiggondolni minden folyamatnál, amit AI-ra bíznánk. Ha egy lépésre a három közül akár csak egy is igaz, ott az emberi jóváhagyásnak helye van.

Egy fiktív céges példa

Vegyünk egy fiktív magyar céget, a Berkenye Webshop Kft.-t, amely saját AI asszisztenst épített az ügyfélszolgálati levelek kezelésére. Az asszisztens elolvassa a beérkező üzenetet, felismeri, miről szól, és megfogalmaz egy választervezetet. Az első ötlet az volt, hogy az egész menjen automatikusan, hiszen a levelek java része könnyű. Amikor viszont végiggondolták, hol milyen a tét, kirajzolódott, hogy nem minden levél egyforma súlyú.

A szállítási határidőre, a számlamásolatra vagy a nyitvatartásra vonatkozó kérdéseket nyugodtan rábízták a gépre, mert ezek gyakoriak, egyértelműek, és egy esetleges tévedés is olcsón javítható. A nagyobb összegű visszatérítéseket, a jogi hangvételű panaszokat és azokat az eseteket, ahol az asszisztens maga jelezte, hogy bizonytalan, viszont mind emberi jóváhagyáshoz kötötték. Így a csapat nem az összes levéllel foglalkozik, csak azzal a kisebb hányaddal, ahol a döntése tényleg számít. Ettől nem lett kevésbé automatizált a rendszer, hanem megbízhatóbb.

A megoldás technikailag egyszerű maradt. Az asszisztens minden levélhez hozzárendel egy kategóriát és egy megbízhatósági jelzést, majd a magas tétű vagy bizonytalan eseteket egy külön várólistára teszi, ahol egy munkatárs átnézi és egy kattintással jóváhagyja vagy módosítja a választervezetet. A rutinlevelek nem is kerülnek ebbe a sorba, azok maguktól kimennek. A Berkenye csapata számára a legfontosabb tapasztalat nem is a technológia volt, hanem hogy le kellett ülniük és őszintén megbeszélniük, melyik levéltípusnál mekkora a tét. Ez a beszélgetés adta a rendszer valódi tervét, a kód csak leképezte.

Ez nem kudarc, hanem jó tervezés

Amikor egy folyamatban tudatosan bent hagyunk egy emberi jóváhagyási pontot, az nem azt jelenti, hogy az AI nem volt elég jó, vagy hogy félbemaradt a munka. Épp fordítva. Azt jelenti, hogy pontosan értjük, hol nagy a tét, és oda odatesszük a felelős döntést. A gyenge rendszer az, amelyik mindent egyformán, gondolkodás nélkül automatizál, és csak akkor derül ki a baj, amikor egy visszafordíthatatlan hiba már megtörtént.

Az emberi kapu ráadásul nem lassítja le a folyamatot úgy, ahogy elsőre gondolnánk. Mivel a rutinesetek maguktól futnak le, az ember figyelme felszabadul, és pont oda kerül, ahol tényleg szükség van rá. A gép elvégzi a sokat és az egyszerűt, az ember pedig a keveset és a fontosat. Ez a munkamegosztás a jól megtervezett AI termék egyik ismertetőjegye.

Hogyan építsd be a kaput a gyakorlatban

Az emberi jóváhagyás nem egy homályos elv, hanem egy konkrét lépés, amit be lehet tervezni a folyamatba. A lényeg, hogy a rendszer maga válogassa szét az eseteket, és csak azt tegye emberi kézbe, ami tényleg oda való. Az alábbi négy lépés egy egyszerű, működő mintát ír le, amit a legtöbb AI folyamatra rá lehet illeszteni.

Az arány idővel változik

Az a határ, ami elválasztja a gépre bízható és az emberi döntést igénylő eseteket, nincs kőbe vésve. Ahogy a modell javul, ahogy több valós adat gyűlik össze a rendszer működéséről, és ahogy a csapat megtanulja, mikor bízhat a javaslatokban, az emberi kapuk egy része fokozatosan kinyílhat. Ami tavaly még kézi jóváhagyást igényelt, arról idén már kiderülhet, hogy elég megbízhatóan megy magától.

A mozgás azonban visszafelé is működik. Új terméktípus, új jogszabály vagy egy megváltozott ügyfélkör hozhat olyan kockázatot, ami korábban nem volt. Ilyenkor jó, ha vissza tudunk tenni egy emberi ellenőrzést oda, ahonnan korábban elvettük. Ezért érdemes időnként, nem csak a bevezetéskor, újra feltenni a kérdést, hol kell most tényleg ember. A jó rendszer nem az, amelyik egyszer eldönti ezt és soha nem néz rá többet, hanem az, amelyik együtt tud mozogni azzal, ahogy a kockázatok és a képességek változnak.

Ehhez érdemes a döntést nem egyszeri beállításnak, hanem visszatérő felülvizsgálatnak tekinteni. Ha rögzítjük, hol és miért van emberi kapu, akkor később könnyű megnézni, beváltak-e a feltevések. Ahol hónapokon át szinte minden emberi jóváhagyás csak rábólintás volt, ott jó eséllyel túl óvatosak voltunk, és a kaput ki lehet nyitni. Ahol viszont az ember rendszeresen javított a gép javaslatán, ott a kontroll a helyén van. Így a rendszer nem érzésből, hanem a saját működésének tapasztalatából tanulja meg, hol maradjon ember.

Mit vigyél magaddal

A jó AI megoldás nem attól jó, hogy teljesen kikerül belőle az ember. Attól jó, hogy pontosan tudja, hol engedheti el a folyamatot és hol nem. Az ember a kockázatos pontokon marad, ott, ahol a hibának ára van, ahol a döntés érzékeny, vagy ahol a gép bizonytalan. Ez nem az automatizálás kudarca, hanem a tudatos tervezés jele. És mivel az arány idővel változik, a helyes válasz nem egyszer születik meg, hanem újra és újra mérlegeljük, ahogy a rendszer és a világ körülötte alakul.