Kalmár Dániel · Kutatás · 05 / 11

Mérés és bizonyítás az AI bevezetésében

A bevezetések mérése többnyire a használati arányon, a megadott utasítások számán és az önbevallásos időmegtakarításon alapul. Mindhárom gyenge bizonyíték, a legsúlyosabb hiba pedig az egyéni szinten mért megtakarítás szervezeti szintre vetítése. Valószínűségi kimenetet adó folyamatot mérés nélkül működtetni nem lehet.

A sorozat része, Az AI logikája körül szervezett munka

A terhelés áthelyezése csak akkor igazolható, ha a hatás mérhető. A mérés tárgya a korai szakaszban nem a végeredmény, hanem a felhalmozott komplementer vagyon állapota, mert a termelékenységi görbe elején a számok a leállítás mellett szólnak.


Hamis jelek

Az aktivitásmérés félrevezető

A bevezetések mérése többnyire a használati arányon, a megadott utasítások számán és az önbevallásos időmegtakarításon alapul. Mindhárom gyenge bizonyíték. A használati arány csak hozzáférést mutat, nem eredményt, és akkor is magas lehet, ha a munka nem változott. Az utasítások száma a ráfordítást méri, nem a hozamot. Önbevallásos megtakarítás pedig rendszerszerűen felülértékelt, mert a válaszadó a sikeres eseteket idézi fel, az elvesztegetett próbálkozásokat viszont nem.

A legsúlyosabb hiba az egyéni szinten mért megtakarítás szervezeti szintre vetítése. Felszabaduló idő csak akkor ér valamit, ha a folyamat fel is tudja használni. Ha a következő lépés kapacitása nem változott, a megtakarított idő a várakozásban semmisül meg, és a vállalati eredményben nem jelenik meg.


Metrikafa

Metrikafa

A mérés három szintet követ, és a felső szint mindig üzleti eredmény.

Eredményszint. Bevétel, ráfordítás, ügyfélmegtartás, teljesítési idő, megfelelési kockázat. Ez a szint lassan mozog és sok tényező hatása alatt áll, ezért egyedül nem elég.

Folyamatszint. Végponttól végpontig mért átfutási idő, első átadásra elfogadott kimenetek aránya, újramunka aránya, egy kimenetre eső teljes ráfordítás, emberi beavatkozás aránya eseményenként, várakozási idő a lépések között. Ez a szint a módszertan tulajdonképpeni mérési területe, mert gyorsan reagál és közvetlenül a tervezési döntésekhez kötődik.

Képességszint. Kontextuscsomagok lefedettsége, vizsgálati készletek mérete és aktualitása, adattermékek minőségi vállalásának teljesülése, a hibából tanulás átfutási ideje. Ez a szint a komplementer tőke állapotát mutatja, vagyis azt, ami a J alakú görbe emelkedő szakaszát megalapozza.


Elrendezés

Kísérleti elrendezés

A hatás bizonyításához összehasonlítási alap kell, különben a javulás a szezonalitásnak, a piaci helyzetnek vagy a megfigyelés önmagában kiváltott hatásának is tulajdonítható. Négy használható elrendezés létezik.

Előzetes alapérték. A legkevesebb, ami elfogadható. A folyamat mutatóit az átalakítás előtt kell megmérni, legalább néhány hónapos időszakra, hiszen utólag már nem rekonstruálható.

Visszatartott csoport. Az érintett egységek egy része a régi módon dolgozik egy meghatározott időszakon át. A legerősebb elrendezés, ugyanakkor szervezetileg a legnehezebb, mert hátrányosnak látszik.

Szakaszos bevezetés. Az egységek különböző időpontokban állnak át, így a bevezetés előtti és utáni különbség összevethető a még át nem állt egységek változásával. Gyakorlati szempontból ez a legjobb kompromisszum, mert a bevezetés mindenhol megtörténik, a hatás viszont elkülöníthető a külső hatásoktól.

Árnyékfuttatás. Az új folyamat párhuzamosan fut, a kimenete nem kerül felhasználásra, csak összevetésre. Kockázat nélkül mér, viszont nem mutatja meg a tényleges munkaszervezési hatást, ezért csak a minőség vizsgálatára elég.


Szakadék

A kísérlet és a termelés közötti szakadék

A bemutató jellegű kísérletek rendre jobb eredményt adnak, mint a termelési használat, és ennek négy szerkezeti oka van.

A kísérlet válogatott eseteken fut, a termelés a teljes szóródáson, a kivételekkel együtt. Érdeklődő, motivált munkatársak végzik a kísérletet, a termelést pedig mindenki. A kísérlethez a kontextust emberi kézzel állítják össze, a termelésben ennek automatikusan elő kell állnia. Kimarad a kísérletből a gondozás, a jogosultságkezelés, a naplózás és a hibakezelés terhe, a termelés viszont ezek nélkül nem indulhat.

A következtetés a kísérlet tervezésére vonatkozik. Ennek célja nem a működés igazolása, hanem a termelési feltételek feltárása, ezért a kísérletet a legrosszabb esetekre és a kivételekre érdemes futtatni, nem a legkedvezőbb mintán.


Készlet

Az értékelési készlet mint vállalati eszköz

A vizsgálati készlet a módszertan legalulértékeltebb eleme, és egyben a legnagyobb védhető előny forrása. Modellek képessége vásárolható és mindenki számára elérhető, az a tudás viszont, hogy a vállalat saját munkájában mi számít jó kimenetnek, csak belül keletkezik. A leírt kritérium, a valós esetekből álló példatár és a hibatípusok rendszere olyan vagyon, amely a modellváltásokon átvihető, és minden következő bevezetés költségét csökkenti.

Ebből adódik a vezetői figyelem helyes tárgya a korai szakaszban. Nem a használati arány, hanem a kritériumok és a példatárak felépülése mutatja, hogy a szervezet tart-e valahová.


Egy kidolgozott példa, az ajánlatkészítés mérése

A metrikafa csak akkor működik, ha egyetlen folyamra, konkrét számokkal készül el. Az ajánlatkészítés példáján a három szint így néz ki.

Szint Mutató Honnan jön Mikor mérjük
Eredmény ajánlat elfogadási arány, egy megszerzett ügyfélre eső ráfordítás üzletállapot az ügyfélnyilvántartásból havonta, legalább fél éves késéssel értelmezve
Folyamat jelzés beérkezésétől az elküldött ajánlatig eltelt idő, első átadásra elfogadott ajánlatok aránya, egy ajánlatra eső emberi munkaóra folyamatnapló és a verifikáló jelölése hetente
Képesség árazási szabályok írott lefedettsége, a vizsgálati készlet esetszáma, a hibatípusok javításának átfutási ideje kontextuscsomag és a készlet állapota kétheti áttekintésen

A sorrend fontos. Az alapérték felvétele az átalakítás előtt történik, legalább három hónap előzményből, különben az eredmény később nem védhető. A folyamatszint hetente mozog, és ez ad korai jelet, az eredményszint pedig lassan és sok tényező hatása alatt áll, ezért önmagában nem bizonyít. A képességszint mutatói a bevezetés első heteiben az egyetlen értelmes előrehaladási jelzés, mert a komplementer vagyon ekkor épül.

Egy gyakori hiba a folyamatszint rossz határolása. Ha a mérés csak az ajánlat megírásának idejét fogja, akkor a gépi segítség látványos javulást mutat, miközben a teljes átfutási idő változatlan marad, hiszen a jóváhagyási sor és az árazási egyeztetés nem mozdult. A folyam határa ezért mindig az ügyféltől érkező jelzés és az ügyfélhez megérkező ajánlat.


Tovább

Kapcsolódó eszközök

A megtérülés becsléséhez és a mérési alap felvételéhez két eszköz áll a honlapon. A ROI kalkulátor a bevezetés várható hozamát számolja ki konkrét forintban, a KPI és mérési útmutató pedig a bevezetés sikerének mérését járja körbe üzleti nyelven.


Hivatkozások

Hivatkozott források

Az anyag állításai az alábbi szakirodalomra épülnek.


← A nyolc fázis A sorozat tartalma Silók és értéklánc →