A felelős AI hat elve
A Microsoft hat elvet rögzített, amelyek mentén AI rendszereket fejleszt és használ. Méltányosság, amely szerint a rendszer minden embert egyenlően kezel. Megbízhatóság és biztonság, amely szerint kiszámíthatóan és veszélytelenül működik. Adatvédelem és adatbiztonság, amely a személyes és üzleti adatok védelmét jelenti. Befogadás, amely mindenki számára használhatóvá teszi. Átláthatóság, hogy értsük, hogyan működik és mire képes. Elszámoltathatóság, amely szerint a rendszerért és a döntéseiért mindig emberek felelnek.
Ezek az elvek elsősorban a fejlesztőknek szólnak, a napi felhasználó szempontjából az utolsó a legfontosabb. Az AI segít a munkában, de a döntésért és a következményeiért az marad felelős, aki az AI eredményét felhasználja.
Az érzékeny adatok védelme
Minden szervezetnek megvannak a szabályai arra, hogyan kezeljük az ügyféladatokat, a pénzügyi információkat, a személyes adatokat, a bizalmas üzleti információkat és a szellemi tulajdont. Az AI használata ezeket nem írja felül. A Microsoft 365 Copilot tiszteletben tartja a szervezet jogosultságait, csak azt látja, amit a felhasználó is láthat. Egy magánfiókos, ingyenes chatbot viszont semmilyen céges garanciát nem ad, és amit bemásolunk, az elhagyja a céget.
A Microsoft és a LinkedIn 2024-es Work Trend Index felmérése szerint a tudásmunkások 75 százaléka használ AI-t a munkájában, és az AI-t használók 78 százaléka a saját, nem a cég által biztosított eszközét hozza magával. Ezt nevezik shadow AI-nak, és tapasztalatom szerint a tiltás nem szünteti meg, csak láthatatlanná teszi. Jobban működik, ha a dolgozók egy egyszerű keretben maguk el tudják dönteni, milyen adattal mit szabad.
Zöld, sárga, piros. A zöld kategóriába tartozik minden, ahol nincs érzékeny adat, például egy nyilvános cikk összefoglalása vagy egy általános levél megfogalmazása, ez szabadon mehet. Sárga, ha érzékeny, de kezelhető adat szerepel benne, például egy belső jelentés vagy egy ügyféllevelezés, ez csak a cég által engedélyezett, adatvédelmi szerződéssel bíró eszközben dolgozható fel. Piros minden különleges személyes adat, szabályozott üzleti titok vagy jogi kockázat, ez vagy egyáltalán nem kerül AI-ba, vagy csak külön ellenőrzött környezetben.
Amikor túl könnyen hiszünk a gépnek
Raja Parasuraman és Victor Riley 1997-ben a Human Factors folyóiratban leírták az automatizálás helytelen használatának mintázatát. Ha egy automatikus rendszer az esetek többségében jól működik, az emberek hajlamosak abbahagyni az ellenőrzését, és akkor sem veszik észre a hibáját, amikor az mégis bekövetkezik. A generatív AI-nál ez a hatás még erősebb, mert a modell a téves állítást is folyékony, magabiztos szöveggel adja elő, és a hangnemnek nincs köze az igazsághoz.
Egy zalaegerszegi gyártócég pénzügyi csapatánál az AI készíti elő a havi riportok nagy részét. Hónapokig hibátlanul dolgozott, aztán egy új költséghely bevezetésekor rossz sorra összesített egy tételt, és a hiba csak azért nem jutott el az igazgatóságig, mert a kontroller szokásból összevetette a végösszeget az előző hónappal. Azóta ez az összevetés nem szokás, hanem kötelező lépés, és a csapat minden hónapban két véletlenszerűen kiválasztott tételt a forrásig visszakövet.
Források és további olvasnivaló
Microsoft Learn, Work smarter with AI modul, Use AI with confidence egység. Microsoft Responsible AI Standard, 2. változat, 2022. Microsoft és LinkedIn, 2024 Work Trend Index Annual Report. Raja Parasuraman és Victor Riley, Humans and Automation, Use, Misuse, Disuse, Abuse, Human Factors, 1997. A három színkategóriáról a shadow AI-ról szóló cikkemben, az ellenőrzés tanításáról pedig A legdrágább képesség az AI korában a kritikus gondolkodás című cikkemben írtam.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, priorizált cselekvési lista.
Érdekel a program →