Az AI három szintje és a kockázat növekedése

Hetven év egy mondatban, Turingtól McCarthyig

A mesterséges intelligencia kifejezést John McCarthy alkotta 1955-ben, a dartmouthi konferencia környékén. A gondolat ennél régebbi, Alan Turingig megy vissza, aki azt kérdezte, képes lehet-e egy gép olyan beszélgetésre, amit az ember nem tud megkülönböztetni egy másik ember beszélgetésétől. Ez a kérdés hetven év után is ott áll minden chatablak mögött.

Vezetőként nem a történelem miatt mondom ezt el, hanem mert a mai eszközök ugyanazokat a reményeket és ugyanazokat a csalódásokat hordozzák, amiket az elődeik. Aki látja a mintát, kevésbé lepődik meg, amikor a saját bevezetése a csalódásos szakaszba ér.

A kurzusban ezért a technológia mellett mindig a döntési helyzetre nézek. Mit ígér az eszköz, mit tud ténylegesen, és hol van a kettő között a kockázat.

ELIZA, a gép, ami nem tanult, mégis meggyőzött

A hatvanas években az MIT-n készült az ELIZA, egy program, ami pszichoterapeutát játszott. Ha a felhasználó azt írta, hogy szomorú, a gép visszakérdezett, mióta érzi így magát. Semmit nem értett abból, amit olvasott. Előre megírt szabályok szerint forgatta vissza a mondatokat, nem tanult, és nem is emlékezett.

Mégis sokan hitték el, hogy megértik őket. Ez a jelenség az AI biztonság szempontjából a mai napig a legfontosabb emberi gyengeség. Egy folyékonyan fogalmazó rendszerrel szemben hajlamosak vagyunk feltételezni az értelmet és a jó szándékot. A deepfake és az adathalászat erre a hajlamra épít.

Vezetői tanulsága az, hogy a meggyőző beszéd nem bizonyítéka a hozzáértésnek. Egy chatbot, ami folyékonyan válaszol a cég termékeiről, lehet, hogy semmit nem tud róluk, csak jól hangzik. Az ellenőrzés ezért nem a stílusra, hanem a tényekre irányul.

Az AI tele és a szabályokba zárt tudás

A hetvenes és nyolcvanas évek az AI tele. A kor nagy ígérete a szakértői rendszer volt, egy orvos vagy egy mérnök tudását próbálták feltételes szabályokba zárni. Néhány szűk területen működött, a reményeket mégsem váltotta be, mert a valódi szakértelem nagy része nem fogalmazható meg szabályként. A tapasztalt orvos nem tudja elmondani, miből látja, hogy a beteg bajban van, csak látja.

A finanszírozás elapadt, a kutatók más néven folytatták a munkát, és a kifejezés évtizedekre kikerült az üzleti szókincsből. A tanulság a mai bevezetésekhez is szól. Ahol egy folyamat merev szabályokban leírható, ott nem kell AI, elég a hagyományos szoftver. A gépi tanulás terepe ott kezdődik, ahol a szabály már nem írható le.

Gépi tanulás, példákból, nem utasításokból

A gépi tanulás lényege egy mondatban elfér. A gépet nem lépésről lépésre programozzuk, hanem példákkal tanítjuk. Ahelyett, hogy leírnám, mitől macska egy macska, megmutatok neki százezer képet, és hagyom, hogy maga találja meg a közös jegyeket. A szabály nem a programozó fejéből jön, hanem az adatból.

Két fő módja van. Felügyelt tanulásnál ember adja a címkéket, ez a kép macska, ez a tranzakció csalás, ez az ügyfél elment. Felügyelet nélküli tanulásnál nincs címke, a rendszer maga keres mintázatot, és például csoportokba rendezi az ügyfeleket anélkül, hogy megmondtam volna, hány csoport legyen. Az előbbi megbízhatóbb, de drága az emberi címkézés miatt, az utóbbi olcsóbb, de nehezebb ellenőrizni, mit talált.

Üzleti példával ez így néz ki. A csalásfelderítő rendszernek nem írom le, mi a gyanús, hanem megmutatom az elmúlt öt év ismert csalásait, és a rendszer maga találja meg, mi közös bennük. Cserébe azt is megtanulja, amit nem akartam, például hogy egy adott régió ügyfelei gyanúsabbak, mert a múltban onnan több bejelentés jött.

Hogyan tanul a gép a saját hibájából

A tanítás alapművelete a hibából való visszatanulás. A rendszer kap egy bemenetet, ad egy választ, és megnézzük, mennyire tért el a helyestől. Ezután a saját belső súlyait, több millió vagy több milliárd számot, apránként úgy igazítja, hogy legközelebb kisebb legyen a hiba. Ezt ismétli milliószor, és a végén a súlyokban ott van a tudás, amit senki nem írt le.

Ebből két biztonsági következmény adódik. A modell csak annyira jó, amennyire az adat, amiből tanult, és ha a példák között torz, hiányos vagy mérgezett adat van, azt is megtanulja. A másik, hogy a tudás a súlyokban ül, nem olvasható szabályokban, ezért nehéz utólag megmondani, miért döntött úgy, ahogy döntött. Az átláthatóság hiánya nem hiba a rendszerben, hanem a módszer természete.

Három szint, három kockázati fok

A ma használt AI-t három szintre osztom. A hagyományos gépi tanulás előrejelez és besorol, megmondja, melyik számla gyanús, melyik gép fog meghibásodni. Önállósága alacsony, ember nézi meg az eredményt, és ember dönt. A generatív AI szöveget, képet, hangot és kódot állít elő. Itt az ember kérdez, a gép válaszol, és a kimenet még mindig a felhasználó kezében marad, mielőtt bármi történne vele.

Az ügynöki AI a harmadik szint. Itt a rendszer cselekszik a felhasználó nevében, több lépésben, naptárba ír, levelet küld, rendszerekben rögzít, és akár több ügynök dolgozik együtt egy feladaton. Az ember a láncnak már csak az elején és a végén van ott, ha ott van egyáltalán.

A kockázat az önállósággal együtt nő, és közben a visszafordíthatóság csökken. A rossz előrejelzést félredobom, a rossz szövegtervet átírom. Egy elküldött levél vagy egy végrehajtott utalás viszont nem vonható vissza. Ezért a bevezetésnél azt kérdezem először, melyik szinten dolgozik az eszköz, és mi az a lépés, amit már nem tudok visszacsinálni.