Az AI társadalmi hatásai

A torzítás az adatból jön

Egy gépi tanulással épült rendszer azt tanulja meg, amit az adatok mutatnak, a múlt igazságtalanságaival együtt. Az Amazon 2014 óta fejlesztett egy önéletrajzokat pontozó rendszert, amely a Reuters 2018-as beszámolója szerint hátrébb sorolta azokat a jelentkezőket, akiknek az önéletrajzában a women’s szó szerepelt, mert a tanító adatok nagy része férfiak önéletrajza volt. Végül a cég leállította a projektet. A tanulság az, hogy a torzítás nem szándékból születik, hanem a tanító adatok összetételéből, és ezért csak méréssel vehető észre.

Joy Buolamwini és Timnit Gebru 2018-as Gender Shades kutatása három kereskedelmi arcelemző rendszert vizsgált. A sötétebb bőrű nőknél a nem meghatározásában a hibaarány elérte a 34,7 százalékot, a világosabb bőrű férfiaknál legfeljebb 0,8 százalék volt. Egy átlagos pontossági szám mindezt elfedte volna, ezért a felelős fejlesztés csoportonként is méri a teljesítményt.

Adatvédelem és hamis tartalom

Az AI rendszerek éhesek az adatra, és a személyes adatokból gyakran olyasmit is kiolvasnak, amit az érintett nem osztott meg, egészségi állapotot, anyagi helyzetet, szokásokat. Kettős ezért az európai szabályozás. A GDPR a személyes adatok kezelését szabályozza, a 2024-ben hatályba lépett uniós AI rendelet pedig kockázati szintek szerint sorolja be az AI rendszereket, és a toborzásban, a hitelbírálatban vagy az oktatásban használt megoldásokra szigorúbb követelményeket ír elő.

A generatív modellek új kockázatot is hoztak, a valóságosnak ható hamis képet, hangot és videót. Egy hamisított vezérigazgatói hanghívás ma már elég meggyőző ahhoz, hogy egy pénzügyes munkatárs utaljon. A hamis tartalom elleni védekezés ezért az AI műveltség része lett, annak a képessége, hogy egy tartalom forrását és hitelességét ellenőrizzük, mielőtt továbbadjuk vagy döntést építünk rá.

A munka átalakulása

A munkahelyekre gyakorolt hatást feladatokban érdemes vizsgálni, nem egész foglalkozásokban, és ezt a projektjeimen is így látom. Tucatnyi feladatból áll egy munkakör, ezek közül az AI néhányat gyorsabban és olcsóbban elvégez, másokat egyáltalán nem. Egy miskolci könyvelőirodában a számlák rögzítése és egyeztetése nagyrészt gépre került, az ügyféltanácsadás és a hatósági ügyek intézése viszont több figyelmet kapott, mint korábban. A munkakör megmaradt, a tartalma átrendeződött.

Az átrendeződésnek van egy csendes vesztese, a pályakezdő. A rutinfeladatokon tanulták meg eddig a fiatalok a szakmát, és ha ezeket a gép viszi, a cégeknek tudatosan kell megtervezniük, hogyan lesz a juniorból senior. Hosszabb távon az a társadalmi kérdés, hogy a termelékenység növekedéséből ki mennyit részesül. Az ipari forradalom tapasztalata szerint a haszon hamarabb érkezik meg, mint a széles körű jólét, és az átmenetet a kormányok és a cégek döntései teszik elviselhetőbbé vagy fájdalmasabbá.

Ahonnan tovább lehet lépni

Az Elements of AI alkotói 2020 végén folytatást is kiadtak Building AI címmel, amely már egyszerű programozási feladatokon mutatja be ugyanezeket a módszereket. Mélyebb megértéshez a KD AI Academy kurzusai közül a Gépi tanulás alapjai és A mesterséges intelligencia alapjai visz tovább, a munkahelyi használathoz pedig a Hatékonyabb munka AI-jal. A záróteszt tíz kérdése azt a gondolkodásmódot kéri számon, amely a definíciótól a társadalmi hatásokig végigvezetett.

Források és további olvasnivaló

University of Helsinki és MinnaLearn, Elements of AI, 6. fejezet, The societal implications of AI. Joy Buolamwini és Timnit Gebru, Gender Shades, Proceedings of Machine Learning Research 81, 2018. Jeffrey Dastin, Amazon scraps secret AI recruiting tool that showed bias against women, Reuters, 2018. Az Európai Unió 2024/1689 rendelete a mesterséges intelligenciáról. Kapcsolódó cikkeim Az AI nem munkaköröket automatizál, hanem feladatokat és Ha az AI viszi a junior munkát, kiből lesz senior.