Kockázatok, torzítás és felelősség

Tartalmi kockázatok, hallucináció és torzítás

A hallucinációról a második leckében volt szó, itt a rendszerszintű válasz a lényeg. Tényállítást tartalmazó kimenet emberi vagy forrásokhoz kötött ellenőrzés nélkül nem mehet ki, és a visszakereséses architektúra a kockázatot csökkenti, de nem szünteti meg. A torzítás alattomosabb, a modell a tanítóadat társadalmi mintázatait tanulja meg, a ferdeségeikkel együtt. Embereket érintő döntésnél, felvételinél, hitelnél, értékelésnél ezért a gép legfeljebb javasolhat, dönteni ember dönt, és a javaslatok mintázatát rendszeresen vizsgálni kell.

Adat, szellemi tulajdon, biztonság

Az adatvédelmi alapszabály egyszerű, a nyilvános eszközbe beírt adat elhagyta a cégedet. Vállalati környezetben ezért zárt, szerződéses konstrukció kell, és világos szabály arról, mi mehet a gépbe. A szellemi tulajdon két irányból kockázat, a kimenet jogi státusza és a betanításhoz használt művek kérdése körül ma is zajlanak a viták, ezért a kritikus anyagoknál az emberi átdolgozás és a forráskezelés nem luxus. A biztonsági oldalon pedig új támadási felület nyílt, a feladatba rejtett rosszindulatú utasítás, a prompt injection, amellyel a rendszereidet kívülről lehet manipulálni. Erről a biztonsági kurzusomban van teljes lecke.

A felelősség kiosztása

A kockázati térkép végén egyetlen szervezeti kérdés marad, ki felel. A működő minta szerint minden AI-t használó folyamatnak van üzleti gazdája, aki a kimenetért ugyanúgy felel, mintha ember készítette volna. A gép nem jogalany és nem bűnbak. Ezt a felelősségi rendet a belső szabályzat rögzíti, amelynek felépítéséről külön kurzust írtam, a lényeg itt annyi, hogy a szabályzat akkor él, ha a mindennapi munkában kényelmesebb betartani, mint megkerülni.

Források és további olvasnivaló

Stanford Online, Human-Centered Generative AI, a kockázati és felelősségi témakörök alapján. A részletekhez az AI biztonsági kockázatok, az AI policy és belső szabályzat és a Generatív AI és a szerzői jog kurzus.