Mi az agentic RAG
Az agentic RAG, teljes nevén agentic retrieval-augmented generation, egy feltörekvő megközelítés, amelyben a nyelvi modell önállóan tervezi meg a következő lépéseit, miközben külső forrásokból von be információt. A hagyományos visszakereséses generálásnál is bekerül külső tudás a modell válaszába, de ott az út előre rögzített. Az agentic változatban a modell maga dönti el, mikor és honnan keres, és a keresés eredménye alapján akár újra is tervez. A lényeg tehát az önállóság, az ügynök a saját gondolkodási folyamatát birtokolja.
Miben más, mint a hagyományos RAG
A hagyományos visszakereséses generálás statikus, keresés majd beolvasás mintára épül, ahol az ember előre meghatározza a lépések sorrendjét. Az agentic RAG ezzel szemben a modell iteratív hívásainak hurkában dolgozik, amelyet eszköz- vagy függvényhívások és strukturált kimenetek szakítanak meg. A döntő különbség az önállóság. Az agentikus rendszer a saját gondolkodási folyamatát birtokolja, és dinamikusan dönti el, melyik eszközt mikor használja, ahelyett, hogy egy előre megírt utat követne.
Az önálló gondolkodási hurok
A gondolkodási hurok néhány visszatérő fázisból áll. Elsőként a felhasználó célja megérkezik a modellhez. A modell azonosítja, milyen információ hiányzik, és kiválasztja a megfelelő visszakeresési módszert. Ezután a rendszer értékeli a visszakapott adatot, és eldönti, kell-e finomítani a megközelítésen. A ciklus addig folytatódik, amíg a modell úgy nem ítéli, hogy elég tisztán látja a helyzetet, és elég bizonyíték áll rendelkezésére a végső, jól megalapozott válaszhoz.
- A cél megérkezikA felhasználó kérdése vagy célja bekerül a modellhez, amely elkezdi tervezni a megközelítést.
- Hiány azonosításaA modell felismeri, milyen információ hiányzik, és kiválasztja a megfelelő visszakeresési módszert.
- ÉrtékelésA rendszer megnézi a visszakapott adatot, és eldönti, elég-e, vagy finomítani kell a keresésen.
- LezárásHa elég a bizonyíték, a modell megfogalmazza a végső, megalapozott választ, különben újra keres.
A visszakeresés mint eszköz
Ebben a keretben a visszakeresés csak egy a modell rendelkezésére álló eszközök közül. Lehet vektoros keresés az Azure AI Search szolgáltatásban, lehet SQL adatbázis, vagy lehet egyedi API. A rendszer nem egyetlen keresést végez, hanem iterál és újra kérdez, akár különböző visszakeresési módszereket váltogatva. Ha egy lekérdezés nem hoz eredményt, a modell átírhatja a lekérdezést, vagy másik módszert választhat. A magas tétű helyzetekben ugyanakkor továbbra is fontos az emberi felügyelet, amely biztosítja az irányítást és az átláthatóságot az önálló folyamat során.
Hagyományos RAG
- Előre rögzített lépéssor
- Egyetlen keresés, majd válasz
- Az ember írja meg a sorrendet
- Nincs újratervezés menet közben
Agentic RAG
- Iteratív hurok, önálló tervezés
- Több keresés, módszerek váltogatása
- A modell dönt eszközről és sorrendről
- Sikertelen lekérdezés átírása, újrakeresés
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →