RAG architektúra a gyakorlatban · Lecke 04

Visszakeresési stratégiák

A puszta hasonlósági keresés ritkán elég. Ez a lecke a leggyakoribb javításokat mutatja, amelyek látványosan emelik a találati minőséget.

Vissza a tananyaghoz


A legegyszerűbb változat és a korlátai

Az alapeset az, hogy a kérdést beágyazzuk, megkeressük az öt leghasonlóbb darabot, és odaadjuk a modellnek. Ez sok esetben működik, de van három visszatérő gyengesége.

A kérdés gyakran rosszul van megfogalmazva a kereséshez. A találatok között sok az egymáshoz hasonló, tehát a helyek egy részét ugyanaz a tartalom foglalja. És a sorrend nem feltétlenül a hasznosság sorrendje.


A négy leghasznosabb javítás

1
A kérdés újrafogalmazása. A modell a beszélgetésből egy önálló, kereshető kérdést készít. Enélkül a következő kérdés, ha csak annyi, hogy „és mennyi ideig", értelmezhetetlen a kereső számára.
2
Újrarendezés. A keresés hoz húsz darabot, és egy külön lépés rangsorolja őket a kérdéshez mérten. Az első öt így sokkal jobb lesz, mint a puszta hasonlóság alapján.
3
Sokféleség. Ha a legjobb öt találat ugyanannak a bekezdésnek az öt változata, akkor egyetlen szempontot látunk. Érdemes egymástól különböző darabokat választani.
4
Szűrés metaadat szerint. Időszakra, dokumentumtípusra, jogosultságra. Ez gyakran többet ér, mint bármilyen okos rangsorolás.

Ha egyetlen javításra van időd, az legyen az újrarendezés. Ez az a lépés, ami a legtöbb rendszernél a legnagyobb minőségugrást hozza, és nem igényli az index újraépítését.


Hány darabot adjunk oda

A több nem jobb. Minden felesleges darab elvonja a modell figyelmét, növeli a költséget és lassít. Ha tíz darabból csak kettő releváns, akkor a nyolc felesleges között a modell eltévedhet.

Érdemes kevéssel kezdeni, jellemzően hárommal vagy öttel, és csak akkor emelni, ha mérhetően javul tőle a válasz. A mérésről a hetedik leckében lesz szó.


Amikor a modell maga keres

Van egy másik felépítés is, ahol a keresés nem előre, automatikusan történik, hanem eszközként adjuk a modell kezébe. Ilyenkor a modell dönti el, mikor és mire keres, és többször is kereshet egy válaszon belül.

Ez összetettebb kérdéseknél jobb, mert a modell tud pontosítani, ha az első keresés nem hozott eleget. Cserébe lassabb és drágább, mert több körből áll.

A választás a kérdések természetétől függ. Egyszerű, tényszerű kérdéseknél az automatikus keresés elég. Összetett, több forrást igénylő kérdéseknél megéri a modellre bízni.


← Előző lecke Következő lecke →

Workshop

AI Transformation Day

Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.

Érdekel a program →