Kompaktálás, a beszélgetés összefoglalása
Amikor egy beszélgetés közeledik a kontextuslimithez, a kompaktálás a korábbi tartalom összefoglalásából és egy friss kontextusablak ezzel az összefoglalóval való indításából áll. Az alapelv, hogy először maximális visszaidézéssel kezdünk, majd fokozatosan iterálunk a pontosság felé, a felesleges tartalom eltávolításával.
Ennek egy könnyebb formája, amikor csak a mély üzelőzményből származó eszközeredményeket töröljük, míg a fontosabb szerkezeti elemeket megtartjuk. Kompaktáláskor mindig érdemes megőrizni az architekturális döntéseket, a megoldatlan hibákat, és az implementációs részleteket, mert ezek elvesztése az egész munka újrakezdéséhez vezethet.
- Architekturális döntésekMiért így épül a rendszer. Elvesztése után az ügynök ellentmondó irányba indulhat.
- Megoldatlan hibákAmi még nincs kijavítva, annak nyoma kell maradjon az összefoglalóban is.
- Implementációs részletekA már elkészült megoldások lényege, különben az egész munka újrakezdődik.
Strukturált jegyzetelés, memória a kontextusablakon kívül
A strukturált jegyzetelés, más néven agentic memory, azt jelenti, hogy az ügynök a kontextusablakon kívül ír jegyzeteket, amiket később visszakeres. Ez lehetővé teszi a koherenciát kontextus resetek között anélkül, hogy minden információnak bent kellene maradnia az ablakban.
Egy jól ismert példa, amikor Claude Pokémont játszott, és pontos számlálást tartott fenn több ezer játéklépésen át, miközben stratégiai jegyzeteket vezetett a harci stratégiákról. Anthropic ki is adott egy memory tool-t nyilvános béta verzióban a Claude Developer Platformon, ami fájl alapú tudástárolást tesz lehetővé munkameneteken át.
Több ezer játéklépésen át tartott fenn pontos számlálást Claude a Pokémon játékban, mert a jegyzetei a kontextusablakon kívül éltek, és minden reset után visszakereste őket.
Subagent architektúrák, tiszta felelősség elválasztás
A subagent architektúrákban specializált subagentek fókuszált feladatokat kezelnek tiszta kontextussal. Ezek akár tízezer vagy több tokent is felhasználhatnak a munkájuk során, de a fő ügynök felé csak tömörített összefoglalókat adnak vissza, jellemzően 1000-2000 token terjedelemben.
Ez a felépítés biztosítja, hogy a fő ügynök a magas szintű tervezésre és szintézisre koncentrálhasson, míg a részletmunkát a subagentek végzik el, tiszta felelősség elválasztással. Komplex kutatási feladatokon ez jelentős javulást mutatott az együgynökös rendszerekhez képest.
A három módszer nem kizárja, hanem kiegészíti egymást. A kompaktálás kiterjedt oda-vissza feladatokhoz illik, a jegyzetelés az iteratív fejlesztéshez világos mérföldkövekkel, a multi-agent architektúra pedig azokhoz a komplex kutatási feladatokhoz, ahol a párhuzamos feltárás valóban megtérül.
- KompaktálásKiterjedt oda-vissza feladatokhoz, ahol a beszélgetés maga a munka.
- Strukturált jegyzetelésIteratív fejlesztéshez, világos mérföldkövekkel.
- Subagent architektúraKomplex kutatáshoz, ahol a párhuzamos feltárás megtérül.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →