Kompaktálás és hosszútávú feladatok

Kompaktálás, a beszélgetés összefoglalása

Amikor egy beszélgetés közeledik a kontextuslimithez, a kompaktálás a korábbi tartalom összefoglalásából és egy friss kontextusablak ezzel az összefoglalóval való indításából áll. Az alapelv, hogy először maximális visszaidézéssel kezdünk, majd fokozatosan iterálunk a pontosság felé, a felesleges tartalom eltávolításával.

Ennek egy könnyebb formája, amikor csak a mély üzelőzményből származó eszközeredményeket töröljük, míg a fontosabb szerkezeti elemeket megtartjuk. Kompaktáláskor mindig érdemes megőrizni az architekturális döntéseket, a megoldatlan hibákat, és az implementációs részleteket, mert ezek elvesztése az egész munka újrakezdéséhez vezethet.

Strukturált jegyzetelés, memória a kontextusablakon kívül

A strukturált jegyzetelés, más néven agentic memory, azt jelenti, hogy az ágens a kontextusablakon kívül ír jegyzeteket, amiket később visszakeres. Ez lehetővé teszi a koherenciát kontextus resetek között anélkül, hogy minden információnak bent kellene maradnia az ablakban.

Egy jól ismert példa, amikor Claude Pokémont játszott, és pontos számlálást tartott fenn több ezer játéklépésen át, miközben stratégiai jegyzeteket vezetett a harci stratégiákról. Anthropic ki is adott egy memory tool-t nyilvános béta verzióban a Claude Developer Platformon, ami fájl alapú tudástárolást tesz lehetővé munkameneteken át.

Subagent architektúrák, tiszta felelősség elválasztás

A subagent architektúrákban specializált subagentek fókuszált feladatokat kezelnek tiszta kontextussal. Ezek akár tízezer vagy több tokent is felhasználhatnak a munkájuk során, de a fő ágens felé csak tömörített összefoglalókat adnak vissza, jellemzően 1000-2000 token terjedelemben.

Ez a felépítés biztosítja, hogy a fő ágens a magas szintű tervezésre és szintézisre koncentrálhasson, míg a részletmunkát a subagentek végzik el, tiszta felelősség elválasztással. Komplex kutatási feladatokon ez jelentős javulást mutatott az egyágenses rendszerekhez képest.

A három módszer nem kizárja, hanem kiegészíti egymást. A kompaktálás kiterjedt oda-vissza feladatokhoz illik, a jegyzetelés az iteratív fejlesztéshez világos mérföldkövekkel, a multi-agent architektúra pedig azokhoz a komplex kutatási feladatokhoz, ahol a párhuzamos feltárás valóban megtérül.

Forrás

Anthropic "Effective context engineering for AI agents" és "Demystifying evals for AI agents" című cikkeinek magyar feldolgozása.