Milyen egy jó eszköz
Az ügynöki rendszerekben az eszközök jelentik a modell és a külvilág közötti interfészt. A jó eszköz önmagában zárt, tehát nem igényel más eszközök ismeretét a helyes használatához. Hibatűrő, tehát váratlan bemenetre sem omlik össze értelmetlenül. Egyértelmű rendeltetésű, és minimális az átfedése más eszközökkel.
Ha egy tapasztalt mérnök is bizonytalan abban, hogy két hasonló eszköz közül melyiket kellene használnia egy adott helyzetben, az AI ügynök is bizonytalan lesz, és rosszul fog dönteni. Az eszközök közti egyértelmű határvonal ezért nem apró részlet, hanem alapvető tervezési szempont.
- Önmagában zártNem igényli más eszközök ismeretét a helyes használatához.
- HibatűrőVáratlan bemenetre sem omlik össze értelmetlenül.
- Egyértelmű rendeltetésűEgy tapasztalt mérnök is habozás nélkül tudja, mikor kell használni.
- Minimális átfedésNincs két hasonló eszköz, ami közt találgatni kellene.
Token hatékony visszatérési értékek
Az eszközök válaszai közvetlenül a kontextusablakba kerülnek, így ezek is fogyasztják a figyelem büdzsét. Egy jól tervezett eszköz tömören, a feladat szempontjából releváns információra szorítkozva ad választ, nem önti ki a teljes nyers adatot, ha arra nincs szükség.
Nyers adatdump
Az eszköz a teljes rekordot visszaönti, mezőstül, metaadatostul. A figyelem büdzsé irreleváns tokenekre megy el.
Tömör, releváns válasz
Csak a feladat szempontjából fontos információ jön vissza. Ugyanaz a tartalom, töredék tokenből.
Miért ér egy példa ezer szót
A modell számára egy jól megválasztott, konkrét példa gyakran hatékonyabb tanítóeszköz, mint egy hosszú szabálylista. Ahelyett, hogy minden lehetséges él-esetet külön dokumentálnánk, érdemes diverz, kanonikus példákat kurálni, amik hatékonyan bemutatják az elvárt viselkedést. Ez a few-shot megközelítés jelentősen csökkenti a szükséges instrukció hosszát, miközben pontosabb irányt ad a modellnek.
Ennyi szót ér egy kép a mondás szerint, és a modelleknél is így működik. Néhány diverz, kanonikus példa hosszú szabálylistát vált ki, kevesebb tokenből.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →