Mire való egy keretrendszer
Egy ügynökben sok visszatérő elem van. Kell egy hurok, amely a modell döntéseit és az eszközhívásokat körkörösen kezeli, kell az eszközök kiajánlása és meghívása, kell a memória, és több ügynöknél kell a koordináció is. A keretrendszer pontosan ezeket a visszatérő részeket adja készen, moduláris komponensekként, hogy a fejlesztő a saját feladatára koncentrálhasson. A kurzus szerint a keretrendszer segít gyorsan prototípust építeni, mert nem nulláról kell összerakni az egészet, hanem kész elemeket illesztünk össze.
Négy alapelem, amit egy keretrendszer ad
A kurzus négy fő komponenst nevez meg. Az agent az az egység, amely feldolgozza a felhasználói üzeneteket és választ generál a nyelvi modell segítségével, és a beszélgetés kontextusa alapján magától meghívja a megfelelő eszközöket. Az eszközök vagy függvények olyan kódrészletek, amelyeket az ügynök automatikusan meg tud hívni, hogy kibővítse a képességeit. A memóriamodul az adat tárolásáért és visszakereséséért felel. Az orkesztráció pedig több ügynök együttműködését és koordinációját teszi lehetővé, ahol az ügynökök közösen, egymással kommunikálva oldanak meg összetett feladatokat.
- AgentFeldolgozza az üzenetet, választ generál, és a kontextus alapján magától eszközt hív.
- EszközökMeghívható függvények, amelyek kibővítik az ügynök képességeit külső műveletekkel.
- MemóriaAdat tárolása és visszakeresése, a rövid távú kontextustól a hosszú távú tudásig.
- OrkesztrációTöbb ügynök összehangolása, hogy közösen oldjanak meg egy összetett feladatot.
Milyen keretrendszerek léteznek
A Microsoft kurzus több keretrendszert mutat be, amelyek a fejlődés különböző szakaszait képviselik. Az AutoGen és a Semantic Kernel korábbi, széles körben használt keretrendszerek az ügynökök és a többügynökös minták építésére. A kurzus a jelenlegi ajánlott irányként a Microsoft Agent Framework (MAF) keretrendszert és a Microsoft Foundry Agent Service szolgáltatást emeli ki. A kurzus javasolt munkamenete pragmatikus. Kezdd az ügynök megépítését a Microsoft Agent Framework segítségével, majd amikor éles környezetbe kell állítani és skálázni, használd a Foundry Agent Service megoldást a telepítéshez és a méretezéshez.
Mikor érdemes keretrendszert használni
A keretrendszer nem öncél. Akkor éri meg, ha éles környezetbe szánt ügynököt építesz, amelyben van eszközhasználat, több lépéses munkafolyamat és vállalati integráció, mert ezekhez a keretrendszer kész, jól bevált megoldásokat ad. Akkor is hasznos, ha gyorsan akarsz prototípust készíteni, mert a moduláris komponensekkel nem kell mindent alapoktól megírni. Egy nagyon egyszerű, egylépéses feladatnál viszont a keretrendszer inkább felesleges réteg, ott elég lehet közvetlenül a modell API meghívása.
Elég kód nélkül, közvetlenül
- Egyszerű, egylépéses feladat
- Nincs eszközhasználat vagy csak minimális
- Nincs több ügynök koordinációja
- Gyors kísérlet, egyszeri prototípus
Keretrendszer való ide
- Éles környezetbe szánt ügynök
- Eszközhasználat és több lépéses folyamat
- Vállalati integráció, keresés, kódfuttatás
- Több ügynök összehangolása kell
Egy jó kiindulópont. Építs a Microsoft Agent Framework keretrendszerrel, majd amikor élesre kell tenni és skálázni, tedd át a Foundry Agent Service szolgáltatásba. Az építés és a telepítés két külön feladat, és a keretrendszer mindkettőben segít.
Workshop
AI Transformation Day
Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.
Érdekel a program →