Model Context Protocol a gyakorlatban · Lecke 08

Éles üzem

Ami a bevezetés után jön. Hogyan viselkedik egy MCP szerver terhelés alatt, mit naplózzunk, és mi romlik el csendben.

Vissza a tananyaghoz

A lassú eszköz ára

Az MCP eszköz hívása belefér a modell gondolkodási körébe. Ha egy eszköz négy másodpercig válaszol, és a modell egy feladat közben ötször hívja meg, akkor húsz másodperc telt el pusztán várakozással.

Ez a hagyományos alkalmazásoknál is számít, de itt élesebb, mert a felhasználó egyetlen kérésre vár, és nem látja, mi történik közben. Érdemes minden eszköznél tudni a jellemző válaszidőt, és a lassúakat vagy gyorsítani, vagy szűkíteni.

Mit naplózzunk

1
Melyik eszközt hívta és milyen paraméterrel. Ebből derül ki, hogy a modell jól választ-e, és ez a leggyakoribb hibaforrás.
2
Mennyi ideig tartott. Eszközönként, mert az átlag elrejti a néhány lassú hívást.
3
Mekkora választ adott vissza. A hirtelen megnőtt válaszméret megtölti a kontextust, és a minőség romlásában jelentkezik.
4
Milyen hibák jöttek. És hogy a modell mit csinált utána. A jó hibakezelés jele az, ha a modell értelmesen folytatja.

Amit viszont ne naplózz, az a visszaadott adat tartalma, ha személyes adat lehet benne. Az eszköz neve és a hívás ténye elég a hibakereséshez.

A leghasznosabb mérőszám az, hogy a modell hányadik próbálkozásra találja el a helyes eszközt. Ha ez az arány romlik, akkor jellemzően nem a szerver romlott el, hanem valaki hozzátett egy új eszközt, aminek a leírása átfed egy régivel.

A verziózás kérdése

Az MCP szerver felülete szerződés. Ha átnevezel egy eszközt vagy megváltoztatsz egy paramétert, azzal minden rá épülő munkamenet viselkedése megváltozik, és erről senki nem kap hibaüzenetet.

Ezért a felület változását ugyanolyan gonddal kezeld, mint egy nyilvános API-ét. Új eszközt hozzáadni biztonságos. Meglévőt átírni nem az.

Ha mégis változtatni kell, érdemes egy ideig mindkettőt fenntartani, és a régit a leírásában elavultnak jelölni. A modell ilyenkor jellemzően az újat választja, a régi hívások pedig nem törnek el azonnal.

A felülvizsgálat

Érdemes félévente végignézni az eszközlistát, és megkérdezni mindegyikről, használta-e a modell az elmúlt időszakban. Amit nem használt, azt vagy rosszul írtuk le, vagy nincs rá szükség. Mindkét esetben teendő van vele.

A használaton kívüli eszköz nem semleges. Helyet foglal a kontextusban, választási lehetőséget ad a modellnek, és jogosultságot tart életben. A takarítás itt is karbantartás, nem luxus.

← Előző lecke Záróteszt →

Workshop

AI Transformation Day

Egésznapos, vezetőknek szóló program. Feltérképezzük, hol tart a szervezet, mi az első reális lépés, és milyen belső feltételek szükségesek a sikerhez. A nap végén konkrét, prioritizált cselekvési lista.

Érdekel a program →