A nagy ingyenes LLM szolgáltatók

Mit jelent, hogy valóban ingyenes

Ingyenes tier-t sok szolgáltató kínál, de ezek nem egyformák. Van, ahol elég egy e-mail cím és pár kattintás, és máris kapsz egy API kulcsot, amivel azonnal hívhatod a modellt. Máshol regisztrálni kell egy fiókot, néhol pedig kártyát is meg kell adni, még ha nem is terhelnek rá semmit. Ebben a leckében azokat vesszük sorra, ahol az induláshoz jellemzően nem kell fizetési adat, tehát tényleg ki lehet próbálni kockázat nélkül. Közös bennük, hogy mindegyik ad valamekkora ingyenes keretet, és mindegyiknél vannak korlátok, például hogy percenként vagy naponta hány kérést küldhetsz. Ezek a limitek folyamatosan változnak, ezért ebben az anyagban szándékosan nem közlünk konkrét számokat. A pontos keretet mindig a szolgáltató hivatalos oldalán nézd meg, mert az az egyetlen megbízható forrás.

Groq, amikor a sebesség számít

A Groq egy olyan szolgáltató, amelynél a legfeltűnőbb tulajdonság a nagyon gyors inferencia. Saját, kifejezetten erre tervezett hardveren futtatja a modelleket, ezért a válaszok szinte azonnal kezdenek megjelenni. Nyílt modelleket szolgál ki, például a Llama családot, és ad ingyenes tier-t. Akkor a legjobb választás, ha a felhasználói élmény szempontjából a sebesség és a rövid várakozási idő a döntő, tehát élő csevegő felületnél, valós idejű asszisztensnél vagy olyan folyamatnál, ahol sok rövid kérés fut egymás után. Az induláshoz elég regisztrálni és kikérni egy API kulcsot.

Google AI Studio, a Gemini ingyenes tier-je

A Google AI Studio a Google saját Gemini modelljeit teszi elérhetővé ingyenes kereten belül. Van hozzá egy böngészős felület, ahol prompt-okat lehet kipróbálni, és ugyanezekhez a modellekhez API kulcsot is kapsz, hogy a saját alkalmazásodból hívd. Erős, általános célú modellekről van szó, amelyek jól bírják a hosszabb szövegeket és több adattípust is kezelnek. Akkor érdemes ezt választani, ha egy megbízható, sokoldalú modell kell általános feladatokra, és nem akarsz külön hardverrel vagy telepítéssel foglalkozni. A regisztráció Google fiókkal történik.

Cloudflare Workers AI, nyílt modellek a peremhálózaton

A Cloudflare Workers AI nyílt modelleket kínál, és ad hozzá egy ingyenes napi keretet. A különlegessége, hogy a Cloudflare kiterjedt peremhálózatán fut, tehát a modell fizikailag közel van a felhasználóhoz. Ez főleg akkor előnyös, ha amúgy is a Cloudflare eszközeivel dolgozol, vagy webes alkalmazást építesz, és szeretnéd a modellhívást ugyanabba a környezetbe tenni, ahol az oldalad kiszolgálása is történik. Így egy helyen marad a teljes megoldás, és nem kell külön szolgáltatóhoz fordulni a modellért.

Cohere, erős szövegértés és fordítás

A Cohere is ad ingyenes tier-t, és a modelljei kifejezetten jók a szöveg megértését igénylő feladatokban. Erős a szövegek osztályozásában, a keresésben és a fordításban, valamint jól kezeli a több nyelvet is. Akkor a legjobb választás, ha a feladat nem elsősorban hosszú szövegek generálása, hanem inkább szövegek feldolgozása, csoportosítása, összevetése vagy nyelvek közötti átültetése. Sok cégnél pontosan ez a leggyakoribb igény, tehát a beérkező üzenetek rendszerezése, a dokumentumok közötti keresés vagy az idegen nyelvű tartalom kezelése.

NVIDIA NIM, sok nyílt modell egy helyen

Az NVIDIA NIM egy olyan katalógust ad, ahol sokféle nyílt modellt lehet kipróbálni ingyenes kereten belül, az NVIDIA saját infrastruktúráján futtatva. Ez akkor hasznos, ha nem egyetlen modellhez akarsz kötődni, hanem több különböző nyílt modellt szeretnél összevetni ugyanazon a felületen, mielőtt eldöntöd, melyik illik a feladatodhoz. Kísérletezésre és tájékozódásra kifejezetten jó kiindulópont, mert egy helyen látod, mit tudnak a különféle modellek, és könnyen válthatsz köztük.

OpenRouter, egy belépő sok modellhez

Az OpenRouter kicsit más, mint a többi. Nem egyetlen szolgáltató, hanem egy gyűjtőpont, amelyen keresztül sokféle modell érhető el sok különböző kiszolgálótól, egyetlen közös, OpenAI-kompatibilis felületen. Vannak köztük ingyenes modellek is, amelyeket kártya nélkül lehet használni. Akkor éri meg ezt választani, ha nem akarsz egyetlen szolgáltató mellett elköteleződni, hanem szeretnél könnyen váltogatni a modellek között, vagy több modellt is összehasonlítani ugyanazzal a kóddal. Egyfajta közös kapcsolótáblaként működik a sok elérhető opció előtt.

Mire figyelj a választásnál

Ennyi lehetőség mellett nem az a kérdés, melyik a legjobb általában, hanem az, melyik illik a te feladatodhoz. Négy szempont mentén érdemes végiggondolni. A sebesség azt mondja meg, milyen gyorsan érkezik a válasz, ami az élő felületeknél sokat számít. A modellkínálat arról szól, hogy elérhető-e az a modell, amelyik a feladatra a legjobb. A limit azt jelenti, hogy az ingyenes keret elég-e a tervezett használathoz, ezt mindig a hivatalos oldalon nézd meg. Az adatkezelés pedig azt, hogy mi történik az elküldött adatokkal, ami céges és személyes adatoknál kulcskérdés. Az alábbi lépéssor ezt a négy szempontot rendezi sorba.

Egy céges példa a választásra

Vegyünk egy elképzelt magyar céget, a Kertbarát Kft.-t, egy kisebb webshopot, amely kerti eszközöket árul. Náluk minden reggel sok vevői e-mail gyűlik össze, és egy kolléga kézzel válogatja szét ezeket téma szerint, például szállítási kérdés, garancia, vagy termékajánlás iránti érdeklődés. Ezt a válogatást szeretnék automatizálni egy nyelvi modellel, és eleve ingyen akarják kipróbálni, mielőtt bármit is költenének rá.

Végignézik a szempontokat. A sebesség itt nem kritikus, mert a válogatás reggelente egyszer fut, nem élőben. A modellkínálatból egy olyan modell kell, amelyik jól ért magyarul és megbízhatóan sorol be szövegeket kategóriákba. A limitnél azt nézik meg a hivatalos oldalon, hogy a napi e-mail mennyiséghez elég-e az ingyenes keret. Az adatkezelés pedig fontos, mert vevői üzenetekről van szó, ezért olyan szolgáltatót keresnek, amely átláthatóan kezeli a beküldött adatot. A szövegértés és a besorolás igénye miatt először a Cohere felé indulnak el, de mivel a kódjukat OpenAI-kompatibilis módon írják meg, könnyen ki tudnak próbálni másik szolgáltatót is, ha a keret vagy a minőség nem lenne elég. Nem egyetlen tökéletes választás van, hanem egy józan sorrend, amelyben a szempontok alapján haladnak.

Összegzés

Több komoly szolgáltató is enged ingyenes hozzáférést a nagy nyelvi modellekhez, jórészt kártya megadása nélkül. A Groq a sebességben erős, a Google AI Studio a sokoldalú Gemini modelleket adja, a Cloudflare Workers AI a peremhálózaton szolgál ki nyílt modelleket, a Cohere a szövegértésben és fordításban jó, az NVIDIA NIM sok nyílt modellt tesz egy helyre, az OpenRouter pedig egy közös belépőt ad sok modellhez. A választásnál a sebesség, a modellkínálat, a limit és az adatkezelés a négy fő szempont, a pontos korlátokat pedig mindig a hivatalos oldalon ellenőrizd. A következő leckében megnézzük, hogyan lehet ezeket a szolgáltatókat egyetlen közös felületen, az OpenAI-kompatibilis API segítségével egységesen elérni.