Vektorok és a vektortér

Két kép ugyanarról

A vektor számok rendezett listája. A Stanford CS229 jelölésével egy n elemű vektort úgy írunk, hogy x eleme R felső n, ami annyit tesz, hogy n darab valós számból áll. Megegyezés szerint az ilyen vektort oszlopvektornak tekintjük, tehát egy olyan táblázatnak, aminek n sora és egy oszlopa van. Például a (3, 2) vektornak két komponense van, az első 3, a második 2.

Ugyanez a lista egy nyílként is elképzelhető. A (3, 2) vektor egy nyíl, ami az origóból indul, és a jobbra 3, felfelé 2 pontba mutat. A számlista pontosan megmondja, hova mutat a nyíl. Ez a kettősség végigkíséri a lineáris algebrát. Amikor a nyíllal gondolkodunk, a geometriát látjuk, amikor a listával, a konkrét számolást végezzük. A kettő ugyanaz a dolog két nézetben.

Összeadás és skalárral szorzás

Két vektort úgy adunk össze, hogy a megfelelő komponenseiket összeadjuk. A (3, 2) és az (1, 2) összege a (4, 4). Nyilakkal ez a fej a farokhoz elv. Az egyik nyíl végéből indítjuk a másikat, és az összeg az origóból az utolsó nyíl végéig mutat. A skalárral szorzás azt jelenti, hogy egy vektor minden komponensét megszorozzuk ugyanazzal a számmal. A (3, 2) kétszerese a (6, 4), ami ugyanabba az irányba mutat, csak kétszer olyan hosszan. Egy negatív skalár megfordítja a nyíl irányát.

Ez a két művelet, az összeadás és a skalárral szorzás, adja a vektortér (vector space) fogalmát. A vektortér egyszerűen olyan vektorok halmaza, amelyeken belül maradunk, akárhogy is adjuk össze vagy skálázzuk őket. Egy embedding vektor éppen egy ilyen térben él, és a modell ezzel a két alapművelettel dolgozik, sokszor egymás után.

A skaláris szorzat

A vektorok közti legfontosabb művelet a skaláris szorzat (dot product, más néven belső szorzat). A CS229 jegyzet szerint két, azonos hosszú x és y vektor skaláris szorzata egyetlen valós szám, amit úgy kapunk, hogy a megfelelő komponenseket összeszorozzuk, majd az eredményeket összeadjuk. Képlettel az x és y skaláris szorzata az x_1·y_1 plusz x_2·y_2 és így tovább, egészen x_n·y_n-ig. Az eredmény egy szám, nem vektor.

Miért fontos ez. A skaláris szorzat megméri, mennyire mutat két vektor hasonló irányba. Ha a két nyíl közel azonos irányba áll, a szorzat nagy pozitív szám. Ha merőlegesek egymásra, a szorzat nulla. Ha ellentétes irányba mutatnak, a szorzat negatív. Éppen ezért a skaláris szorzat a hasonlóság mérőszáma, és az AI-ban végtelen sokszor ez dönti el, mennyire kapcsolódik két dolog egymáshoz.

Miért vektor egy embedding

A modern AI modellek a szavakat, mondatokat, képeket és felhasználókat is vektorokká alakítják. Ezt a vektort hívjuk beágyazásnak (embedding). A lényeg, hogy a hasonló jelentésű dolgok hasonló irányú vektorokat kapnak, tehát közel kerülnek egymáshoz a térben. Amikor egy keresőrendszer vagy egy ajánló megtalálja a leginkább kapcsolódó tartalmat, valójában skaláris szorzatot vagy ahhoz nagyon hasonló hasonlóságmértéket számol sok vektor között. A vektor tehát nem elvont matematika, hanem az a forma, amiben a modell a jelentést tárolja.