Work

Design of a cloud native architecture for the persistent storage of vectorized information of agentic systems

Year: 2026
Type: dissertation
Abstract: V delu obravnavamo problem učinkovite trajne hrambe in iskanja vloženih podatkov za potrebe agentov, ki temeljijo na velikih jezikovnih modelih. Ker neprestano večanje kontekstnega okna poslabša učinkovitost in poveča stroške, predlagamo oblačno arhitekturo, ki temelji na vektorski podatkovni bazi. Prek poznavanja osnovnih konceptov vektorskih podatkovnih baz ter analizo baz Milvus in Qdrant pridobimo znanje, ki nam omogoča zasnovati arhitekturo sistema, ki bo te podatke trajno hranil. Rešitev temelji na večnajemniški arhitekturi s Qdrantom, posrednikom Envoy, vmesnikom Quarkus in sistemom OpenFGA za zagotavljanje varnosti. Na podlagi obsežnega empiričnega testiranja različnih konfiguracij kazal, gruč in metod kvantizacije (kot je rotacijska kvantizacija) pokažemo, da lahko z optimizirano uporabo podgrafov najemnikov in ustreznih vrst kvantizacije bistveno zmanjšamo porabo virov ter izboljšamo prepustnost podatkovne baze, ne da bi pri tem žrtvovali priklic poizvedb.
Language: Slovenian
Open Access status: green
OpenAlex ID: W7213574429
Cites: 24
Cited by:
Related to: 10