Work

Paikallinen kielimalli käyttäjän syötteen tulkkina agenttipohjaisessa järjestelmässä

Year: 2026
Type: dissertation
Abstract: Opinnäytetyössä selvitettiin, miten paikallisesti suoritettava avoimen lähdekoodin suuri kielimalli soveltuu käyttäjän syötteen tulkiksi ja reitittäjäksi moniagenttijärjestelmässä verrattuna kaupalliseen pilvimalliin. Työn taustalla vaikutti yritysmaailman kasvava tarve hyödyntää tekoälyagentteja tietoturvallisesti ja kustannustehokkaasti omilla palvelimilla ilman riippuvuutta ulkopuolisista pilvipalveluista. Työn tilaajana oli A-insinöörit Oy. Työn toiminnallisessa osassa rakennettiin asynkroninen web-sovellus, joka koostuu FastHTML-käyttöliittymästä, LangGraph-viitekehyksellä toteutetusta moniagenttiorkestraattorista sekä uutta Model Context Protocol (MCP) -standardia hyödyntävästä FastMCP-palvelimesta. Järjestelmä integroitiin ulkoiseen rakennusmateriaalien hiilijalanjälkeä laskevaan rajapintaan. Empiirisessä vertailuasetelmassa testattiin kahta eri suoritusympäristöä: paikallista vLLM-palvelimella ajettavaa Qwen2.5-14B-Instruct -mallia sekä Azure OpenAI -rajapinnan kautta suoritettavaa GPT-5-pilvimallia. Dataa mallien viiveistä, reititystarkkuudesta ja token-kulutuksesta kerättiin automatisoidusti Langfuse-monitorointijärjestelmän avulla. Tulokset osoittivat, että paikallinen malli pystyi aloittamaan vastauksen generoinnin erittäin nopeasti ja sen operatiiviset kustannukset pysyivät kiinteinä. Vastaavasti kaupallinen pilvimalli (GPT-5) suoriutui testatuista skenaarioista virheettömästi ja ylläpiti vaaditun JSON-rakenteen jokaisella kerralla. Pilvimallin massiivinen laskentateho teki monivaiheisista graafisuorituksista myös kokonaisuutena selvästi nopeampia kuin paikallinen malli huolimatta verkkopyynnön asettamasta alkuviiveestä. Johtopäätöksenä todettiin, että paikallinen malli vaatii hieman enemmän investointia infrastruktuuriin, jotta se voi kilpailla tehokkuudessa pilvimallin kanssa. Paikallinen malli tarjoaa kontrollin dataan ja on näin paljon tietoturvallisempi vaihtoehto.
Language: Finnish
Open Access status: green
OpenAlex ID: W7162724405
Cites: 8
Cited by:
Related to: 10