Work

Langchain inbäddning för mobilapplikationer : Implementering och prestandaanalys

Year: 2024
Type: dissertation
Abstract: I takt med att fler användare förlitar sig på mobila enheter för att utföra uppgiftersom tidigare hanterats på datorer, ökar intresset för artificiell intelligens (AI). Dennastudie undersöker möjligheten att implementera ramverket Langchain i Androidenheter för att hantera dokument och svara på användarfrågor med hjälp av storaspråkmodeller (LLMs). Två prototyper utvecklades, en med Langchain4J och enmed Llama.cpp, för att analysera prestanda och funktionalitet. Resultatet visade attdet uppstod stora tekniska utmaningar vid implementering av Langchain4J pågrund av bibliotekskonflikter och minneskrav, vilket förhindrade en fullständig prototyp. Däremot kunde Llama.cpp framgångsrikt användas för att skapa en fungerande prototyp, där genomsnittlig svarstid var 17 sekunder. Detta arbete belyser dehinder som finns för att implementera avancerad AI-teknologi i mobila enheter ochger insikter om möjliga framtida lösningar.
Author: Hultin, Johan
Language: Swedish
Open Access status: green
OpenAlex ID: W6983004329
Cites: 8
Cited by:
Related to: 10