Year: 2026
Type: dissertation
Abstract: Komentorivikäyttöliittymät ovat edelleen kriittisiä järjestelmänvalvonnassa, mutta niiden riippuvuus jäykästä syntaktisesta tiedosta luo toiminnallista kitkaa. Suuret kielimallit (LLM) tarjoavat mekanismin luonnollisen kielen tarkoituksen yhdistämiseksi deterministisiin järjestelmätoimintoihin. Todennäköisyysmallien suora integrointi käyttöjärjestelmiin aiheuttaa vakavia riskejä, sillä hallusinaatiot tai virheellisesti muotoiltu tuloste voi laukaista katastrofaalisia ja peruuttamattomia tilamuutoksia. Tämä väitöskirja tutkii arkkitehtuurisia primitiivejä, joita tarvitaan LLM-pohjaisten pääteagenttien rajoittamiseen ja suojaamiseen. Käyttämällä räätälöityä kokeellista alustaa nimeltä Helix, tutkimuksessa eristetään kolme erityistä interventiota: skeemapohjainen suunnittelu, proseduraalisesti haettu ja lisätty generointi (RAG) sekä tiukka suoritushiekkalaatikko. Vertaamalla Helix-arkkitehtuuria perustason vain kehotteita käyttävään LLM-malliin 50 järjestelmänvalvojan tehtävän kerrostetulla tietojoukolla tutkimus kvantifioi näiden interventioiden vaikutusta suorituskyvyn oikeellisuuteen, vikasietoisuuteen ja toiminnalliseen hyödyllisyyteen. Tulokset osoittavat, että turvallisuutta ja luotettavuutta ei voida saavuttaa pelkästään nopealla yhdenmukaistamisella; ne vaativat ulkoista, determinististä arkkitehtuurista välitystä. Mallin maadoittaminen haettuun paikalliseen proseduraaliseen dokumentaatioon (esim. man-sivut) vähentää merkittävästi pitkähäntäisten työkalujen syntaksihallusinaatioita, kun taas tiukat JSON-skeemat ja hakemistotason hiekkalaatikkokäsittely onnistuvat sieppaamaan korkean riskin hyökkäyskuormat vaarantamatta täysin agentin autonomiaa.
Author: Nibir, Nahasat
Institution: University of Jyväskylä
Language: English
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W7199164686