Year: 2026
Type: dissertation
Abstract: Útoky typu prompt injection predstavujú rastúcu bezpečnostnú hrozbu pre aplikácie založené na veľkých jazykových modeloch (LLM). Napriek svojej jednoduchosti môžu tieto útoky výrazne ovplyvniť správanie modelu a potenciálne viesť k odhaleniu citlivých informácií alebo k neúmyselným akciám systému. Keďže sa LLM čoraz viac integrujú do reálnych systémov, pochopenie a zmierňovanie týchto rizík sa stáva nevyhnutným. Táto práca skúma povahu a dopad útokov typu prompt injection prostredníctvom teoretickej analýzy aj praktických experimentov. Na základe týchto poznatkov sa vykonáva séria kontrolovaných útokov na vlastnú aplikáciu založenú na LLM, aby sa vyhodnotila náchylnosť rôznych jazykových modelov. Výsledky ukazujú, že útoky typu prompt injection môžu byť veľmi účinné a že súčasné obranné mechanizmy nemusia poskytovať dostatočnú ochranu. Okrem toho boli pozorované rozdiely v odolnosti medzi jednotlivými modelmi. Zistenia poukazujú na potrebu zlepšenia bezpečnostných stratégií a prispievajú k hlbšiemu pochopeniu rizík spojených s prompt injection v moderných systémoch umelej inteligencie.
Author: Grečnár, Kristián
Language: English
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W7165508222