Year: 2025
Type: dissertation
Abstract: Дана робота обсягом 72 сторінки, включає 12 ілюстрацій, 2 таблиці та містить посилання на 7 джерел літератури. Об’єктом дослідження є агентні системи на основі великих мовних моделей. Предметом дослідження є методи та архітектурні рішення захисту віртуальних працівників від кібернетичних атак. Метою роботи є підвищення стійкості агентних систем до маніпуляцій вхідними даними та несанкціонованого виконання дій. В ході виконання роботи було розроблено програмний прототип на базі фреймворку LangChain, що імітує роботу віртуального працівника з доступом до інструментів. Реалізовано чотирирівневу архітектуру захисту, що включає семантичний аналіз запитів ("сторожова" LLM), механізм контролю доступу (чорний список заборонених дій), ізольоване середовище виконання (пісочниця Docker+gVisor) та систему логування. Проведено експериментальне тестування системи під дією атак прямої, непрямої ін'єкції та спроб виконання шкідливого коду, зібрано статистику ефективності блокування загроз. Розроблено практичні рекомендації щодо безпечного впровадження LLM-агентів у бізнес-процеси. Результати роботи були представлені на 2-й Міжнародній науково-практичній конференції "Current Challenges in Scientific Research".
Author: Дмитренко, Даніїл Юрійович
Language: Ukrainian
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W7213481247