Type: article
Abstract: В работе предлагается концепция инфраструктуры доверия для использования больших языковых моделей и их дообученных модификаций на основе LoRA-адаптеров. Показано, что при активной интеграции LLM в бизнес-процессы и создании AI-агентов возрастает риск эксплуатации модифицированных или скомпрометированных моделей, способных приводить к утечкам данных, предвзятости и нарушению регуляторных требований. Для решения проблемы предлагается архитектура сертификации LoRA, основанная на механизмах криптографической подписи, публичной инфраструктуре ключей и верифицируемой случайной функции. Разрабатывается протокол регистрации, проверки подлинности и аудита моделей, а также механизм выборочной проверки честности серверов инференса на основе сравнения логит-векторов эталонной и работающей модели. Подход обеспечивает прозрачность, криптографическую фиксацию версий и возможность формального контроля корректности генерации, формируя аналог «TLS для LLM». Рассматриваются практические ограничения и преимущества системы, позволяющей повышать безопасность и надежность применения LoRA-адаптаций в критических приложениях.
Source: CyberLeninK (CyberLeninka)
Author: И. С. Величко
Language: Russian
Subfield: Computer Networks and Communications
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W7135540942