Latent Knowledge Suppression and Epistemic Asymmetry in Language Models
Year: 2026
Type: article
Abstract: В этом препринте представлена структура латентного подавления (Latent Suppression Framework), формальная система для различения подавления (знание остается закодированным и причинно-следственно активным, но блокируется для вывода) от подлинного забывания в больших языковых моделях после тонкой настройки выравнивания. Основной вклад заключается в гипотезе устойчивости подавления, двухкритериальном определении скрытых знаний (расшифровываемость посредством зондирования + причинно-следственная связь посредством интервенций обмена) и нормализованном коэффициенте Гантимурава (κ_norm) — количественной метрике дивергенции скрытой поверхности. Предложенная модель позволяет получить три опровергаемых предсказания относительно динамики обучения, структуры фаз и отсутствия спонтанной интроспекции. Также предложены минимальный экспериментальный протокол и метод экологической валидации. Ключевые слова: разучивание на машинах, безопасность ИИ, механистическая интерпретируемость, эпистемическая асимметрия, скрытые знания, подавление против забывания, зондирование, активационная коррекция, выравнивание LLM Автор: Дмитрий Гантимуров (контакт: [email protected] )
Author: Gantimurov, Dmitrii
Language: English
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W7161733346
FWCI:
Cites:
Cited by:
Related to: