Year: 2018
Type: conference-paper
Abstract: АннотацияВ данной статье подробно описаны проблемы уязвимости машинного обучения.Освещен вопросы машинного обучения, предназначенные для решения некоторых из наиболее сложных проблем в области безопасности.В рамках статьи представлена исследовательская деятельность в области вредоносных атак, проанализированная с нескольких точек зрения.Ключевые слова: Кибербезопасность, машинное обучение, защита информации, угроза от машинного обучения, сфера использования машинного обучения.Хотя машинное обучение оказалось перспективным в некоторых областях применения, наше понимание его поведения и ограничений все еще находится на начальной стадии.Одной из таких областей является кибербезопасность, в которой модели машинного обучения заменяют традиционные системы, основанные на правилах, благодаря их способности обобщать и справляться с крупномасштабными атаками, которые раньше не наблюдались.Однако, при корреляции принципов машинного обучения в область безопасности следует относиться с осторожностью.Машинное обучение не было разработано с учетом соображений безопасности и, как таковое, подвержено вредоносным манипуляциям.Однако, как и в случае с любым новым технологическим прогрессом, чрезмерный энтузиазм в разработке и развертывании решения часто приводит к игнорированию его недостатков и угроз безопасности.Ранний успех и внедрение методов машинного обучения также страдают от той же проблемы.Машинное обучение не было разработано с учетом безопасности, и недавно было признано, что цели машинного обучения часто противоречат понятию системной безопасности.С коммерческими готовыми решениями, которые рекламируются технологическими гигантами, такими как Amazon AWS и облачная платформа Google, кажется, что машинное обучение становится общим инженерным решением большинства проблем.Эти компании предлагают модели черного ящика «Сервис машинного обучения», которые разработчики могут использовать для использования потенциала машинного обучения, для удовлетворения потребностей в приложениях.Тем не менее, это агностическое использование в области машинного обучения является ошибочным.Последние работы продемонстрировали более чем 89-процентный уровень атаки на эти услуги «черного ящика», продемонстрировав уязвимости машинного обучения к вредоносным манипуляциям.Было показано, что точность модели не имеет большого значения во вредоносной среде, потому что даже модель с более чем 99-процентной точностью оказалась легко взламываемой (более 99 процентов случаев), используя аппаратное обеспечение и усиленную проверку.Машинное обучение восприимчиво к вредоносной деятельности, когда злоумышленник может манипулировать входными данными, чтобы обмануть развернутую модель машинного обучения.Машинное обучение все чаще используется в ядре важнейших приложений, таких как автомобили с автоматическим управлением, системы рекомендаций по лекарствам и алгоритмы большого объема торговли.Эти системы влияют на жизнь людей, а вредоносные атаки могут привести к
Authors: R. E. Mikhtadov, S. Iu. Maier, Z. M. Albekova
Language: Russian
Subfield: Artificial Intelligence
Field: Computer Science
Domain: Physical Sciences
Open Access status: bronze
OpenAlex ID: W2897257144