Year: 2020
Type: dissertation
Abstract: Підготовка здійснювалась на кафедрі автоматизації проектування енергетичних процесів і систем Національного технічного університету України «Київський політехнічний інститут імені Ігоря Сікорського». Дисертація присвячена розробці засобів підвищення точності розпізнавання за діагностичним сигналом. Розпізнавання за діагностичним сигналом є базовою проблемою при реалізації систем автоматичного контролю та діагностики. Розповсюдженими задачами є безпосередньо класифікація за характеристичним сигналом, заданим як часовий ряд, та семантична сегментація за діагностичними знімками. З розвитком згорткових нейронних мереж відкрилися нові перспективи розв’язання таких задач швидко, зокрема в реальному часі, та з достатньою точністю. Однак в багатьох випадках рішення задачі семантичної сегментації потребує дотримання піксельної точності тому, що – в залежності від масштабу – зображення може відповідати розмірам об’єктів різного порядку. Наприклад, у випадках аналізу медичних зображень — це міліметри, а в задачах сейсмічної розвідки Землі — метри. Для потрібної точності розв’язання задач семантичної сегментації базових алгоритмів мереж глибокого навчання може бути не достатньо. Крім цього, не для всіх випадків діагностування достатньо точності класифікації, яку можна досягти на згорткових мережах. Насамперед це відбувається при втраті значень характеристичного вектору, виникненні аномалій або початку перехідних процесів в досліджуваному об’єкті. Водночас інший різновид нейронних мереж – карти самоорганізації Кохонена – мають властивості до навчання за невизначеною множиною класів та формування нових кластерів для заздалегідь не відомих класів. Тим самим самим, мережі Кохонена надають можливість розв'язувати задачі зазначеного типу. Тому в роботі проведено дослідження обох нейромережевих підходів для підвищення ефективності кожного з них окремо та їх інтеграції в гібридну нейронну мережу. Теоретичною базою досліджень стали роботи науковців: - у галузі мереж глибокого навчання: G. Hinton, Y. LeCun, A. Krizhevsky, I. Goodfellow та інші; - у галузі нейронних мереж, заснованих на принципах самоорганізації: T. Kohonen, S. Furao, M. Cao та інші. Сучасні дослідження спрямовані насамперед на знаходження засобів підвищення точності розв’язання прикладних задач на основі існуючих механізмів нейронних мереж. Однак для багатьох задач класифікації та семантичної сегментації досі не досягнута необхідна точність, тому вдосконалення архітектур та визначення додаткових засобів збільшення точності діагностування є актуальною прикладною задачею. Метою досліджень є розробка методів підвищення точності розпізнавання за діагностичним сигналом на основі нейронних мереж. Для розв’язання поставленої мети поставлено такі завдання: - провести аналіз математичного та алгоритмічного забезпечення нейронних мереж, їх архітектур та властивих ним проблем навчання; - вдосконалити мережі глибокого навчання для підвищення точності розв'язання задачі семантичної сегментації; - підвищити точність класифікації сигналів великої розмірності на мережах глибокого навчання за умови обмежених обчислювальних ресурсів; - розробити метод класифікації за характеристичним сигналом з втратами у випадкові моменти часу на основі карт самоорганізації Кохонена; - розробити концепцію асоційованої пам'яті для мережі глибокого навчання; - здійснити програмну реалізацію всіх запропонованих методів вдосконалення нейронних мереж; - експериментально перевірити запропоновані методи при розробці програмного забезпечення розв'язання прикладних задач діагностування. В дисертаційні роботі вперше отримано такі наукові результати: Вперше запропоновано: - метод збільшення рецептивного поля нейронів згорткових нейромереж на основі агрегації карт признаків різної розмірності для підвищення точності класифікації сигналів великої розмірності; - метод визначення відповідності нейронів решітки навченої карти самоорганізації Кохонена вхідному вектору з втраченими невизначеними компонентами для підвищення точності класифікації;; - модель формування усереднених карт признаків в згорткових нейронних мережах на основі карт самоорганізації Кохонена для підвищення точності розв’язання задач класифікації та семантичної сегментації. Отримав подальший розвиток: - метод семантичної сегментації на мережах глибокого навчання за рахунок примусового виділення контурів зображення в декодері мереж: FPN, PSPNet, DeepLab v3, U-Net та за рахунок агрегації різнорозмірних підвиборок карти признаків для підвищення точності розпізнавання. У першому розділі «Проблеми розв’язання задач діагностування нейронними мережами» формалізовано постановки задач класифікації за діагностичним сигналом та семантичної сегментації за знімками, проведено аналіз нейронних мереж, їх концепцій, архітектур та властивих проблем навчання. В другому розділі «Семантична сегментація на мережах глибокого навчання» розглянуто базові блоки сучасних архітектур нейронних мереж, методи виділення контурів на зображенні. На основі цих досліджень здійснено власну розробку і вдосконалено математичне та алгоритмічне забезпечення сучасних мереж глибокого навчання: U-Net, DeepLabv3, FPN, PSPNet. В третьому розділі «Класифікація на картах самоорганізації за сигналом з втратами» розроблено спосіб збільшення точності розпізнавання вхідного сигналу з втратами на основі карт самоорганізації. Розроблено власні програмні реалізації карт самоорганізації за класичним алгоритмом та алгоритмом, доповненим запропонованим способом. Обґрунтовано вибір існуючих програмних реалізацій мереж Кохонена, реалізованих як на базових, так і на оптимізованих алгоритмах. На основі обчислювальних експериментів з всіма програмними реалізаціями нейронних мереж доведено ефективність запропонованого способу. В четвертому розділі «Середовище моделювання нейронних мереж для розв’язання задачі кластеризації» розроблено середовище моделювання нейронних мереж Кохонена для порівняльного аналізу існуючих програмних реалізацій карт самоорганізацій при розв’язанні задач кластеризації та доведення коректності нових розробок. Запропоноване програмне середовище має практищу значущість для обґрунтування вибору програмного інструментарію ефективного розвязання поточної прикладної задачі, або доведення ефективності нових розробок карт самоорганізацій. В п’ятому розділі «Класифікація та сегментація на згорткових мережах з використанням карт самоорганізації» представлена концепція інтеграції згорткової мережі з картою самоорганізації Кохонена в єдиному нейромережевому комплексі для підвищення точності. Розроблено блок гібридної згорткової мережі з інтегрованою картою самоорганізації Кохонена. На основі обчислювальних експериментів доведено ефективність запропонованої архітектури. За матеріалами дисертації опубліковано 12 робіт, з яких 5 – це статті у періодичних журналах, що входять до переліку фахових видань, затверджених МОН України за спеціальністю дисертації, в тому числі 1 включена до міжнародної наукометричної бази SCOPUS, та 7 – публікації у матеріалах конференцій (у тому числі, міжнародних).
Author: Москаленко, Юрій Володимирович
Language: Ukrainian
Subfield: Control and Systems Engineering
Field: Engineering
Domain: Physical Sciences
Open Access status: green
OpenAlex ID: W7006941368