Work

Insight mining in time series data with applications for anomaly detection

Year: 2021
Type: dissertation
Abstract: Sensors are affecting ever more facets of our personal lives.Personal activity trackers monitor our exercise and sleeping regimes, weather forecasts are based on detailed atmospheric measurements, and car sensors use a wide variety of colorful indicators to inform us when something needs attention.Similarly, sensors become more widespread in industry as well.Machine sensors can determine when maintenance is due, and virtual sensors help secure the online services we depend on everyday.Thanks to the decreasing cost of data storage and the rise of cloud service providers data can now be stored in higher quantities and higher resolutions.Of course, the goal of companies is to use data analytics to gain insights and improve their products and services.A wide range of data analytics techniques exists to gain insights from data.Thanks to the finer resolution and higher detail in measurement data, we can now treat more and more data as (time-)series, where data is a sequence of evolving measurements rather than a collection of independent data points, opening a whole new world of data analytics techniques to be explored.This dissertation discusses various data analytics methods for working with series data, focusing on pattern-based techniques.Visualisations show similarity throughout time, anomaly detection flags suspicious patterns, and repeating patterns can be easily found.All methods deal with insight extraction in some way and can be applied to a wide range of domains.Chapter 1 familiarizes the reader with relevant concepts to understand the later chapters.We discuss the four categories of data analytics which we will use to situate our contributions and divulge on the characteristics of (time-)series and anomaly detection.Next, we provide an introduction to a series processing technique, i.e. the Matrix Profile (MP), which is a state-of-the-art time series analysis technique and forms an important building block in our techniques presented in later chapters.Finally, we provide an overview of our publications.In Chapter 2 we present a method for detecting poor quality welds in a steel mill production line using welding current data.Here, we use a classical approach to incorporating time series data, i.e. we calculate statistical features from the measurements obtained during the welding process.These features are combined with metadata describing the characteristics of the steel coils to train a model that predicts the welding current.Because we use a hybrid model, i.e. one where we combine machine learning SamenvattingSensoren beïnvloeden meer en meer aspecten van ons persoonlijk leven.Persoonlijke activiteitstrackers monitoren onze beweging-en slaapregimes, weersvoorspellingen zijn gebaseerd op gedetailleerde atmosferische metingen, en sensoren in auto's gebruiken allerlei kleurrijke indicatoren om ons te informeren dat iets onze aandacht vereist.Het gebruik van sensoren in de industrie neemt eveneens toe.Sensoren in machines kunnen bepalen wanneer onderhoud nodig is en virtuele sensoren dragen bij tot het beveiligen van de online diensten waar we dagelijks gebruik van maken.Dankzij de dalende kosten van gegevensopslag en de opkomst van cloud service providers kunnen gegevens nu in grotere hoeveelheden en hogere resoluties opgeslagen worden.Het doel van bedrijven is uiteraard om data-analyse te gebruiken om inzichten te verkrijgen en producten en diensten te verbeteren.Er bestaat een breed scala aan data-analysetechnieken om inzichten uit data te extraheren.Dankzij de fijnere resolutie en betere detail in meetgegevens kunnen we nu meer data als tijdsreeksen behandelen, hier bestaan metingen uit een reeks evoluerende waarden in plaats van een verzameling onafhankelijke datapunten.Dit opent een hele nieuwe wereld aan data-analysetechnieken om te ontdekken.Dit proefschrift bespreekt verschillende data-analystechnieken voor het werken met tijdsreeksen, met een nadruk op patroongebaseerde technieken.Visualisaties laten toe om gelijkenissen doorheen de tijd te vinden, anomaliedetectie kan gebruikt worden om afwijkende patronen te vinden, en andere technieken dienen om repetitieve patronen te vinden.Alle besproken technieken hebben te maken met het verwerven van inzichten en zijn niet gebonden aan één bepaald domein.Hoofdstuk 1 maakt de lezer vertrouwd met relevante concepten om de latere hoofdstukken te begrijpen.We bespreken vier categorieën van data-analyse die we zullen gebruiken om onze bijdragen te situeren, verder gaan we in op de kenmerken van tijdsreeksen en anomaliedetectie.Vervolgens verdiepen we ons in technieken rond seriesverwerking waaronder de zogenaamde Matrix Profile.Dit is een state-of-the-art techniek voor tijdsreekanalyse en vormt een belangrijke basis voor de technieken die in latere hoofdstukken worden voorgesteld.Ten slotte geven we een overzicht van onze publicaties.In Hoofdstuk 2 stellen we een methode voor die lassen van slechte kwaliteit kan detecteren in productielijnen van staalfabrieken, gebaseerd op de gemeten lasstroom.techniek uit en definiëren we de Radius Profile (RP) als een nieuwe component die past in het SDM-framework.De RP geeft inzicht in hoe nauwkeurig elke sequentie in een tijdsreeks een aantal keer herhaald is doorheen een verzameling tijdsreeksen.Het common-k Radius Profile is nog een andere voorgestelde techniek voor het vinden van herhalingen bij één enkele tijdsreeks in plaats van meerdere.Deze techniek kan worden gebruikt om de meest voorkomende patronen in een tijdsreeks te vinden, d.w.z.de sequenties die het best bewaard blijven over een aantal herhalingen.Waar in de voorgaande hoofdstukken data-analysemethoden voornamelijk als onafhankelijke technieken worden behandeld, laat hoofdstuk 6 zien hoe deze methoden kunnen worden gebruikt als onderdeel van een groter data-analyse systeem.Dit hoofdstuk beschrijft een use-case uit het Dyversify project, waar een full-stack data-analyse prototype werd gebouwd dat data-gedreven machine learning technieken combineert met kennis-gedreven semantische technieken.Het doel was om automatisch anomalieën of voorvallen te detecteren in gegevens afkomstig van particuliere ventilatie eenheden.Een dynamisch dashboard koppelt semantisch verrijkte anomalieën met geschikte visualisatiewidgets met behulp van semantisch redeneren, waardoor de werklast van de operator wordt verminderd.Via interactie met het dashboard kan de operator deze anomalieën onderzoeken en aangeven welke anomalieën relevant zijn.De eerste detecties door dit systeem zijn zogenaamde discords, d.w.z.unieke patronen in de tijdsreeks die kunnen worden gezien als mogelijke anomalieën.Deze worden gedetecteerd door een MP-component die streaming data verwerkt.Wanneer patronen een tweede keer voorkomen, worden ze niet langer als discord beschouwd.Echter, als de operator het overeenkomstige patroon als relevante anomalie heeft gelabeld, zal een patroondetector dit patroon registreren als een relevant voorval.De detectiecomponenten gebruiken dus de bevestigde anomalieën als referentiepatronen om overeenkomende voorvallen in nieuwe binnenkomende metingen te detecteren.Hoofdstuk 6 beschrijft de overkoepelende architectuur van dit systeem.Het beschrijft hoe gegevens ontvangen worden in het Obelisk-systeem, getransporteerd worden met behulp van Kafka, semantisch geconverteerd worden door de RMLStreamer, verwerkt worden met behulp van het SDM-framework en semantische regelgebaseerde technieken, en uiteindelijk het dashboard bereiken waar interacties van gebruikers teruggekoppeld worden naar eerdere componenten.Dit hoofdstuk bundelt ook onze ervaringen met het combineren van semantische en machine learning technieken.Hoofdstuk 7 bevat een samenvatting van ons onderzoek en bespreekt mogelijkheden voor toekomstig onderzoek.
Institution: Ghent University
Language: English
Open Access status: green
OpenAlex ID: W7038824927
Cites: 123
Cited by:
Related to: 10