Artificial Intelligence for Spectral Analysis: a Comprehensive Framework

Die Spektralanalyse wird in diversen akademischen und industriellen Bereichen eingesetzt, um relevante Elementinformationen zu extrahieren. Bei der qualitativen Analyse ist eine genaue Identifizierung der vorhandenen Elemente erforderlich, und bei der quantitativen Analyse, die Konzentrationen aller relevanten Elemente müssen präzis bestimmt werden. Obwohl die aktuellen kommerziellen Ansätze hervorragende Ergebnisse bei der Elementquantifizierung liefern können, stoßen sie immer noch an ihre Grenzen: hohe Rechenzeit (insbesondere bei komplexen Aufgaben), personalintensive manuelle Elementidentifizierung und erhebliche Kosten für die Gerätekalibrierung.
... mehr

In dieser Dissertation wird ein umfassendes, auf neuronalen Netzen basierendes System für die Spektralanalyse in großem Maßstab entworfen. Um eine neue und angemessene Baseline zu erstellen, wobei die meisten gängigen Elemente (bis zu 28) abdeckt werden können, werden umfangreiche Experimente durchgeführt, um die erforderliche Trainingsdatengröße zu untersuchen, geeignete Netzwerkarchitekturen auszuwählen und problemspezifische Konfigurationen zu analysieren. Bei den Quantifizierungsaufgaben erreicht der vorgestellte Ansatz im Vergleich zu den klassischen Methoden die gleiche Fehlerquote mit einer signifikanten Geschwindigkeitssteigerung um einen Faktor von über 400. Auch für die qualitative Analyse wird die Klassifizierung von Elementen mit einer ausgezeichneten Genauigkeit von über 99\% bei realen Messungen automatisiert, wobei die Dimension der Eingabedaten auf einer interpretierbaren Weise stark reduziert wird.

Darüber hinaus erfordern neuronale Netze in der Regel große Rechen- und Speicherressourcen, so dass die Anwendung mit Problemen in Bezug auf Latenzzeiten, Speicherplatzbedarf und Stromverbrauch konfrontiert sein kann, insbesondere bei Endgeräten mit geringer Leistung. Um dieses Problem zu lösen, wurde ein hybrider Ansatz entwickelt, der die Ausführung neuronaler Netze optimiert, beschleunigt und dennoch die endgültige Leistung beibehält. Die Ergebnisse auf verschiedenen Zielhardwareplattformen zeigen, dass dieser hybride Ansatz in den meisten Fällen eine bis zu 52-fache Komprimierung der Modellgröße und eine 600-fache Beschleunigung mit sogar besserer Performanz erreichen kann, was den Einsatz auf Edge-Geräten mit geringen Kosten ermöglicht.

Um schließlich die letzte Hürde des Kalibrierungsproblems auf dem Weg zu einem großflächigen Einsatz auf einer großen Anzahl von Geräten in der Industrie zu überwinden, wird ein auf Meta-Learning basierender Ansatz entwickelt, um hervorragende Kalibrierungsergebnisse mit minimalen Kosten zu erreichen, indem die neuronale Netze lernen zu kalibrieren. Das allgemeine Spektralanalyseproblem wird als Multi-Geräte-Multi-Konfigurationsaufgabe formuliert und es erreicht die beste Fehlerrate vor und nach der Kalibrierung bei verschiedenen unbekannten Geräten. Im Vergleich zu den Basisansätzen mit Kalibrierung, schneidet es auch ohne Kalibrierung gleich gut ab, was in einem realen Szenario sehr praktisch ist, wo ein unbekanntes Gerät ohne verfügbare Referenzproben für die Kalibrierung eingesetzt werden muss. Darüber hinaus zeigt die Ressourcenanalyse, dass der Ansatz deutlich weniger Ressourcen für den industriellen Einsatz erfordert, was zu einem enormen Einsparungs- und Wachstumspotenzial beiträgt.

Spectral analysis is widely utilized in various academic as well as industrial domains to extract relevant element information. Qualitative analysis requires accurate identification of existing elements, whereas in quantitative analysis, the concentrations of all relevant elements should be determined precisely. Although current state-of-the-art approaches deployed in commercial products can achieve excellent results on element quantification tasks, they still face some major limitations: high computational time especially for complex tasks; labor-intensive manual element identification procedure; expensive device calibration costs.
... mehr

In this dissertation, a comprehensive neural-network-based framework for large-scale spectral analysis is proposed. To set up a new and proper baseline covering the most common elements (up to 28), extensive experiments are conducted to examine the required training data size, select feasible network architecture and discuss problem-specific configurations. On quantification tasks, compared to classic methods, the proposed approach achieves the same level of error rate with a significant speed-up of over 400x. Similarly, for the qualitative analysis, the classification of elements is automated with excellent accuracy of over 99\% on real measurements, where the input data dimension is greatly reduced in an explainable way.

Besides, since neural networks usually require huge computational as well as storage resources, the application may face latency, memory footprint, storage size and power consumption issues, especially on low-power edge devices. To address this real-world problem, a hybrid approach is developed to optimize and accelerate the neural network execution while consistently preserving the final performance. Results on various target hardware platforms show that this hybrid approach can achieve up to 52x mode size compression and 600x speedup with even better performance in most cases, which enables low-lost deployment on edge devices.

Finally, to overcome the last hurdle of the calibration problem towards large-scale deployment on a vast number of devices in industry, a meta-learning-based approach is proposed to achieve excellent calibration results at minimal cost by learning to calibrate. The general spectral analysis problem is formulated as a multi-device multi-configuration task and it achieves the best pre-and post calibration error rate across different unknown devices. Besides, compared to the baseline approaches with calibration, it performs on par even without calibration, which is practical in the real-world scenario where an unknown device needs to be deployed without reference samples available for calibration. Moreover, the resource analysis indicates that the approach requires significantly less expenditure to deploy large-scale devices in industry, which contributes to a huge saving and growth potential.