Efficient Integration of GPUs in Particle Physics and Transformer-Based Tau Lepton Identification

Der Bereich der Hochenergiephysik (HEP) zeichnet sich durch das schiere Ausmaß seiner Experimente aus. Mit dem künftigen High-Luminosity Large Hadron Collider wird die Gesamtzahl der aufgezeichneten Kollisionsereignisse um eine weitere Größenordnung steigen. Die Rekonstruktion und Analyse dieser Ereignisse ist äußerst rechenintensiv. Da die Budgets für Rechenkapazitäten nicht im gleichen Maße steigen können wie der Bedarf an Rechenleistung, ist eine Verbesserung der Recheneffizienz unerlässlich. Ein wichtiger Ansatz hierfür ist der Einsatz von GPUs, die mehr Rechenkapazität zu einem geringeren Preis bieten als herkömmliche Prozessoren. ... mehrDiese Arbeit untersucht neue Forschungsmöglichkeiten, die sich durch aufkommende GPU-Technologien ergeben, sowie den Einfluss dieser Technologien auf die Effizienz in verschiedenen Bereichen des HEP-Computings.

Im ersten Teil entwickelt diese Arbeit ein verbessertes „TauTransformer“ maschinelles Lern-Modell zur Identifizierung von als Tau-Leptonen bekannt Elementarteilchen. Durch den Einsatz von GPU-Ressourcen konnte das Modell auf einem deutlich größeren Datensatz trainiert werden, was im Vergleich zu aktuellen Algorithmen zu bis zu 9$\times$ niedrigeren Fehlidentifizierungsraten bei leptonischen Hintergründen führte. Damit zeigt die Arbeit, wie GPUs dazu beitragen können, die Grenzen der Teilchenidentifizierung zu erweitern.

Der zweite Teil gibt einen Überblick über das breitere Spektrum der HEP-Workloads, um den Durchsatz und die Energieeffizienz zu bewerten. Besonderes Augenmerk wird auf die Herausforderungen kleiner Anwendungen gelegt, die die verfügbare Hardware oft nicht vollständig auslasten und daher einen geringen Durchsatz und eine schlechte Energieeffizienz aufweisen. Um dem entgegenzuwirken, untersucht diese Arbeit Systeme für die fraktionierte GPU-Nutzung, die es mehreren kleinen Jobs ermöglichen, eine einzelne GPU effizient gemeinsam zu nutzen. Die beiden in dieser Arbeit untersuchten Hauptansätze sind „Multi Instance GPU“ und „Multi-Process Service“, die eine Verbesserung des Durchsatzes um einen Faktor von bis zu 3 bei einem um 75 % reduzierten Energieverbrauch ermöglichten.

In jedem untersuchten Fall, von kleinen neuronalen Netzen bis hin zu groß angelegten Simulationen, boten GPUs im Vergleich zu herkömmlichen CPU-basierten Konfigurationen überlegene Geschwindigkeit, Durchsatz und Energieeffizienz. Letztendlich zeigt diese Arbeit, dass GPUs nicht nur neue physikalische Forschung ermöglichen, sondern auch die Landschaft der Recheneffizienz in der Hochenergiephysik grundlegend neu gestalten.

The field of High-Energy Physics (HEP) distinguishes itself by the sheer scale of its experiments. With the upcoming High-Luminosity Large Hadron Collider, the total number of recorded collision events will rise by another order of magnitude. Reconstructing and analyzing these events is highly computationally intensive. Because computing budgets cannot rise at the same rate as the required computing capacity, improving computational efficiency is a necessity. One primary avenue for this is the introduction of GPUs, which can deliver more computing capacity at a lower price than traditional processors. ... mehrThis thesis explores new research possible due to emerging GPU technologies and how GPU technologies impact efficiency across multiple regions of HEP computing.

In the first part, this thesis develops an improved "TauTransformer" machine-learning model to identify specific elementary particles known as tau leptons. Using GPU resources allowed the model to be trained on a significantly increased dataset, which led to up to 9$\times$ lower misidentification rates for leptonic backgrounds compared to current algorithms. With this, the thesis demonstrates how GPUs can help to push the boundaries of particle identification.

The second part surveys the broader landscape of HEP workloads to evaluate processing speed and energy efficiency. Particular attention is given to the challenges of small-scale applications, which often fail to fully saturate available hardware and therefore exhibit poor throughput and energy efficiency. To address this, the thesis explores practical systems for fractional GPU sharing, enabling multiple small jobs to efficiently share a single GPU. The two main approaches explored in this thesis are "Multi Instance GPU" and "Multi-Process Service", which allowed for improvements in throughput by up to a factor of 3 at a 75\% reduced energy usage.

In every evaluated case, from small neural networks to large-scale simulations, GPUs provided superior speed, throughput, and energy efficiency compared to traditional CPU-based setups. Ultimately, this work demonstrates that GPUs not only enable new physics research but also fundamentally reshape the landscape of computing efficiency in HEP.