Template-Based Deployment for Real-Time Deep Learning on Point Clouds

Deep Learning auf Punktwolken eignet sich für irreguläre Detektorgeometrien mit Millionen einzelner Sensoren, jedoch existiert bislang keine Methodik für dessen Einsatz in Echtzeit-Datenakquisitions- und Triggersystemen.
Diese Dissertation stellt DeePloy vor, eine generalisierbare Methodik zur Abbildung graphbasierter Punktwolkennetzwerke auf heterogene, kommerziell verfügbare rekonfigurierbare Hardware unter harten Echtzeitanforderungen.
Diese Plattformen reichen von Field-Programmable Gate Arrays bis hin zu Systems on Chip, die Field-Programmable Gate Arrays mit Coarse-Grained Reconfigurable Arrays kombinieren.
... mehr
Punktwolkennetzwerke werden in einen Graphen bestehend aus Operatoren zerlegt und auf eine Datenfluss-Architektur abgebildet, wobei topologieabhängige Transformationen zur Verbesserung von Latenz und Durchsatz der Inferenz vorgeschlagen werden.
Die Methodik wird anhand von drei Fallstudien im Belle II Experiment validiert.
Erstens wird ein Punktwolkennetzwerk für den Hardware-Trigger der Central Drift Chamber auf dem AMD Alveo V80 implementiert und erreicht in Simulationen eine Latenz von 0,425 Mikrosekunden sowie 32 Millionen Detektoraufnahmen pro Sekunde, was einer nahezu zehnfachen Durchsatzsteigerung gegenüber vorherigen Arbeiten entspricht.
Zweitens wird ein Punktwolkennetzwerk für den Hardware-Trigger des elektromagnetischen Kalorimeters entwickelt und in das Triggersystem integriert, das seit Anfang 2026 in Belle II in Betrieb ist, eine Ende-zu-Ende-Latenzvorgabe von 1,053 Mikrosekunden einhält und 8 Millionen Detektoraufnahmen pro Sekunde auf dem AMD Ultrascale XCVU190 verarbeitet.
Dieser Ansatz stellt die erste Implementierung eines auf Punktwolkennetzwerken basierenden Rekonstruktionsalgorithmus in einem Hardware-Trigger in der Teilchenphysik dar.
Drittens wird ein Punktwolkennetzwerk auf dem AMD Versal VCK190 implementiert und erreicht in Hardwaremessungen eine 7,02 mal höhere Durchsatzleistung gegenüber einer Grafikkarte.
Zusammenfassend zeigt diese Arbeit, dass graphbasierte Punktwolkennetzwerke die harten Echtzeitanforderungen von Hardware-Triggersystemen erfüllen können und damit Rekonstruktionsalgorithmen in wissenschaftlichen Großexperimenten realisiert werden können.

Deep learning on point clouds is well suited to irregular detector geometries with millions of individual sensors, yet no deployment methodology exists for real-time data acquisition and trigger systems.
This thesis presents DeePloy, a generalisable methodology for deploying graph-based Point Cloud Networks onto heterogeneous, commercially available reprogrammable hardware under hard real-time constraints.
These range from Field-Programmable Gate Array devices to Systems on Chip that combine Field-Programmable Gate Arrays with Coarse-Grained Reconfigurable Arrays.
Point Cloud Networks are decomposed into a graph of operators mapped onto a dataflow accelerator architecture, with topology-dependent transformations proposed to improve inference latency and throughput.
... mehr
The methodology is validated through three case studies in the Belle II experiment.
First, a Point Cloud Network for the Central Drift Chamber hardware trigger is deployed on the AMD Alveo V80, achieving 0.425 microseconds latency and 32 million detector snapshots per second in out-of-context simulation, an almost ten-fold improvement in throughput over prior work.
Second, a Point Cloud Network for the Electromagnetic Calorimeter hardware trigger is developed and integrated into the trigger system, operating in \belletwo since early 2026, meeting an end-to-end latency deadline of 1.053 microseconds and processing 8 million detector snapshots per second on the AMD Ultrascale XCVU190.
This approach constitutes the first deployment of a Point Cloud Network-based reconstruction algorithm in a particle physics hardware trigger.
Third, a Point Cloud Network is deployed on the AMD Versal VCK190, achieving a 7.02-fold throughput speedup over a Graphics Processing Unit baseline in hardware measurements.
Collectively, this work demonstrates that graph-based Point Cloud Networks can meet the hard real-time demands of hardware trigger systems, enabling reconstruction algorithms in large-scale scientific experiments.