Efficient Neural Network Inference on FPGAs

Am 17. April 2024 fand der zweite Workshop zum Thema "Efficient Neural Network Inference on FPGAs" am Paderborn Center for Parallel Computing (PC2) statt. Der Workshop wurde vom PC2 in Kooperation mit der Computer Engineering Group der Universität Paderborn organisiert und ausgerichtet, beide Partner innerhalb des eki Projekts.

Der Workshop konzentrierte sich auf zwei Hauptziele: das Verständnis der Konzepte von DNN (Deep Neural Network) und FINN, einem Open-Source-Framework, das für effiziente DNN-Inferenz auf FPGA-Beschleunigern optimiert ist. Um die fortgeschrittenen Konzepte von FINN zu erklären, wurden zu Beginn des Workshops zwei grundlegende Themenblöcke zu FPGAs und neuronalen Netzen vorgestellt. Anschließend konnten die Teilnehmerinnen und Teilnehmer ein neuronales Netzwerk selbst trainieren und mittels FINN das trainierte Netz in ein FPGA-Design umwandeln, indem sie JupyterHub mit vorbereiteten Notebooks verwendeten. Die Teilnehmerinnen und Teilnehmer konnten dieses Design dann auf den AMD/Xilinx Alveo U280 FPGA-Karten ausführen, die als Teil des Noctua 2 Clusters verfügbar sind.

Der hybrid-organisierte Workshop wurde auch über HPC.NRW beworben und hatte etwa 40 Teilnehmerinnen und Teilnehmer aus Nordrhein-Westfalen, z.B. aus Aachen, Bielefeld, Münster und Wuppertal, und ganz Deutschland.