Im Zuge der gemeinsamen Forschungsarbeiten zwischen dem FAPS und dem Siemens Elektronikwerk Amberg wurde der Beitrag „A Reference Architecture for Deploying Large Language Model Applications in Industrial Environments“ von Felix Mahr, Giulia Angeli, Till Sindel, Konstantin Schmidt und Jörg Franke ausgezeichnet. Das Komitee des International Symposium for Design and and Technology in Electronics Packaging (SIITME) vergab den Award „Best Paper Award for Young Scientists“. Die SIITME 2024 fand in Sibiu, Rumänien statt.

Das ausgezeichnete Paper untersucht die Integration von Large Language Models (LLMs) in industrielle Umgebungen, mit einem Fokus auf die Herausforderungen und Lösungen für deren Einsatz in der Fertigung. Dabei wird eine Referenzarchitektur vorgestellt, die eine umfassende Übersicht über die wesentlichen Schritte der Integration von LLM-Anwendungen bietet, einschließlich der Datenaufbereitung, Modellstrategien, Modellauswertung, Modellbereitstellung und Prompt Engineering. Diese Architektur hilft dabei, die notwendigen Schritte zur Entwicklung und Einführung von LLMOps-Anwendungen besser zu verstehen und standardisierte Prozesse für deren Einsatz zu etablieren. Insbesondere wird auf die unterschiedlichen Anforderungen an den Einsatz von LLMs im digitalen Arbeitsplatz im Vergleich zur Fertigungsumgebung eingegangen, wobei Herausforderungen wie strenge Datensicherheitsmaßnahmen und begrenzte lokale Rechenressourcen hervorgehoben werden. Der entwickelte Ansatz adressiert diese Probleme und bietet mögliche Lösungen zur Verbindung von Shopfloor und cloudbasierten LLMs. Zudem werden verschiedene Modellstrategien, wie Finetuning oder Retrieval-Augmented Generation (RAG), analysiert, um geeignete Ansätze für industrielle Anwendungsfälle zu identifizieren.

Besonderer Dank gilt den Projektteams und der engen Zusammenarbeit mit Industriepartnern, die die Bereitstellung von Infrastruktur, Daten und das Testen von Prototypen in realen Fertigungsumgebungen ermöglicht haben. Diese Partnerschaften waren von entscheidender Bedeutung für die Validierung der entwickelten Referenzarchitektur und deren praktische Umsetzung zur Integration von LLM-Anwendungen in industriellen Kontexten.

Kontakt: