Das Projekt- und Medienarchiv der HdM

Beschreibung

Im Rahmen des Innovationsprojekts soll zunächst recherchiert und beschrieben werden, welche Sicherheitslücken in Large Language Models (LLMs) vorkommen können und auch die Auswirkungen dieser sollen bestimmt werden. Zudem sollen Ansätze zum Erkennen und Verhindern der Sicherheitslücken recherchiert und erläutert werden, um einen Überblick über den aktuellen Stand der Forschung zu erlangen. Weiters wird auch auf die gesetzlichen Vorgaben und Standards eingegangen, da diese einen großen Einfluss auf Unternehmen haben und diese bei der Umsetzung von Maßnahmen maßgeblich beeinflussen. Das Projekt wird in Kooperation mit Mercedes-Benz durchgeführt. Im Unternehmen werden auch Security Tests benötigt, um die
Sicherheit der AI-Produkte/Modelle zu gewährleisten. Andere Teams sind bereits an der Entwicklung von Security Checks und haben bereits erste Ergebnisse. Im Rahmen dieses
Projekts soll eine Pilot Infrastruktur aufgebaut werden, die es ermöglicht, die bestehenden Tests auf verschiedene Modelle anzuwenden. Mithilfe des Piloten ist dann eine Analyse der bestehenden Tests möglich. Diese bereits bestehenden Tests sollen beschrieben und kategorisiert werden. Abhängig von den Ergebnissen dieses Projekts kann dann ein Thema für die Masterarbeit definiert werden.