Titel: Entwicklung eines KI-gestützten Bots für die Detektion und Bewertung maschinell generierter Inhalte zur Identifikation von Falschinformationen
Projektbeschreibung (Forschungsfragen, Vorgehen, erwartete Ergebnisse)
Ausgangspunkt und Ziele des Projektes
Die Anwendung generativer KI hat eine rasante Verbreitung irreführender, rechtswidriger oder falscher KI-generierter Inhalte zur Folge und stellt eine große Herausforderung dar. Während die Entwicklung generativer KI-Technologien schnell voranschreitet, gewinnt die Validierung der generierten Inhalte zunehmend an Gewicht, wird jedoch meist noch vernachlässigt. Bestehende Methoden zur Inhaltsvalidierung sind nach aktuellem Stand zu ungenau oder zu ineffizient, sodass sie meist eine manuelle Prüfung durch den Menschen erfordern. Ziel des innovativen Projekts FACTSBot ist es daher, eine KI-gestützte Validierung und Bewertung maschinell generierter Inhalte zur Verfügung zu stellen und somit die digitale Integrität zu schützen
Das Projekt konzentriert sich auf eine innovative Lösung zur Validierung von KI-generierten Inhalten in Nachrichten und Werbemitteln. Unser Ziel ist die Entwicklung und Bereitstellung von FACTSBot (engl. „Fake Article Classification and Truth Screening Bot“), ein benutzerfreundliches KI-System, welches maschinell generierte Inhalte detektiert, hinsichtlich gesetzlicher und moralischer Richtlinien bewertet und darin vorkommende Fehlinformationen identifiziert.
Der/die MR3 Studierende kann auf bestehenden aktuellen Fortschritten im Bereich des maschinellen Lernens, der KI-gestützten Analyse von Text- und Bilddaten sowie der generativen KI aufbauen. Erfahrungen aus vergangenen Forschungsprojekten, welche im Rahmen der Förderprogramme Zentrales Innovationsprogramm Mittelstand (ZIM) und InvestBW gefördert wurden, haben gezeigt, dass die zur Verfügung stehende KI-Technologie nicht nur mit dem momentanen Stand der Forschung mithalten, sondern diesen sogar übertreffen kann. Das vorhandene System ist in der Lage, automatisiert Werbemittel aus Produktseiten zu generieren und semantische Informationen aus Nachrichtenartikel zu extrahieren, um z.B. die emotionale Werbewirkung oder die IAB-Kategorie zu bestimmen. Grundlage hierfür bildet eine große Anzahl an Daten mit über einer Millionen Nachrichtenartikel pro Monat aus Deutschlands führenden Premium-Publisher in Verbindung mit aktuellen Forschungsansätzen zu Large Language Models (LLM) und Transformers, wie z.B. das Open-Source BERT, T5 oder OpenAIs GPT-4.
Mögliches Vorgehen
Im ersten Schritt liegt der Fokus der/des MR3 Studierenden auf der Erstellung und Kennzeichnung eines Datensatzes mit hochwertigen Nachrichtenartikeln, Werbemitteln und KI-generierten Texten und Bildern durch aktuelle State-of-the-Art-Modelle wie Google BARD, Stable Diffusion und GPT-4. Anschließend wird ein tiefes neuronales Netz zur Detektion von maschinell generierten Inhalten trainiert. Durch Transformer-Modelle werden Text- und Bildmerkmale extrahiert, sodass diese in Bezug auf Verstöße gegen rechtliche und moralische Richtlinien bewertet werden können. Im Anschluss wird unter Einsatz verschiedener maschineller Lernverfahren ein Modell entwickelt, welches Fehlinformationen in KI-generiertem Inhalt klassifiziert. Die verschiedenen Modelle sollen dabei anhand eines Validierungs- und Testdatensatzes evaluiert, optimiert und getestet werden. Im letzten Schritt wird eine benutzerfreundliche Oberfläche für eine intuitive Verwendung der neuen Technologie entwickelt.
Als Anwendungsfall sollen im Laufe dieses Projekts die Inhalte von künstlich generierten Werbemitteln und Nachrichtenartikeln von deutschsprachigen Premium-Publisher validiert werden.
Ein Forschungsantrag wurde gestellt und hat die erste Evaluationsstufe bereits erfolgreich durchlaufen.
Laufzeit: 12 Monate
Fördervolumen, Fördergeber: Antrag noch in der Begutachtung
Anzahl Mitarbeiter: 2
URL
Bilder zur Illustration
Weitere interessante Informationen / Links
Wissenschaftliche Betreuung: Prof. Dr. David Klotz