Forschungsleutturm
Institute for Applied Artificial Intelligence
Kurzbeschreibung
Das Institut für Angewandte Künstliche Intelligenz ist bestrebt, KI in die Anwendung zu bringen und so die Lücke zwischen Forschung einerseits und Unternehmen und Gesellschaft andererseits zu schließen. Indem das IAAI den Überblick über aktuelle KI Entwicklungen behält, aktuelle Forschungsergebnisse bewertet und ihr Potenzial für Unternehmensanwendungen versteht, trägt es dazu bei, KI als Schlüsseltechnologie der Zukunft zu etablieren.
URL
Titel des Forschungsthemas
Biologisch inspirierte Evolution von Lernfähigkeit
Beschreibung
Ausgangspunkt
Meta-Lernen, häufig als „Lernen zu lernen“ bezeichnet, beschäftigt sich mit der Entwicklung von KI-Systemen, die in der Lage sind, neue Aufgaben mit minimalem Datenaufwand und hoher Geschwindigkeit zu erlernen (Hospedales et al., 2020). Ein prominenter Ansatz ist das Model-Agnostic Meta-Learning (MAML), bei dem Gradientenverfahren eingesetzt werden, um Netzwerkparameter so zu initialisieren, dass das Modell nach wenigen Anpassungsschritten auf neue Aufgaben generalisieren kann (Finn et al., 2017). Ein alternativer Ansatz stammt aus dem Bereich der Neuroevolution, der evolutionäre Algorithmen zur Optimierung neuronaler Netze nutzt und sich von der Tatsache inspirieren lässt, dass natürliche Gehirne selbst Produkte eines Evolutionsprozesses sind. Neuroevolution ermöglicht wichtige Fähigkeiten, die gradientenbasierten Ansätzen typischerweise nicht zur Verfügung stehen, darunter das Lernen von Bausteinen neuronaler Netze (z. B. Aktivierungsfunktionen), Hyperparametern, Architekturen und sogar den Algorithmen für das Lernen selbst (Stanley et al., 2018).
Ziele und mögliches Vorgehen
Ziel des Projekts ist es, das Potenzial biologisch inspirierter, evolutionärer Methoden zur Verbesserung der Lernfähigkeit künstlicher Agenten zu untersuchen. Im Fokus steht die Frage, inwieweit evolutionär entwickelte Ausgangsbedingungen oder Struktureigenschaften zu einer schnelleren und robusteren Anpassung an neue Aufgaben führen können.
Zu diesem Zweck soll ein experimentelles Setup entworfen werden, in dem lernfähige Agenten trainiert und getestet werden, die mithilfe evolutionärer Optimierung in der Lage sind, ihre Adaptionsfähigkeit zu steigern. Dabei können verschiedene Varianten hinsichtlich der Optimierungsziele (z. B. Startzustände, interne Dynamiken, Netzwerkstrukturen) betrachtet werden. Die Untersuchungen können im Rahmen simulierter Experimente erfolgen, in denen verschiedene evolutionäre Strategien, Aufgabenformate und Modellkonfigurationen getestet und verglichen werden.
Projektstatus
Die Studierenden im Master of Media Research würden ein neues Forschungsvorhaben aufbauen, das sich aktuell in einem frühen konzeptionellen Stadium befindet. Das Projekt bietet daher die Möglichkeit, eigenständig ein experimentelles Setup zu entwickeln und zentrale methodische Entscheidungen zu treffen (z. B. Umgebungsdesign, Metriken, Evaluationslogik).
Mögliche Forschungsfragen:
- Wie unterscheiden sich evolutionär optimierte Lernvoraussetzungen in ihrer Anpassungsfähigkeit gegenüber klassischen Meta-Learning-Methoden?
- Welche Rolle spielt die Aufgabenvielfalt beim Training für die Generalisierbarkeit evolvierter Lernstrategien?
- Wie beeinflussen unterschiedliche evolutionäre Zielmetriken (z. B. Lernrate, Konvergenzgeschwindigkeit) die resultierende Lernfähigkeit?
- Welche architekturellen Merkmale entstehen durch evolutionäre Optimierung und wie tragen sie zur Lernfähigkeit bei?
- Wie robust sind evolvierte Agenten gegenüber Rauschen, Verzerrungen oder unvollständigen Daten in der Lernphase?
Name und Kontaktdaten
Prof. Dr. David Klotz, klotzd@hdm-stuttgart.de
Fachrichtung, Studiengänge
Informatik / Angewandte Informatik, Medieninformatik, Wirtschaftsinformatik, Mobile Medien
Notwendiges Vorwissen
Programmierkenntnisse in Python, Grundlagen maschinellen Lernens
Weitere interessante Informationen / Links
Finn, C., Abbeel, P. & Levine, S. (2017). Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks. arXiv (Cornell University). https://doi.org/10.48550/arxiv.1703.03400
Hospedales, T., Antoniou, A., Micaelli, P. & Storkey, A. (2020). Meta-Learning in Neural Networks: a survey. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2004.05439
Stanley, K. O., Clune, J., Lehman, J. & Miikkulainen, R. (2018). Designing neural networks through neuroevolution. Nature Machine Intelligence, 1(1), 24–35. https://doi.org/10.1038/s42256-018-0006-z