Wissenschaft und Forschung an der HdM

Portalbeitrag

Narrative der Mensch-Roboter-Beziehung und ihre Bedeutung

Ergebnisse zur medienethischen Forschung im Projekt zen-mri

Von Petra Grimm und Kai Erik Trost

Roboter und Künstliche Intelligenz (KI) sind zentrale Kumulationspunkte der Digitalisierung, die in den ökonomischen, sozialen und politischen Diskursen der letzten Jahre eine wesentliche Rolle spielen und nicht zuletzt mit großen Erwartungen hinsichtlich möglicher Transformationsprozesse der Gesellschaft assoziiert werden. Unterschiedliche Narrative zu KI und Robotern fungieren dabei als Bedeutungskonstrukteure, die den Wertgehalt dieser Technologien bestimmen sollen. Ausdruck davon sind Headlines, die davon handeln, dass uns digitale KI-Artefakte wie ChatGPT in ein neues Zeitalter führen (vgl. Engelke/Engelke 2024), in dem uns dann vielleicht automatisierte Reinigungs- und Transportroboter ganz selbstverständlich als Interaktionspartner im öffentlichen Raum gegenübertreten (vgl. Salvini et al. 2010). Während sich Forschung und Anwendung lange Zeit auf die häusliche Umgebung konzentrierte (vgl. Leitle et al. 2013), wird daher zunehmend auch der Einsatz der Robotern im öffentlichen Raum in den Blick genommen. Dies leistet etwa das BMBF-geförderte Forschungsprojekt zen-mri, in dem das Zusammenleben und die Mensch-Maschine-Interaktion heute und in Zukunft im Rahmen praktischer Feld- und Beobachtungsstudien, Workshops sowie narrativer Gesprächsrunden und Interviews erforscht wird. Die Wissenschafts- und Praxispartner untersuchen, wie ein erfolgreiches Zusammenleben zwischen Menschen und Robotern gelingen kann und wie die Mensch-Maschine-Interaktion (MRI) in ethischer, sozialer und rechtlicher Hinsicht gestaltet sein muss.

1. Von heute wie morgen erzählen – der Forschungsansatz der Narrativen Ethik

Im ethischen Teilprojekt des zen-mri-Forschungsvorhabens am Institut für Digitale Ethik (IDE) wird das subjektive Erleben der Menschen fokussiert. Mit einem Forschungsansatz der Narrativen Ethik (Grimm 2024a) wird der Frage nachgegangen, wie die Menschen über Roboter und KI denken, welche Geschichten und Erlebnisse sie mit ihr verbinden, welche Zukunft sie imaginieren und welche Haltung sie in Bezug auf diese einnehmen. Methodisch wurde mit Erzählinterviews sowie mit narrativen Zukunftsworkshops (n = 25) gearbeitet, in denen neben eigenen Erfahrungen auch fiktive Zukunftsgeschichten, die in einer erdachten, aber realistischen, zukünftigen Welt spielen, erzählt wurden. Es wurden 22 Erzählinterviews sowie drei Zukunftsworkshops durchgeführt. Neben weiteren Zukunftsworkshops sind für 2024 auch Gespräche mit Robotikherstellern und Anwendern von Robotiktechnologien geplant.

Ziel der Erhebung ist es, über faktuale Erzählungen von Selbsterlebtem sowie über fiktionale, aber realistische Geschichten der Zukunft eigene Vorstellungen, Assoziation und Imaginationen eines zukünftigen Zusammenlebens mit Robotern und KI zu aktivieren. Uns interessiert also nicht nur, welche moralische Fragen mit Robotern, „den in ihnen implementierten Werten und den sich aus ihnen ergebenden (gesellschaftlichen) Konsequenzen” (Loh 2019, S. 9) einhergehen, sondern auch, was davon abstrahiert über die Welt im Kopf der Erzählerinnen und Erzähler gesagt werden kann. Dies leistet der empirische Forschungsansatz der Narrativen Ethik am IDE: „Narrative sind zentrale Bedeutungsvermittler und können Werte und Normen, abstrakte Sachverhalte und Prozesse veranschaulichen sowie Emotionen auslösen. Sie vermitteln letztlich auch Moral bzw. Unmoral“ (Grimm/Keber/Zöllner 2019, S. 18). Es geht also weniger darum, realistische Szenarien aufzuzeigen oder die Veränderungen durch KI und Roboter konsequent und stringent erfassen zu wollen.

Für die Auswertung der Texte wird ein narratologisch-semiotisch fundierter Analyseeinsatz verwendet, der Techniken der linguistischen Textanalyse mit Heuristiken der strukturalen Narratologie bzw. Semiotik kombiniert (vgl. Trost 2023). Für eine Ethik der Robotik bzw. von künstlichen Systemen und KI scheinen solche (Erzähl-)Ansätze und Analysemethoden geeignet, weil die Menschen normative Aspekte wie zentrale Wertekonflikte in Anwendungs- und Zukunftsszenarien intuitiv herausarbeiten können und die Geschichten selbst abstrakte und schwer zu fassende Sachverhalte in ihrer ethischen Dimension analytisch zugänglich machen (vgl. Grimm/Keber/Zöllner 2019, S. 19).

Einhergehend mit diesem Erkenntnisinteresse ist es uns gerade mit Blick auf die erzählten Welten wichtig zu betonen, dass unser Verständnis des technischen Artefakts in Anlehnung an zum Beispiel Bruno Latour stets ein soziotechnisches, also nicht rein technisches oder ökonomisches, ist (vgl. Latour 2006, S. 485). Dementsprechend soll Robotik nicht als Treiber etwaiger Veränderungen von Kultur und Sozialität missverstanden werden, gerade wenn solche Annahmen mit Blick auf digitale Technologien und ihren Niederschlag in der Gesellschaft oftmals leitend sind (vgl. Reckwitz 2018, S. 229-232). Roboter und KI sollen so gedeutet werden, dass sie als technische Artefakte stets zusammen mit dem menschlichen Subjekt und dessen Handeln Wirkkraft entfalten, wodurch sich ein ethischer Gestaltungsspielraum hinsichtlich zu erlernender Fähigkeiten (siehe Nussbaum 2015) für den Umgang mit zukünftigen Herausforderungen und bestehenden Wertekonflikten ergibt. Dies ist uns wichtig, da auf diese Weise eine Befähigung des Menschen ermöglicht und auf ein gelingendes Zusammenleben von Menschen und Robotern hingewirkt werden kann.

Die nachfolgende Darstellung der empirischen Resultate fokussiert die wichtigsten Narrative der Befragung. Anhand der diesen Narrativen zugrundeliegenden Weltmodellen werden allgemeine Sichtweisen, implizite Annahmen und zugrundeliegende Argumentationsmuster ebenso sichtbar wie ethische Werte und Normen und als wichtig indizierte Wertekonflikte.

2. Passive Subjekte und egozentrische Weltsicht
Eine hohe qualitative Signifikanz kann im Hinblick auf sogenannte Passivitätserzählungen konstatiert werden. Die erzählte Welt dieser Geschichten ist davon gekennzeichnet, dass Roboter und KI ganzheitlich in die soziale Lebenswelt und ökonomische Umwelt integriert sind. Die Übernahme alltäglicher Aufgaben durch KI ist in den Geschichten selbstverständlich und alltägliche Realität. So erzählt etwa die 24-jährige Sophie vom Bestellen und Liefern von Lebensmitteln sowie alltäglichen Gütern, was im heimischen Haushalt selbstinitiativ durch eine Roboter-KI erfolgt. Im Erzählen referenziert die Probandin dabei auf eine Reihe bereits bestehender KI- und Robotertechnologien, die sie gedanklich weiterentwickelt und in die Zukunft transponiert. Die vollautomatische Lebensmittelverwaltung und -kommission wird so etwa durch die Komplementierung von Smart-Home-Funktionen, Online-Abonnementfunktionen (z. B. von Amazon) und dem Einsatz von Lieferrobotern möglich.
In Bezug auf das Subjekt geht der Weltentwurf mit einer umfassenden Aufgabe der Selbstständigkeit und einem Verzicht auf selbstbestimmtes Handeln einher. Das gängige Axiom der Erzählungen ist (nicht nur bei Sophie), dass der hohe Nutzen der (Roboter-)Technologie durch Habitualisierungseffekte und internalisierte Abhängigkeiten eine sukzessive Entmündigung auf der Ebene der Autonomie bewirkt hat. Nicht nur haben sich die Menschen (bewusst) von der automatisierten Technologie abhängig gemacht, diese hat zugleich das wahrnehmungs- und sinnesphysiologische Spektrum des Menschen verändert. So sind die Menschen in den Geschichten abgestumpft und müde; haben verlernt, interessiert, neugierig und kreativ zu sein. Der selbstgewählte Verzicht auf eigenes Handeln wendet sich in Form einer Degradation der Kognitivität als genuin menschliche Eigenschaft gegen sie. Betroffen ist die unmittelbare Fähigkeit, über Sachverhalte (überhaupt) nachdenken zu können. So beschreibt Sophie den Protagonisten ihrer Haupterzählung wie folgt:

„Er ist eine Person, die so glaub ich einfach ihr Leben lebt, ohne das jetzt groß so in einen Zusammenhang zu stellen. […] Er weiß, was er tut und wie er’s effizient tut aber weiß er auch warum eigentlich? [rhetorische Frage] Ich glaube nicht, weil’s für ihn keinen Unterschied macht. Sein Leben hat seine Benefits, durch Komfort, und er will so viel wie möglich davon reinholen, aber er fühlt die gar nicht mehr.“

Das Menschenbild der Zukunftsentwürfe ist damit ein weitgehend dystopisches, wobei die dystopisch-passive Semantik in der Diegese mal emphatisch expliziert wird, indem der Mensch etwa unmittelbar als „passiv und leer“, als „unfrei“ und „unmenschlich“ beschrieben wird, mal eher impliziert wird, in dem davon gesprochen wird, dass der Mensch „wie eine geölte Maschine“ liefe. Das Topos des „Durch Roboter-selbst-zum-Roboter-Werdens“ kann in jedem Fall als immanentes Paradigma der Geschichten gelesen werden. Allgemein ist eine technikdeterministische Argumentation und Sichtweise über weite Teile des Korpus der Stichprobe zu konstatieren – wobei utopisch akzentuierte Zukunftserzählungen empirisch unterrepräsentiert sind. Gemeinsam ist den Geschichten auch, dass die erzählten Phänomene der Entmündigung, Entfremdung bis hin zur Entmenschlichung durch den Verlust genuin menschlicher Eigenschaften des Nachdenkens und Reflektierens den Figuren der erzählten Welten selbst nicht bzw. nur bedingt bewusst ist. Diese handeln im Sinne „automatisierter Skripte, genauso wie die Roboter“, wie es der 28-jährige männliche Erzähler Dave formuliert. Dies geschieht, „weil Maschinen und KI eben überall vorhanden sind und alles bestimmen“.

Ein häufiges Element dieser Geschichten sind Werkzeugmetaphern. Roboter sind dementsprechend rein technische Artefakte, die vom Menschen einseitig benutzt werden und in der Interaktion weder zu moralischem Handeln in der Lage sind (bzw. in diesem Sinne semantisiert werden), noch als moralische Handlungs- bzw. Verantwortungsobjekte auftreten (zu diesem Arbeitsfeld der Roboterethik vgl. einführend Floridi/Sanders 2004). Spannend ist, dass sich in den Geschichten trotz (oder gerade wegen) der postulierten Herrschaft und Kontrolle des Menschen über den Gebrauch des technischen Artefakts eine solche starke (Rück-)Wirkung in ästhetischer Hinsicht nach sich zieht; sich also gerade im Selbstentwurf des Menschen als reflektiertes und souveränes Subjekt der negative Niederschlag von Technik als nichtneutrale Instanz auf eine unbewusste Weise artikuliert (zu dieser Logik etwa Han 2013).

Während die Passivitätsnarrative damit eine fast schon sinnesanthropologische Transformation des Menschen postulieren, zumindest aber das Menschenbild des „aktiven Nutzers“ (Grimm 2024b, i.E.) in Frage stellen, fokussieren sich Singularisierungsnarrative als zweite Kategorie negativ semantisierter Geschichten auf den Umgang der Menschen untereinander. Sie handeln typischerweise davon, dass der Einsatz von Robotik eine „Singularisierung des Lebensstils“ (Reckwitz 2018, S. 285-307) vorantreibt und in der Konsequenz zu Lasten der sozialen Beziehungen der Menschen geht bzw. hier eine Verstärkung des Egozentrismus evoziert.
Ein schönes Beispiel für dieses Narrativ findet sich in der Geschichte der 24-jährigen Studentin Kathrin. Kathrin erzählt in ihrer Geschichte von ihrem eigenen Ich, das sie in eine fiktive Zukunft transponiert.

„Ich könnte mir vorstellen, dass mir mein persönlicher Avatar in der Zukunft den Umgang mit der Welt draußen ganz schön erleichtert. Ich stelle mir vor, wie er mir halt Zuhause bei allem hilft und auch sonst so, ähm jetzt nicht im Haushalt sondern wenn es darum geht, dass ich niedergeschlagen bin, mich aufrichtet und lobt, mich kennt und sowas aber auch Informationen der komplexen Welt wie sie zukünftig sein wird einordnen kann und sowas vielleicht. […] Er übernimmt vielfältige Aufgaben. Sowas eben auch wie Bildung und so […]. Mir gefällt der Gedanke von sowas aber irgendwie hab ich auch Angst von dieser Welt weil ich glaub so, sie könnte auch sehr einsam sein.“

Spannend an dieser kurzen Fiktion ist zunächst, wie die Erzählerin mithilfe sprachlicher Deixis zunächst ein konkretes raumzeitliches Universum konstruiert, das sich in Form zweier, oppositionell angeordneter semantischer Räume (zum Konzept des semantischen Raums vgl. Trost 2023, S. 83-85) konstituiert: Diese bestehen in der heimischen Privatumgebung einerseits sowie in der diese umgebenden Außenwelt andererseits. Der Avatar dient vor dieser Folie als Kommunikationspartner, bietet nach innen zunächst Selbstbestätigung und hebt die Existenz des besonderen Menschen (vgl. Reckwitz 2018, S. 286) hervor, in dem er Selbstverwirklichung und self growth ermöglicht bzw. Authentizitätssignale als Bestätigung der eigenen Individualität aussendet. Der Avatar fungiert ferner als eine Art Übersetzer der Außenwelt, die von Komplexität und Unbekanntheit gekennzeichnet ist. Er ermöglicht – falls dies gewünscht ist – einen Übergang in die beschriebene „Welt draußen“, die im lokalen Kontext der Geschichte bedrohlich bis feindlich konnotiert wird. Mit der skizzierten Entwicklung der Selbstbezogenheit, die in den Geschichten etwa auch mit einer Affektintensivierung und einem Rückgang von Werten wie Empathie oder Einfühlungsvermögen verbunden ist, ergibt sich eine Abwertung der Werte des sozialen Miteinanders.

Wie im Beispiel von Kathrin ist für viele Geschichten charakteristisch, dass Algorithmisierung und Robotik zu einer Verstärkung bestehender gesellschaftlicher Konfliktfelder geführt hat und (wie im Beispiel) eine Unüberwindbarkeit ideologischer Räume, Lebensstile und politischer Positionen evoziert. Dies geschieht dadurch, dass die digitale Technologie bestehende Werte und gegebenes Verhalten reproduziert und dabei immer auf die eigene Person referenziert. Analog zu „Empfehlungs-Bubbles“ ergeben sich in einer anderen Geschichte etwa spezifische „Robot-Bubbles“, die ähnlich wie der persönliche Avatar in Kathrins Geschichte eine selbstreferenzielle (Bestätigungs-)Funktion erfüllen. Die Menschen sind in ihrer Bubble gefangen, wobei ein Ausbrechen entweder nicht gewünscht ist, oder eine Grenzüberschreitung am hohen Nutzen der Aufrechterhaltung der Bubbles scheitert.

3. Die Schaffung von Ressourcen für ein soziales Miteinander
Dass die umfängliche Integration von KI und Robotern in die Lebenswelt der Menschen nicht zwangsläufig in einem negativ konnotierten Weltentwurf resultiert, wird mit dem Soziabilitätsnarrartiv deutlich. Dieses kann als dem Passivitätsnarrativ gegenüber semantisch oppositionell angeordnet begriffen werden. Es subsumiert Geschichten, in denen Roboter und KI den Menschen in einer produktiven Hinsicht unterstützen.

Ausgangspunkt dieser Geschichten bildet typischerweise das Postulat der Freisetzung von Zeitressourcen, das sich ausgehend von einer technischen Beschleunigung (hier: durch Roboter im Alltag etc.) vollzieht. Dabei handelt es sich um eine argumentative Struktur, die nicht nur häufig im Zuge verschiedenster Erzählungen rund um das Thema Digitalisierung zu beobachten ist (vgl. Grimm/Müller/Trost 2023), sondern auch allgemein als ein Ideologem verstanden werden muss, das das Denken und die Hoffnung des postmodernen Menschen strukturiert (vgl. z.B. Rosa 2012, S. 124-129). Die durch vielfältige Aufgabenübernahmen, eigene Entscheidungsspielräume und neue Einsatzgebiete für Roboter und KI freigesetzte Zeit wird von den Protagonisten in den Erzählungen produktiv genutzt. Der Niederschlag der freigesetzten Zeit resultiert dabei nicht nur in einer gesteigerten wirtschaftlichen Aktivität, sondern auch in den Feldern der Bildungs- und Wissensarbeit, des menschlichen Miteinanders sowie der Selbstbildung und Fürsorge.

Aufschlussreich ist in diesem Zusammenhang etwa die Erzählung der 55-jährigen Sybille. In Sybilles Geschichte erfährt die Heldin eine relevante Arbeitsentlastung, indem ein persönlicher Avatar einen großen Teil der geschäftlichen Routinetätigkeiten für sie übernimmt, zum Beispiel Meetings abhält, Mails beantwortet usw. Die zeitliche Freisetzung nutzt die Heldin, um sich um die chronisch kranke Mutter zu kümmern bzw. diese zu pflegen:

“Sie (die Heldin) kann sich daher auf das Wesentliche vom Leben konzentrieren und deswegen glaube ich, dass sie die Entwicklung mit Robotern und so auch total schätzt und auch gar nicht mehr zurück möchte in unsere heutige Zeit, in der ältere Menschen in Heimen leben müssen zum Beispiel. […] Da [=auf menschliche Bedarfe] können die Geräte in der Zukunft dann auch wirklich drauf reagieren und glaube, dass sie für uns auch sowas wie Partner sein können im Leben.“

Durch den Einsatz von Robotik und KI im Bereich der Erwerbsarbeit ergeben sich  neue Handlungsspielräume im Privaten, mit Blick auf die Altersfürsorge und -betreuung. Typisch für Soziabilitätsnarrative wie im Falle von Sybille ist, dass das aus der technischen Leistungsfähigkeit resultierende ökonomische Kapital der neuen Technologien mittelbar und unter der Prämisse eines entstehenden, räumlich wie zeitlich ausgedehnten Privatbereichs in soziales Kapital überführt wird. Die soziale Wirklichkeit ist daher von einer hohen Interaktion und Kollaboration gekennzeichnet. Obschon die Welt hoch individualisiert ist, erweist sich sie sich (paradoxerweise) gleichzeitig als zwischenmenschlich gestärkt: Intime Privatbeziehungen wie Freundschaften, Partnerschaften und Liebesbeziehungen werden durch den zielgerichteten Einsatz von KI und Robotern sublimiert. Möglich wird dies, da die Menschen mit Robotern verantwortlich umgehen und gelernt haben, Risiken und Gefahren einzuschätzen und zu bewältigen. Dabei scheint in den Geschichten auch die Idee von Robotern als moral agents (vgl. Loh 2019, S. 35-38) durch: Sie sind zu moralischem Handeln fähig und verfügen über Kompetenzen wie Empathie bzw. latente Formen von Emotion und moralischem Urteilen, weswegen sie in den Geschichten als signifikante Gegenüber anerkennt werden. Das Menschenbild der Geschichten ist daher auch eines, das von einem reflektierten, gebildeten und empathisch agierenden Subjekt ausgeht und die Werte des sozialen Miteinanders in Zentrum der Zukunftsentwürfe stellt. Die positive Entwicklung wird evoziert u.a. auch Robotik und KI selbst, die damit das Versprechen einlösen, intellektuelle Kompetenzen und Fähigkeiten der Menschen zu erhöhen (vgl. Floridi/Cabitza 2021, S. 80 f.). Subjekte und Objekte, Menschen und Roboter reagieren wechselseitig aufeinander, unterstützen sich und gehen respektvoll miteinander um, um ein besseres Miteinander zu ermöglichen.

4. Effiziente Welten und die Fähigkeit zur Abwägung
Die Passivitäts- und Soziabilitätsnarrative können gewissermaßen als Extrempunkte eines semantischen Spektrums gesehen werden, in dem die Erfahrungen der Erzählerinnen und Erzähler sowie die aus deren Geschichten abstrahierbaren Welten mehr oder weniger stark in eine Richtung tendieren und dabei eine spezifische Akzentuierung aufweisen. Eine Spezialform stellt etwa das Effektivitätsnarrativ dar, das analog zum Soziabilitätsnarrativ grundsätzlich als positiv semantisierter Zukunftsentwurf zu lesen ist. Den Geschichten liegen aber einige Erzählstrategien und Schwerpunktsetzungen im Sinne inhaltlicher Prämissen zugrunde, die sie als spezifisches Narrativ ausweisen.

Effizienz (in Alltag, Beruf und in der Lebenswelt) ist das übergreifende ökonomische (nicht ethische) Wertprinzip, dass die erzählten Welten der Geschichten strukturiert und das Handeln der Menschen im Alltag bestimmt. Als produktive Technologie ist Robotik wie Technologisierung allgemein in hohem Maße positiv semantisiert. Diese wird aber (fast exklusiv) vor der Folie zunehmender Leistungsfähigkeit erzählt. Typisch ist, dass insbesondere „unliebsame Tätigkeiten“ (Rafael, 22) von Robotern und automatisierten Geräten übernommen werden. Ausgehend von der angesprochenen zeitlichen Freisetzung, die hier narrativ sogar noch stärker bedient wird, erfolgt allerdings keine Transformation in soziokulturelle Kapitalformen. Mitunter steht Technologisierung als eigener Wert bzw. Prinzip der Verbesserung und Optimierung, der ein für sich erstrebenswertes Ziel darstellt. In anderen Geschichten liegt der Schwerpunkt auf individuellen Gratifikationen wie Bequemlichkeit, Erfolg, Spaß und Hedonismus, die als relevante individualistische Werte die Geschichten der Erzählerinnen und Erzähler strukturieren.

Charakteristisch für die Geschichten sind verschiedene Formen von Abwägungstopoi, die die Erzähler argumentativ in ihren Weltentwurf einbinden. Die gegebenen Wertekonflikte werden fast ausschließlich zugunsten der Technologie aufgelöst, da sich deren Nutzen als derart hoch erweist, dass Werte wie Privatheit und Autonomie den individuellen Gratifikation gegenüber in den Hintergrund treten. In der Erzählung des 22-jährigen Studenten Rafael wird etwa der heimische Haushalt vollautomatisch von verschiedenen Reinigungsrobotern übernommen. Dass die Hersteller der Geräte den Grundriss und Aufbau seiner Privatwohnung kennen würden, sei zwar „unerfreulich“, aber der „halt notwendige Preis“, welcher für die gegebene Erleichterung entrichtet werden müsse. Mit Blick auf die Zukunft sprechen die Erzähler und Erzählerinnen dann davon, dass es zukünftig „Bereiche mit, und Bereiche ohne Kontrolle“ (Rafael, 22) gäbe oder dass „Digitalisierung vor Datenschutz gehen“ (Simon, 25) müsse.

5. Roboter als soziale Agenten und das Menschenbild für die Zukunft
Als letztes Narrativ sei noch (kurz) auf die sog. Problemlösungsnarrative hingewiesen. Angemerkt werden muss, dass diese mit Blick auf das Korpus qualitativ weniger signifikant sind und im Textmaterial eher die Ausnahme darstellen. Gleichwohl reihen sie sich stimmig in das zwischen Fortschritts- und Verfallsnarrativen changierende empirische Feld ein, da sie einige Ideen ethisch wünschenswerter, realistischer Entwicklungen zu akzentuieren versuchen.Subsumiert werden hierunter eine Reihe positiv konnotierter Zukunftserzählungen, die von den Erzählerinnen und Erzählern als Option bzw. wünschenswerte Entwicklung verhandelt werden. In ihnen treten Roboter und KI als wirksame Agenten eines positiven sozialen und kulturellen Wandels auf und bewirken eine Bewältigung aktueller, globaler und politischer Herausforderungen. Sie passen zu einem Weltbild, in dem der Techniksolutionismus, also das Lösen sozialer bzw. gesellschaftlicher Probleme durch Technologien, ideologisch fest verankert ist. In den dazu passenden Geschichten unterstützen die Roboter etwa bei Fragen des Tier-, Natur- und Umweltschutzes bzw. sind in ihrem Einsatz auf diese bezogen:

„Ich glaube, diese Geräte werden und in der Zukunft etwas zurückgeben.“ Das wird ihr Zweck in der Zukunft sein, hoffe ich mal zumindest (Miriam, 20).“

Dementsprechend verfügen Roboter über umfangreiche Zusatzfunktionen und gehen in ihrer Funktionalität über den kontemporären Stand weit hinaus. Die Geschichten eines sozialen Roboters und der häufig artikulierte Wunsch der Gesprächspersonen, dass Technik einen sozialen Beitrag haben müsse, reflektieren die für viele Texte des Korpus zu konstatierende Angst, die Technologien brächten früher oder später eine Abwertung sozialer Beziehungen und den Verlust von Selbstwirksamkeitserfahrungen mit sich. Signifikant ist das Empfinden, selbst keinen Einfluss auf die Veränderung der unmittelbaren Lebenswelt ausüben zu können, obschon allgemein eine hohe Bereitschaft zur Akzeptanz zumindest im öffentlichen Raum konstatiert werden muss. Auffällig ist auch ein übergreifend hohes Vertrauen in konstruierte Sicherheit und die rechtliche Konformität neuer Lösungen, das weder in den Geschichten von eigenen Erfahrungen (etwa mit Reinigungsrobotern) noch in den fiktiven Welten (der Zukunft) problematisiert wird. Das Thema Privatheit und der Datenschutz kommt mit Blick auf die MRI immer wieder auf (zum Beispiel hinsichtlich der Kameraaufzeichnung von Robotern), wird erzählerisch aber vor allem im Hinblick auf Transparenz und dem Wunsch nach Informationsbedarf und Kontrollmechanismen (z. B. Löschen der Daten) hin moduliert.Die Resultate weisen damit auf die Frage, wie Robotiklösungen zukünftig neben Sicherheit und Transparenz auch eine Optimierung sozialer Räume und eine Unterstützung des Zusammenlebens bewirken können. Weiterhin rücken sie die Frage nach dem Menschenbild (der Zukunft) in den Mittelpunkt. Es werden, wie gezeigt wurde, in den ambivalent konnotierten Geschichten der Probanden auf einer metanarrativen Ebene stets deskriptiv-normative Aspekte des Menschenbilds verhandelt. Ethische Relevanz erhält dies, da „das jeweils vorherrschende Menschenbild [...] Signum einer Gesellschaft für eine bestimmte Zeit“ (Bock 1997, S. 378) darstellt. Es stellt sich etwa die Frage, auf welche Fähigkeiten die Digitale Ethik vor dem Hintergrund des Menschenbilds der dystopischen Passivitätsnarrative hinwirken kann. Wenn hier vom Menschen als entemotionalisiertes, passives Wesen ausgegangen wird, so impliziert dies, dass sich die Wirkungsdimension zukünftiger Entwicklungen derart latent vollziehen, dass sich unterhalb der eigenen Wahrnehmung und Kontrolle vollzieht.

Damit braucht es eine Reflexion dessen, was den Menschen als kulturell und gesellschaftlich situiertes Wesen aus- und einzigartig macht und wie die damit verbundene Wertschätzung auch im Kontext verschiedener (technischer) Umwelten bewahrt werden kann. Eine subjektzentrierte Perspektive anstatt einer technik- und kulturdeterministischen Perspektive auf den Menschen einzunehmen kann helfen, nicht Narrative wie das des „verbesserten Menschen“ (Grimm 2024b i.E.) oder der „Technik zur Kompensation“ (Grimm 2024b, i.E.) zu bedienen und damit implizit ein menschliches Defizit vorauszusetzen. Ganz allgemein kann damit auch auf zentrale Fähigkeiten bzw. Kompetenzen verwiesen werden, die Menschen im digitalen Zeitalter zur Realisierung eines guten Lebens benötigen (vgl. Grimm/Müller/Trost 2021, S. 156 f.). Hierzu zählt die Fähigkeit, eine Werthaltung in digitalen Erlebnisräumen zu entwickeln, die Fähigkeit zur Reflexion sowie der Gestaltung der eigenen digitalen Umwelt, damit Rahmung und Kontext der Nutzung von Robotern und KI gemäß der eigenen Werthaltung erfolgt. Eine technische Handlungskompetenz, Resilienz, Privatheitskompetenz sowie Informations- und Meinungsbildungskompetenz als komplementäre Fähigkeiten ergänzen diese Fähigkeiten zu einem integrativen Konzept, das kognitives Wissen mit einer Haltung verbindet und damit ausgehend von eigener Selbstreflexion und Nutzungsarten versucht, Zukunft mitzugestalten. Das Bild links zeigt den am IDE entwickelten Fertigkeitenbaum für ein gelingendes Leben im digitalen Kontext. Für die Ausbildung einer ethischen Robotik-Kompetenz sollten die oben beschriebenen Roboter-Narrative und deren implizite Werthaltungen Ausgangspunkt der Reflexion sein. Denn sie geben direkt oder ex negativo Anhaltspunkte dafür, welche ethischen Anforderungen an Robotics by design zu stellen sind.

Literatur:

Bock, Ulla (1997): Frau. In: Wulf, Christoph (Hrsg.): Vom Menschen. Handbuch Historische Anthropologie. Weinheim; Basel: Beltz, S. 378–388.

Engelke, Ulrich/Engelke, Barbara (2024): ChatGPT: mit KI in ein neues Zeitalter: Wie KI-Tools unser Leben und die Gesellschaft verändern. Frechen: mitp

Floridi, Luciano/Sanders, John W. (2004): On the Morality of Artificial Agents. In: Minds and Machines, Nr. 14, S. 349-379.

Floridi, Luciano/Cabitza, Federico (2021): Intelligenza artificiale. L‘uso delle nuove macchine. Florenz; Mailand: Bompiani.

Grimm, Petra (2024a, im Erscheinen): Ansätze der Narrativen Ethik. In: Grimm, Petra/Trost, Kai Erik/Zöllner, Oliver (Hrsg.): Digitale Ethik. Handbuch für Wissenschaft und Praxis. Baden-Baden: Nomos.

Grimm,Petra (2024b, i.E.): Menschenbild. In: Grimm, Petra/Trost, Kai Erik/Zöllner, Oliver (Hrsg.): Digitale Ethik. Handbuch für Wissenschaft und Praxis. Baden-Baden: Nomos.

Grimm, Petra/Müller, Oliver/Trost, Kai Erik (2021): Werte, Ängste, Hoffnungen. Das Erleben der Digitalisierung in der erzählten Alltagswelt. Baden-Baden: Academia.

Han, Byung-Chul (2013): Im Schwarm. Ansichten des Digitalen. Berlin: Matthes & Seitz.

Latour, Bruno (2006): Über technische Vermittlung. Philosophie, Soziologie und Genealogie. In: Bellinger, Andrèa/Krieger, David, J. (Hrsg.): ANThology. Ein einführendes Handbuch zur Akteur-Netzwerk-Theorie. Bielefeld 2006, S. 483-528.

Leite, I., Martinho, C., & Paiva, A. (2013). Social robots for long-term interaction: a survey. International Journal of Social Robotics, 5(2), 291-308.

Loh, Janina (2019): Roboterethik. Frankfurt am Main: Suhrkamp.

Nussbaum, Martha Craven (2015): Fähigkeiten schaffen. Neue Wege zur Verbesserung menschlicher Lebensqualität. Aus dem Amerikanischen von Veit Friemert. Freiburg, München: Alber.

Reckwitz, Andreas (2018): Die Gesellschaft der Singularitäten. Zum Strukturwandel der Moderne. Berlin: Suhrkamp.Rosa, Hartmut (2012): Beschleunigung. Die Veränderung der Zeitstrukturen in der Moderne. Frankfurt am Main: Suhrkamp.

Salvini, P., Laschi, C., & Dario, P. (2010a). Design for acceptability: Improving robots’ coexistence in human society. International Journal of Social Robotics, 2(4), 451–460.

Trost, Kai Erik (2023):  Der Wert der Freundschaft in der mediatisierten Alltagswelt. Eine narratologisch-semiotische Analyse der Freundschaftserzählungen Jugendlicher. Stuttgart: Steiner.

---

Weiterführende Links:
Link zum interdisziplinären Forschungsprojekt zen-mri
Link zum Institut für Digitale Ethik
IDEepolis 2024 zum Thema

Autoren

Eingetragen von

Mehr zu diesem Autor

Sie haben eine Frage oder einen Kommentar zu diesem Beitrag?

Ihr Name
E-Mail (optional)
Ihr Kommentar