Joseph Weizenbaum: Die Macht der Computer und die Ohnmacht der Vernunft

von Jochen Tetzlaff

1. Einleitung
2. Der Autor
3. Der Inhalt

4. Die Situation des Mediums Computer in den 1970er-Jahren
5. Fazit
6. Quellenhinweise

1. Einleitung

Dieser Text setzt sich mit der Kritik auseinander, die Joseph Weizenbaum 1976 unter dem Titel Computer Power and Human Reason. From Judgement to Calculation veröffentlicht hat. Um Medienkritik im klassischen Sinne handelt es sich bei dieser Arbeit Weizenbaums nicht. Er setzt sich mit Computern auseinander und mit Vorstellungen über ihre Möglichkeiten, die zum Zeitpunkt der Veröffentlichung des Buches Stand der Wissenschaft waren. Er definiert Computer als Maschine, genauer als universelle Maschine. Seine Kritik wendet sich gegen die Wissenschaft der Künstlichen Intelligenz (KI), und der von ihr propagierten Vorstellungen über Intelligenz und das Wesen des Menschen. Das sein Text hier im Zusammenhang mit der Medienkritik behandelt wird, hängt mir der Entwicklung der Computer zusammen. Im Gegensatz zu den 1970er-Jahren werden Computer heute als Massenmedium genutzt. Daher ist die Auseinandersetzung Weizenbaums mit Computern heute auch unter der Perspektive der Medienkritik interessant.

2. Der Autor (vgl. Wikipedia)

Joseph Weizenbaum wurde 1923 in Berlin als Sohn jüdischer Eltern geboren. 1936 emigriert er mit seiner Familie in die USA. Nach dem Studium der Mathematik, das er 1950 abschloss, arbeitete er bei verschiedenen Computerprojekten mit. Seit 1963 ist er Professor für Computerwissenschaften am Massachusetts Institut of Technology (MIT). Zwischen 1964 und 1966 war er an der Entwicklung des Dialogsystems ELIZA beteiligt. Nach mehren Aufsätzen über ELIZA erscheint 1976 Die Macht der Computer und die Ohnmacht der Vernunft. Seit dem gilt Weizenbaum als scharfer Kritiker der Künstlichen Intelligenz (KI) und der Informatik. Seit 1976 folgen zahlreiche weitere Veröffentlichungen über Informationstechnologie und ihre Risiken. Weizenbaum erhielt mehrere Ehrendoktor-Auszeichnungen und das Große Bundesverdienstkreuz. Aktuell lebt er in Berlin.

3. Der Inhalt

Mit ELIZA entwickelte Weizenbaum das erste Dialogsystem, also das erste Computersystem, das mit natürlicher Sprache umgehen kann. Um Gespräche zu simulieren verfügt das System über einen Pool möglicher Aussagen des menschlichen Gesprächspartners die mit Antworten verknüpft werden. Besonders eines der eingesetzten Skripte, DOCTOR genannt, rief bei menschlichen Versuchspersonen Verhaltensweisen gegenüber der Maschine hervor, die sie sonst nur im Gespräch mit Menschen entwickeln. DOCTOR simulierte ein psychiatrisches Erstgespräch. Die allgemeine Vorstellung über ein solches Gespräch ließ sich am Besten simulieren, weil das zurückgeben der Aussagen des Patienten als Frage hier nicht als „Nichtwissen“ aufgefasst wird. Die Art und Weise, wie sich die Menschen gegenüber der Maschine „öffneten“, ließ die Erkenntnis zu, dass es nicht im Wesentlichen darauf ankommt, ob die Maschine über menschliche Eigenschaften verfügt. Es scheint zu reichen, wenn bei dem menschlichen Gegenüber der Eindruck entsteht, dies sei so. Über seine Erfahrungen im Zusammenhang mit ELIZA berichtet Weizenbaum in der Einleitung des hier besprochenen Buches. In der Wissenschaft dieser Zeit wurden die Erfolge, die mit ELIZA erzielt werden konnten, sehr euphorisch aufgenommen. Sie wurden als wesentlicher Schritt auf dem Weg zu einer menschengleichen Maschine begriffen, also einer intelligenten und lernfähigen Maschine. Weizenbaum zitiert beispielsweise Psychiater, die Spekulationen darüber anstellten, wann das System zu klinischen Zwecken eingesetzt werden könne und vorschlugen an diesem Ziel mit Nachdruck zu arbeiten, um Computer überall da einzusetzen, wo es an menschlichen Therapeuten einen Mangel gibt. Diese Idee setzt voraus, davon auszugehen, menschliches Denken würde im Wesentlichen auch nicht anders funktionieren als die Arbeitsweise von Computern. Weizenbaum führt als Beispiel für eine solche Einschätzung über das Wesen der menschlichen Intelligenz folgendes Zitat an:

„Man kann einen menschlichen Therapeuten als jemanden auffassen, der Information verarbeitet und seine Entscheidungen anhand von Kriterien trifft, die eng mit kurz- und langfristigen Zielen verbunden sind. Bei seinen Entscheidungen lässt er sich von groben empirischen Regeln leiten, die ihm Anhaltspunkte dafür liefern, was er in einem bestimmten Kontext am besten sagt bzw. nicht sagt. Es wäre ein äußerst aufwendiges Unterfangen, diese Prozesse im selben Umfang zu programmieren, wie sie beim Therapeuten ablaufen, aber wir versuchen, in diese Richtung weiter zu arbeiten.“ (Colby et al; nach: Weizenbaum 1978, S. 18f)

Derartige Positionen, wie die oben zitierte, sind Gegenstand seiner Kritik. Weizenbaum kritisiert also nicht die Computer, sondern die Vorstellung, der Mensch sei im Grunde auch nichts anderes als eine Maschine, er würde ebenfalls rein logisch denken. Dem widerspricht er und besteht auf den Unterschied zwischen der naturwissenschaftlichen Denkweise und der Vernunft. In der von ihm vorgefundenen Denkweise über die Intelligenz des Menschen und die Möglichkeiten der KI entdeckt er eine Knechtschaft der Vernunft unter das Diktat der Maschine. Eine Entwicklung die er nicht ausschließlich den Computern zuschreibt, die aber durch Computer verstärkt würde:

„Ohne Frage hat die Einführung des Computers in unsere bereits hochtechnisierte Gesellschaft, wie ich zu zeigen versuche, lediglich die früheren Zwänge verstärkt und erweitert, die den Menschen zu einer immer rationalistischeren Auffassung seiner Gesellschaft und zu einem immer mechanistischern Bild von sich selbst getrieben.“ (Weizenbaum 1978, S. 25)

Er definiert Computer als universelle Maschinen, also als Maschinen die grundsätzlich für jeden Zweck eingesetzt werden können, vorausgesetzt dieser Zweck lässt sich mit den Mitteln der Logik bewerkstelligen.
In den Kapiteln Über Werkzeuge und Woher die Macht der Computer kommt geht Weizenbaum auf das Verhältnis zwischen Mensch und Maschine ein. Dass Menschen Maschinen als eigene Subjekte begreifen und bereit sind sich ihnen unterzuordnen, sei laut Weizenbaum nichts Neues. Ein solches Verhalten lässt sich beispielsweise bei Autofahrern beobachten, wenn diese ihren Autos „gut zureden“. Allerdings gilt es bei den Maschinen zu unterscheiden, Weizenbaum verweist auf die autonome Maschine. Am Beispiel der Uhr erläutert er, was damit gemeint ist. Eigentlich ist die Uhr nichts weiter als ein mechanischer oder digitaler Apparat, der eine kulturelle Übereinkunft ausdrückt. Zu einem autonomen System wird sie erst durch die Unterordnung der Menschen unter ihr Diktat. Den gleichen Mechanismus meint er bei den Computern auszumachen. Dies beschreibt er im Kapitel Die Naturwissenschaft und der zwanghafte Programmierer anhand des Modells des zwanghaften Programmierers, der aus Selbstzweck damit beschäftigt ist, Probleme mit der Maschine zu lösen. Die Möglichkeiten die durch den Computer bereitgestellt werden, entwickeln sich im Handeln des zwanghaften Programmierers zum reinen Selbstzweck, nach Sinn oder Unsinn seines Handelns fragt er nicht.
Weizenbaum nimmt also Stellung gegen eine Sicht über den Charakter der menschlichen Intelligenz, die überhaupt erst ermöglicht, eine Maschine als Intelligent zu beschreiben.
Dieses Denken zeichnet er in Auseinandersetzungen mit der Psychologie und anhand des Begriffs der natürlichen Sprache nach. So findet er beispielsweise für bestimmte Modelle aus der Psychologie deutliche Worte:

„Es gibt wenige 'wissenschaftliche' Theorien, die das Denken von Wissenschaftlern und Laien stärker in Verwirrung gestützt haben als die 'Intelligenzquotienten' oder das 'IQ'. Die Vorstellung, Intelligenz könne entlang einer simplen Linearskala quantitativ erfasst werden, hat unserer Gesellschaft vor allem auf dem Gebiet des Erziehungswesens unsäglichen Schmerz zugefügt.“ (Weizenbaum 1978, S. 269)

In Bezug auf die natürliche Sprache erläutert Weizenbaum im Kapitel Der Computer und die natürliche Sprache, dass diese sich als formales Regelwerk beschreiben lässt. Ein solches Regelwerk, in diesem Fall das Alphabet und die Schrift, kann auch mittels eines Computers beschrieben werden. Daher ist es möglich, durch einen Computer zu simulieren, er würde ein Gespräch führen. Dies als menschengleiche Kommunikation zu verstehen, setzt voraus, davon auszugehen, der Mensch würde nur mittels formal beschreibbarer Regeln kommunizieren. In dieser Linie sieht er auch die Vorstellungen über künstliche Intelligenz. Weizenbaum schlägt vor, die Frage um künstliche und menschliche Intelligenz unter ethischen Gesichtspunkten zu untersuchen:

„Es hat viele Diskussionen über 'Computer und menschliches Denken' gegeben. Der Schluss, der sich mir aufdrängt, ist hier, dass die relevanten Probleme weder technischer noch mathematischer, sondern ethischer Natur sind. Sie können nicht dadurch gelöst werden, dass man Fragen stellt die mit 'können' beginnen. Die Grenzen in der Anwendung von Computern lassen sich letztlich nur als Sätze angeben, in denen das Wort 'sollten' vorkommt. Die wichtigste Grundeinsicht, die uns daraus erwächst, ist die, dass wir zurzeit keine Möglichkeiten kennen, Computer auch klug zu machen, und dass wir deshalb im Augenblick Computern keine Aufgaben übertragen sollten, deren Lösung Klugheit erfordert.“ (Weizenbaum 1978, S. 300)

Weizenbaum versteht sich als Kämpfer für den rationalen Einsatz der Naturwissenschaft und der Technik. Er fordert die Entwicklung einer ethischen Planung in den Naturwissenschaften. Deren Abwesenheit nennt er den Imperialismus der instrumentellen Vernunft, den er durch eine ethisch geprägte Vernunft abgelöst sehen möchte. Diese Argumentation, die sich durch das komplette Buch zieht, fasst er im letzten Kapitel mit dem Titel Gegen den Imperialismus der instrumentellen Vernunft zusammen. Hier appelliert er an die alltägliche Zivilcourage seiner Kollegen. Er fordert die Informatik explizit auf, die Ethik und die Verweigerung der Unterordnung unter die instrumentelle Vernunft zu einer alltäglichen Verhaltensweise zu machen.

4. Die Situation des Mediums Computer in den 1970er-Jahren

Obwohl es bereits seit Mitte des letzten Jahrhunderts erste Computer gibt, handelt es sich um ein sehr junges Medium. Die universelle Maschine Computer konnte erst ein Massenmedium werden als sie als Allgemeingut verbreitet wurde. In den 1970er-Jahren war an den Personal Computer (PC) noch nicht zu denken. Auch die Entwicklung von vernetzten Computern zum Internet, wie wir es heute kennen, war damals noch nicht absehbar. Um den Computer überhaupt für mehrere verschiedene Zwecke nutzen zu können, war die Fähigkeit des Programmierens nötig. Benutzeroberflächen, wie wir sie heute kennen, und die Vielzahl von standardisierten Anwenderprogrammen, wie sie heute üblich ist, waren unbekannt. Auch die künstliche Intelligenz, gegen die sich Weizenbaum wendet, war nicht in Ansätzen Realität, sondern eher eine Vision der Wissenschaft. Die Tatsache das es ihm durch ELIZA gelang mit einem Computer natürlichsprachlich zu kommunizieren (oder diese Kommunikation zu simulieren) hat die oben beschriebene Euphorie in der Wissenschaft seiner Zeit ausgelöst. Doch diese Vision ist nicht Realität geworden und heute hat sich die Erkenntnis durchgesetzt, dass sie mit der derzeit verfügbaren Hardwarearchitektur auch nicht Realität werden kann. Hier haben sich in den Zielsetzungen der KI große Veränderungen ergeben.
Ausgehend von den Erkenntnissen über das Gehirn, die in der Neurobiologie gewonnen wurden, hat sich die Erkenntnis durchgesetzt, dass menschliche Denkprozesse fundamental anders verlaufen als Rechenoperationen in einem Computer. Die neue KI folgt dem Modell der neuronalen Netze und versucht, diese zu kopieren. Dabei ist sie in ihren Zielsetzungen und Voraussagen über den Zeitpunkt an dem die menschengleiche Maschine Realität sein kann wesentlich bescheidener als dies die KI der 1970er-Jahre war. Der Einsatz von Computern als Therapeuten ist also nicht in erster Linie daran gescheitert, dass eine gesellschaftliche Übereinkunft ihren Einsatz zu diesem Zweck verhindert hat, sondern liegt darin begründet, dass es heute in der Wissenschaft üblich ist, davon auszugehen, dass die menschengleiche Maschine mit der uns zur Verfügung stehenden Hardwarearchitektur nicht zu entwickeln ist.

5. Fazit

Zwar hat sich die Bedeutung der Computer seit der Veröffentlichung des hier besprochenen Buches fundamental gewandelt und die Denkmodelle der KI ebenso, dennoch bleibt die zentrale Frage, die Weizenbaum aufwirft, nach wie vor aktuell.
Diese Frage ist die nach dem Sinn des Einsatzes von Computertechnologie zu verschiedenen Zwecken. Programme, die im Prinzip funktionieren wie ELIZA, werden heute als „Chatterbot“ oder einfach „Bot“ bezeichnet. Im Internet wird derzeit verstärkt eine Technologie eingesetzt, die diese Bots mit visuellen Darstellungen natürlicher Personen kombinieren. Solche Avatare sollen den Effekt ausnutzen, den Weizenbaum aufgrund seiner Erfahrungen mit ELIZA beschrieb. Es handelt sich um den Effekt, dass es beim menschlichen Gegenüber der Maschine nicht darauf ankommt, ob die Maschine tatsächlich über menschliche Eigenschaften verfügt. Dass beim Menschen der Eindruck entsteht, dies sei so, reicht aus. Hier ist nach wie vor die Frage zu stellen für welchen Anwendungszweck solche Technologien sinnvoll und wünschenswert sind.
Eine weitere Frage, die sich durch die massenhafte Verfügbarkeit von PC und Internet stellt, ist die nach der Kontrolle und dem Datenschutz. Auffällig ist eine allgemeine Sorglosigkeit im Umgang mit der modernen Informationstechnologie.
Es gibt kaum ein Bewusstsein darüber, dass der User mehr und mehr die Kontrolle über seine Daten und ihre Verwendung durch Unternehmen oder staatliche Behörden verliert.
Während also die konkreten Thesen und Entwicklungen, mit denen sich Weizenbaum in seinem Buch auseinander setzt, heute nicht mehr aktuell sind, sind es die grundsätzlichen Fragen, die er aufwirft, umso mehr.

6. Quellenhinweise

Literatur:
1. Weizenbaum, Joseph (1978): Die Macht der Computer und die Ohnmacht der Vernunft. Frankfurt/Main.

Internet:
2. Wikipedia: Joseph Weizenbaum. Online unter: http://de.wikipedia.org/wiki/Weizenbaum
(Zugriff 29.03.2007)