Zusammenfassung
Intelligenz ist die Fähigkeit vorauszuschauen, zu bewerten
und zu entscheiden, verknüpft mit der Fähigkeit aus den Konsequenzen
der Entscheidungen zu lernen, d.h. z.B. zur Veränderung und Anpassung
der Bewertungsmaßstäbe. Auch Maschinen können über
alle diese Eigenschaften verfügen und damit Tätigkeiten wahrnehmen,
die Intelligenz erfordern. Anhand eines einfachen Damespielprogramms wird
dies erläutert. Sodann werden Vorurteile angesprochen, die verhindern,
dass Menschen die ganze Tragweite dieser Fakten erfassen. Es wird die These
vertreten, dass die potentiellen Fähigkeiten von Maschinen weitreichende
gesellschaftspolitische Konsequenzen haben werden. Früher wurde die
Handarbeit automatisiert, in Zukunft wird die Kopfarbeit maschinell erledigt.
Dies wird für viele Menschen Sinnverlust bedeuten.
Gliederung
EINLEITUNG
1. KÖNNEN MASCHINEN DENKEN?
1.1. Das Imitationsspiel
1.2. Kritik des neuen Problems
2. COMPUTER ALS INTELLIGENTE SPIELPARTNER
2.1. Damespiel als Testfall
2.2. Vorausschauen
2.3. Bewerten
2.4. Auswendiglernen und Vergessen
2.5. Verallgemeinerndes Lernen
2.6. Vergleich der Lernmodi
2.7. Kombination der Lernmodi
3. KRITIK VON VORURTEILEN ÜBER DIE THEORETISCHEN
GRENZEN DER COMPUTERFÄHIGKEITEN
3.1. Erstes Vorurteil: "Computer sind nur zählende
Idioten"
3.2. Zweites Vorurteil: "Computer können
nicht lernen"
3.3. Drittes Vorurteil: "Computer sind nicht
kreativ"
3.4. Viertes Vorurteil: "Computer können
nicht klüger werden als ihre Programmierer"
3.5. Fünftes Vorurteil: "Computer können
keine Gefühle haben"
4. MÖGLICHE FOLGEN DER COMPUTERENTWICKLUNG
4.1. Die Verdrängung des Menschen aus den
Produktionsprozessen
4.2. Unüberschaubare Computerprogramme
und der Verlust menschlicher Verantwortung?
LITERATUR
Einleitung
Jeden Tag erfährt Materie dramatische Umwandlungen. Wir sind Zeuge
der erstaunlichen Entwicklungsprozesse, die aus relativ unstrukturierten
Eizellen fertige Organismen entstehen lassen. Wir wissen auch von der Evolution,
der Selbstorganisation der Materie bis zum Menschen. Dabei sind wir nicht
Krone, nicht Endglied einer Entwicklung, sondern bestenfalls - wenn wir
als Menschheit das Überleben meistern - Zwischenstation. Niemand kann
die zukünftige Metarmorphose der Materie im Detail voraussehen. In
diesem Aufsatz vertrete ich jedoch den Standpunkt, daß intelligente
Maschinen eine wesentliche Rolle bei der kommenden Metamorphose spielen
werden.
Wir sind Zeugen einer explosionsartigen Erhöhung der Leistungsfähigkeit
von Computern und haben Anlaß, uns zu fragen, ob dem maschinellen
Leistungsvermögen Grenzen gesetzt sind. Ergänzen Computer unsere
menschlichen Fähigkeiten oder erwächst uns in ihnen ein ebenbürtiger
oder sogar überlegener Partner?
Für eine grundsätzliche Diskussion dieser Frage genügt
es nicht, über heutige Computer und ihre Leistungsfähigkeit nachzudenken.
Es gilt, die Konsequenzen der möglichen Ausdehnung der Computerfähigkeiten
bis an theoretische Grenzen abzuschätzen. Es ist notwendig, ein flexibles
Maschinenbild zu haben. Extrapolationen in die Zukunft, die eine Verfeinerung
der Technologie nicht berücksichtigen, werden durch die tatsächliche
Entwicklung sehr bald ins Lächerliche gezogen[2].
Ich werde mich deshalb nicht mit technischen Problemen beschäftigen.
Die Fähigkeiten von Computern, die ich ansprechen möchte,
sind mehr prinzipieller Natur. Eine solche Betrachtungsweise wird jedoch
häufig - selbst oder gerade bei akademisch Gebildeten - durch emotionale
Barrieren blockiert, die in der Äußerung gewisser Glaubenssätze
sichtbar werden. Mit einigen dieser Vorurteile werden wir uns hier auseinandersetzen
müssen. Damit dies auf einer sachlich fundierten Basis geschehen kann,
möchte ich zunächst Turings Intelligenztest für Maschinen
vorstellen und dann anhand eines konkreten Beispiels die Lern- und Denkfähigkeit
von Computern erläutern.
1. KÖNNEN MASCHINEN DENKEN?
Der von Turing entwickelte Intelligenztest für Maschinen ist besonders
gut dazu geeignet, das Augenmerk auf die wesentlichen Punkte bei unserer
Argumentation zu lenken. Der Engländer A.M. Turing war Mathematiker
und Logiker. Häufig wird unterstellt, daß die moderne Ära der
Computerwissenschaft mit seinem Aufsatz von 1936 mit dem Titel "On computable
numbers, with an application to the Entscheidungsproblem" begann. In dieser
epochemachenden Veröffentlichung wies er nach, daß Maschinen
gebaut werden können, die alle jene logischen Probleme lösen
können, die lösbar sind.
Turing hat sich auch mit der Frage beschäftigt: "Können Computer
denken?". Er hat diese Frage allgemein verständlich abhandeln können.
Bemerkenswert an seinen Gedankengängen ist, daß sie 1950, also
5 Jahre vor dem ersten tatsächlichen Beginn von Arbeiten auf dem Gebiet
der Künstlichen Intelligenz entstanden sind.
'Turings Test', so lautet heute das von Turing vorgeschlagene Experiment
zur Überprüfung von Computerintelligenz, läßt seine
behavioristische Grundhaltung erkennen. Er schlägt ein Experiment
vor, das von Nebensächlichkeiten abstrahiert und nur auf die Vergleichbarkeit
des intelligenten Outputs konzentriert ist. Es ist eine Basis für
sachlich geführte Diskussionen des Problems "Können Maschinen
denken".
Leider starb Turing schon 1954, sonst hätte er erste bescheidene
Schritte auf dem Wege zur künstlichen Intelligenz verfolgen können.
Im folgenden sind seine Gedankengänge sinngemäß wiedergegeben.
1.1. Das Imitationsspiel
Turing sieht bei der Diskussion maschineller Intelligenz emotionale Probleme.
Deshalb möchte er sich nicht mit semantischen Streitfragen wie "Was
ist eine Maschine?", "Was heißt 'Denken'?" abgeben. Stattdessen schlägt
er zur Versachlichung ein Spiel, ein Imitationsspiel vor.
Drei Personen (A, B, C) nehmen an dem Spiel teil. Die Personen A und
B sind von C räumlich getrennt, können mit C jedoch Informationen
über einen Fernschreiber austauschen. Zunächst soll A ein Mann
und B eine Frau sein. C ist ein Interviewer, der durch intelligente Fragen
versuchen muß herauszufinden, welches Geschlecht seine Spielpartner
haben. B ist ein Spieler, der verpflichtet ist, immer die Wahrheit zu sagen,
er soll dem Interviewer möglichst helfen. A darf lügen, er soll
den Interviewer über sein Geschlecht im Unklaren lassen. Der Interviewer
weiß bei Spielbeginn natürlich nicht, wer A und wer B ist. Er
kennt sie unter den Namen X und Y.
Ein paar Beispiel-Fragen:
C: Würde X mir bitte die Länge ihrer oder seiner Haare mitteilen?[3]
X (als A): Meine Haare sind gelockt und ungefähr 35 cm lang.
Y (als B): Ich bin die Frau, glaub ihm nicht etc.
X (als A): Er lügt, glaube ihm nicht.
Es ist klar, daß ein Mensch in der Rolle von A durch geschickte
Antworten erreichen kann, daß dem Interviewer am Ende nur noch das
Raten bleibt. Was aber ist, wenn das Spiel so durchgeführt wird, daß
nicht zwischen Mann und Frau, sondern zwischen Mensch und Maschine unterschieden
werden soll und eine Maschine Spieler A darstellt?
1.2. Kritik des neuen Problems
Ist das neue Problem eine Untersuchung wert? Turing meint ja, denn es zieht
eine scharfe Trennungslinie zwischen den physischen und den intellektuellen
Eigenschaften des Menschen. Es hätte für die ursprüngliche
Fragestellung doch wenig Sinn, die Maschine auch noch im Aussehen, in ihren
Bewegungen und in ihrer Sprechweise dem Menschen gleichzumachen. Das wäre
ja vielleicht sogar schwieriger als eine intelligente Maschine zu bauen.
Andere Vorteile werden durch folgende Frage-Antwort Beispiele verdeutlicht:
C: Schreibe mir bitte ein Gedicht über die Forth-Brücke.
A: Da kannst Du mit mir nicht rechnen. Ich konnte noch nie Gedichte
schreiben.
C: Addiere 34957 und 70764.
A: (Nach ungefähr 30 sec Pause) 105621.
C: Spielst Du Schach?
A: Ja.
C: Ich habe nur noch den König auf E1. Du hast Deinen König
auf E3 und einen Turm auf A2. Du bist am Zug. Was spielst Du?
A: (15 sec Pause) Turm auf A1, matt.
Dieses Frage- und Antwortspiel ist für unsere Fragestellung also
sehr gut geeignet, denn die Maschine soll auf ihre intellektuellen Fähigkeiten
getestet werden und nicht für ihr Aussehen bestraft werden. Nebenbei
bemerkt: Die Aufgabe, die der Maschine gestellt ist, ist schwieriger als
bloß intelligent zu sein. Um für einen Menschen gehalten zu
werden, muß sie mit einigen ihrer Fähigkeiten hinter dem Berg
halten (z.B. mit der Rechengeschwindigkeit). Ein Mensch hätte in dem
Spiel als Spieler A keine Chance.
Bevor wir nun auf die Frage eingehen, ob es theoretisch vorstellbar
ist, daß ein Computer in dem Imitationsspiel erfolgreich bestehen
kann, möchte ich einige der Fähigkeiten von Computern anhand
eines einfachen Beispiels erläutern.
2. COMPUTER ALS INTELLIGENTE SPIELPARTNER
Ein besonders wichtiges Merkmal intelligenten Verhaltens ist sein vorausschauender
Charakter. Der Schachspieler ist z.B. dann ein guter Spieler, wenn er seine
Zugwahl aufgrund von Überlegungen trifft, die die mögliche Spielfortsetzungen
möglichst weit in die Zukunft hinein mit berücksichtigen.
Der vorausschauende Charakter intelligenten Handelns setzt voraus, daß
ein internes Modell der Umwelt existiert. Die möglichen Folgen einer Handlung müssen "im Kopf" durchgerechnet werden. Der intelligent Handelnde trifft seine Entscheidungen über die durchzuführenden Handlungen aufgrund seiner Bewertung der Handlungsfolgen. Das bedeutet, daß im internen 'Weltmodell' nicht nur verschiedene 'Spielfortsetzungen' erkannt
werden, sondern auch, daß ein interner Bewertungsmaßstab, eine
Bewertungsfunktion für Handlungsfolgen existiert. Die Bewertung einer
Handlung erfolgt danach, ob der Abstand zu einem Ziel vergrößert
oder verringert wird.
Handlungsziele werden durch die jeweilige Umweltsituation, aber vor
allem auch durch die interne Bedürfnislage bestimmt. Wenn man hungrig
ist, setzt man seine Intelligenz dazu ein, etwas zu essen zu bekommen.
Sind alle physiologischen Bedürfnisse befriedigt, wird es leichter,
sich auf den Gewinn einer Schach- oder einer Damepartie zu konzentrieren.
Die Existenz einer Bewertungsfunktion, an der wir die Folgen unserer
möglichen Handlungen messen, und die Fähigkeit, daß wir
in einem internen Modell der Umwelt mögliche Handlungen durchspielen
und uns für die 'beste' Variante entscheiden können, ist charakteristisch
für Intelligenz. Wir dürfen die wichtige Frage stellen, ob Computer
zu solch intelligentem Verhalten in der Lage sind, also ob sie vorausschauen,
bewerten und entscheiden können.
2.1. Damespiel als Testfall
Bereits in den 50er Jahren entwickelte A.L. Samuel ein lernfähiges
Damespielprogramm, das schließlich so gut wurde, daß es einen
Meisterspieler besiegte, der mehrere Jahre von menschlichen Gegnern nicht
besiegt worden war.
Spiele sind für Computerwissenschaftler beliebte Objekte. Im Gegensatz
zu Problemen des täglichen Lebens sind die auftretenden Schwierigkeiten
standardisiert und die Komplikationen des Details fehlen. Samuel wählte
Dame und nicht Schach, weil die relative Einfachheit der Regeln es erlaubte,
den Schwerpunkt der Analyse auf die Lernfähigkeit des Programms zu
legen. Obwohl Dame intellektuell sicher nicht mit Schach konkurrieren kann,
sind ihm doch die wesentlichen Merkmale eigen, welche unsere Fragestellung
erfordert. Hierzu gehören:
1. Im praktischen Sinne ist Dame nicht determiniert, d.h. es gibt keinen
bekannten Algorithmus, der einen Sieg oder ein Unentschieden garantiert.
Die komplette Analyse des Spielbaumes des Damespiels würde ungefähr
1040 einzelne Zugentscheidungen umfassen. Wenn drei Züge in einer
Nanosekunde analysiert werden könnten, würde die vollständige
Analyse immer noch 1021 Jahrhunderte dauern.
2. Es besteht ein definiertes Ziel. Beim Damespielen besteht es darin,
den Gegner bewegungsunfähig zu machen.
3. Es existiert zumindest ein gutes Kriterium, das etwas über die
Nähe zum Ziel aussagt. Beim Damespiel ist das numerische Verhältnis
der schwarzen und weißen Spielsteine entscheidend.
4. Die Gesetze, denen eine Handlung folgen muß, sind bekannt.
5. Es besteht in Form publizierter Damepartien ein Wissenshintergrund,
gegen den die Leistungen des Computerprogramms gemessen werden können.
6. Die meisten Menschen sind mit den Regeln des Damespiels vertraut.
Deshalb ist zu hoffen, daß das Verhalten des Computerprogramms verständlich
gemacht werden kann.
Im folgenden wird die konkrete Struktur des Damespielprogramms erläutert.
2.2. Vorausschauen
Der Computer spielt Dame, indem er ein paar Züge vorausplant und die
sich ergebenden Stellungen bewertet, ähnlich wie das ein menschlicher
Damespieler tun würde. Dies funktioniert so, daß alle möglichen
Züge ausgehend von einer Stellung berechnet werden. Dies geschieht
mehrere Zugfolgen tief. Die Tiefe der Analyse ist nicht konstant, sondern
richtet sich nach einer Hierarchie von Kriterien. Einige seien genannt:
1. Es wird immer mindestens x (z.B. 3) Züge voraus gerechnet.
2. Es wird tiefer analysiert, wenn der nächste Zug ein Sprung ist,
der
letzte Zug ein Sprung war oder ein Austauschangebot möglich ist.
3. Es wird höchstens x+y (z.B. 20) Züge vorausberechnet. Diese
Grenze
wird durch die Memory Kapazität des benutzten Computers bestimmt.
Durch diese Kriterien wird erreicht, daß die nachfolgende Bewertung
der sich ergebenden Stellungsbilder nur solche Stellungen erfaßt,
die relativ stabil sind (tote Positionen). Das Vorausschauen wird also
nicht mitten in einem Abtausch abgebrochen.
2.3. Bewerten
Die Endstellungen, die sich aus dem Vorausschauen ergeben, werden bewertet.
Grundlage hierfür ist in dem Programm ein lineares Polynom. Der wichtigste
Term hierin, d.h. der Term mit dem höchsten Koeffizienten, steht für
das numerische Verhältnis der weißen und schwarzen Spielsteine.
Sein Vorzeichen entscheidet darüber, ob normales Dame oder "Freß-Dame"
gespielt wird. Weitere 26 Terme wurden von Samuel in das Bewertungspolynom
eingebaut, z.B. Zentrumskontrolle, Beweglichkeit, Kontrolle der Grundlinie
etc. Auch binäre Kombinationen dieser Parameter wurden ausprobiert.
Der Computer konnte, wie unter der Überschrift "Verallgemeinerndes
Lernen" nochmal erwähnt werden wird, die Koeffizienten der Terme sowie
die Auswahl der verwendeten Terme im Prinzip selbst bestimmen.
Mit Hilfe des Bewertungspolynoms wird jeder Endstellung, die sich aus
dem Vorausschauen ergibt, ein numerischer Wert zugeschrieben. Hiervon ausgehend
muß der beste Zug ausgewählt werden. Dies geschieht mit Hilfe
der Minimax-Methode. Es reicht nicht aus, den Zug zu wählen,
der zu der am höchsten bewerteten Endstellung führt, denn die
bösen" Absichten des Gegenspielers müssen mit berücksichtigt
werden. Rückwärts von den Endstellungen muß die Analyse
durch den Spielbaum fortschreiten; jedem Knoten wird entweder der Minimalwert
der tieferen Schichten zugedacht (wenn er eine Entscheidungsstelle des
Gegners beschreibt) oder der Maximalwert (wenn er eine eigene Entscheidungsstelle
darstellt). Erst diese Minimax Methode ermöglicht die Auswahl des
besten Zugs. Der Wert der wahrscheinlichsten Endstellung wird der Ausgangsstellung
zugeschrieben. Dies ist sehr wichtig zum Verständnis der Effektivität
des Auswendiglernens, der primitivsten Lernform, zu der Samuel seinen Computer
"erzogen" hat.
2.4. Auswendiglernen und Vergessen
Wir haben gesehen, wie jeder Spielstellung ein Wert zugeordnet wird, der
sich aus der Minimax Analyse des Spielbaums ergibt. Dieser Wert wird nun
zusammen mit der Spielstellung gespeichert. Wenn in einem neuen Spiel diese
Stellung beim Vorausschauen wieder angetroffen wird, so wird sie nicht
mit dem Polynom, sondern mit dem gespeicherten Wert bewertet. Dies bedeutet
eine effektive Verdopplung der Zugzahl, um welche vorausgedacht wird. Theoretisch
ist es möglich, daß durch diese Art des Lernens in der n-ten
Partie partiell nx Züge vorausgedacht wird, wenn x die normale Vorausschautiefe
bezeichnet.
In der Praxis stößt das Auswendiglernen jedoch sehr bald
an die Grenzen der Speicherkapazität eines Computers. Samuel löste
in seinem Fall dieses Problem dadurch, daß die Bewertung sehr selten
angetroffener Stellungen vergessen werden konnte. Je häufiger eine
Stellung beim Spiel angetroffen wurde, umso länger wurde die Bewertung
"behalten".
Was kann der Computer, ausgestattet mit der Fähigkeit des Auswendiglernens,
leisten? In der Trainingsphase ließ Samuel das Programm gegen sich
selbst, aber auch gegen viele menschliche Gegner, darunter einige Meisterspieler,
antreten. Auch einige Spiele aus der Literatur wurden nachgespielt. Am
Ende dieser Lernphase spielte der Damecomputer eine sehr gute Eröffnung
und erkannte die meisten Gewinn- oder Verluststellungen im Endspiel. Im
Mittelspiel hatte das Auswendiglernen jedoch keine eindeutige Verbesserung
bewirken können. Das Computerprogramm war in diesem Stadium als ein
überdurchschnittlich guter Anfänger, aber sicher nicht als Experte,
zu bezeichnen.
2.5. Verallgemeinerndes Lernen
Auswendiglernen ist durch die Gedächtniskapazität des Computers
beschränkt. Es gibt zu viele mögliche Stellungen, als daß
alle "auswendig" gespeichert werden könnten. Eine viel effektivere
Lernmethode besteht darin, die gemachten Erfahrungen zu verallgemeinern
und nur diese Verallgemeinerungen zu speichern. Dieses Lernen sollte verschiedene
Ebenen der Abstraktion beinhalten. Samuel versuchte seinem Programm die
Fähigkeit zur Abstraktion dadurch zu geben, daß er es in die
Lage versetzte, die Terme des Bewertungspolynoms selbst auszuwählen
und das Vorzeichen und die Größe der Koeffizienten anhand des
Spielerfolgs zu bestimmen. Die Modifikation der Termkoeffizienten anhand
des Spielerfolges beinhaltet folgende Schwierigkeit: Nach Beendigung eines
Spiels ist nicht immer sicher, welcher Spielzug zum Gewinn oder zu dem
Verlust der Partie geführt hat, also ist auch nicht sicher, welcher
Term neu gewichtet werden sollte. Samuel umgeht dieses Problem dadurch,
daß er während des Spiels nach jedem Zug eine Bewertung des
Bewertungspolynoms vornimmt. Gegeben sei z.B. eine beliebige Stellung im
Mittelspiel. Grundlage des Lernvorgangs ist dann der Vergleich der Bewertungen
für die augenblickliche Stellung, die sich ergeben, einmal aus der
augenblicklichen Berechnung mit dem Polynom und zum anderen nach der Generierung
des Spielbaums aus der Rückrechnung mit der Minimax Methode. Die Differenz
zwischen beiden Bewertungen ist Delta. Delta ist ein Maß für
die Güte des Bewertungspolynoms. Wenn Delta positiv ist, bedeutet
das, daß die Berechnungen des Polynoms zu pessimistisch waren. Alle
positiven Terme sollten also u.U. stärker bewertet werden. Wenn Delta
negativ ist, dann war die Bewertung mit Hilfe des Polynoms zu optimistisch
und alle Terme, die negativ beitragen, sollten u.U. stärker zu Buche
schlagen. Nach Beendigung des Spiels werden deshalb die für jeden
Zug ermittelten Delta-Werte mit dem Vorzeichen der verschiedener Terme
während eines ganzen Spiels korreliert. Die Koeffizienten werden je
nach berechneter Korrelation für das nächste Spiel verändert.
2.6. Vergleich der Lernmodi
Während das Auswendiglernen sehr schnell zu einer guten Eröffnung
führte, aber im Mittelspiel wenig veränderte, hatte verallgemeinerndes
Lernen nicht so ein gutes Eröffnungsspiel zur Folge, aber das Mittelspiel
wurde drastisch beeinflußt. Einmal in Steinvorteil, hatte der Gegner
meist keine Chance mehr.
2.7. Kombination der Lernmodi
Wirklich meisterlich spielte der Damecomputer nach der Kombination beider
Lernmodi. So konnte er ein Spiel gegen Mr. R.W. Nealey gewinnen, der seit
Jahren gegen Menschen nicht mehr verloren hatte. Nealey kommentierte das
Spiel gegen den Computer folgendermaßen:
"Unser Spiel... hatte seine Höhepunkte. Bis zum 31. Zug war unser
gesamtes Spiel publiziert, wenn man davon absieht, daß ich mehrmals
das 'Buch' verlies, um den Computer in Zeitnot zu bringen. Ab dem Zug 32-27
(dem Verlustzug) ist das Spiel original, soviel ich weiß. Es ist
für mich sehr interessant festzustellen, daß der Computer mehrere
Starzüge machen mußte, um gewinnen zu können, anderenfalls
hätte ich die Möglichkeit zum Unentschieden gehabt. Deshalb spielte
ich weiter. Die Maschine spielte ein perfektes Endspiel ohne einen Fehlzug.
In bezug auf das Endspiel habe ich seit 1954, als ich mein letztes Spiel
verlor, keinen solchen Gegner gehabt."
3. KRITIK VON VORURTEILEN ÜBER DIE THEORETISCHEN
GRENZEN DER COMPUTERFÄHIGKEITEN
3.1. Erstes Vorurteil: "Computer sind nur zählende
Idioten"
Die meisten Computer verarbeiten Information in digitaler Form. Ihre elementarsten
Bausteine (logische Gatter) können in Abhängigkeit von den Eingängen
an ihrem Ausgang die logischen Zustände "0" und "1" einnehmen. Dies
wird häufig benützt (zugegebenermaßen nur in der trivialen
Literatur), um zu behaupten, daß Computer eigentlich nur bis 0 und
1 zählen könnten. Wie widersinnig es ist, hierin eine Beschränkung
der Computerfähigkeiten zu sehen, liegt auf der Hand. Prinzipiell
darf die Leistungsfähigkeit eines komplexen Systems nicht an derjenigen
seiner isolierten Bausteine gemessen werden. Wer wollte einer einzelnen
Nervenzelle Intelligenz oder gar Selbstbewußtsein zuschreiben?
Die de Morganschen Gesetze besagen, daß die logischen Funktionen
NOR und NAND Universalfunktionen sind. Mit ihnen lassen sich im Prinzip
alle lösbaren logischen Probleme lösen. Dieser Satz bedeutet
nichts anderes, als daß Computer theoretisch die Arbeit der Logiker
übernehmen können. Es ist selbstverständlich, daß
auch Computer prinzipiell unlösbare Probleme nicht lösen können
(es gibt hiervon in der Logik und der Mathematik eine ganze Reihe).
3.2. Zweites Vorurteil: "Computer können nicht
lernen".
Diese Anschauung vertrat sogar in den 70er Jahren im Fernsehen ein Stuttgarter
Informatikprofessor (dessen Namen ich glücklicherweise vergessen habe),
was nur zeigt, daß manchmal eine zu detaillierte Beschäftigung
mit einer Sache den Blick für allgemeinere Zusammenhänge vernebeln
kann. Wir haben uns mit einem lernfähigen Computerprogramm eingehend
befaßt; deshalb erübrigt es sich hier, über dieses Vorurteil
noch viel Worte zu machen.
3.3. Drittes Vorurteil: "Computer sind nicht kreativ"
Beim Rückzugsgefecht darüber, was Computer nicht können,
wird häufig angeführt "Computer sind nicht kreativ". Diese Behauptung
wird selten von einer Definition dessen begleitet, was unter "kreativ"
verstanden werden soll. Sobald kreativ nämlich in sinnvoller Weise
definiert wird, ist meistens schon der Weg für eine maschinelle Nachahmung
vorgezeichnet. Willwacher z.B. beschreibt einen produktiven Einfall als
die Neukombination früher erlernter Informationen. Sein auf einem
Computer simuliertes assoziatives Speichersystem konnte solche produktiven
Einfälle produzieren.
Ich könnte den Rest der Vorlesungszeit damit füllen, aus einem
Buch mit Computerlyrik zu rezitieren. Solche Computerlyrik ist nicht deshalb
nicht kreativ, weil wir die Regeln kennen (können), nach denen der
Computer seine Gedichte verfaßt hat. Wenn dem so wäre, würde
eine notwendige Bedingung für menschliche Kreativität die Unkenntnis
der Regeln sein, nach denen menschliche Gehirne Neues produzieren. Kreativität
wäre dann wegforschbar.
Dieses Argument leitet über zum 4. Vorurteil.
3.4. Viertes Vorurteil: "Computer können nicht
klüger werden als ihre Programmierer".
Was ein Computer tut und wie er es tut, hängt von seinem Programm
und damit von seinem Programmierer ab. Damit ist aber kein neuer Erhaltungssatz
formuliert, d.h. ein Programmierer kann mehr Information aus dem Computer
erhalten als er hineingesteckt hat. Das wird besonders anschaulich bei
lernfähigen Programmen. Auch hier kann uns das von Samuel programmierte
lernfähige Damespielprogramm als Beispiel dienen. Wir haben nachvollziehen
können, warum dieses Programm bald besser Dame spielen konnte als
sein Schöpfer. Der Satz "Ein Computer kann nie intelligenter werden
als sein Programmierer" verschleiert tatsächliche Entwicklungen. Er
vernachlässigt darüberhinaus, daß schon heute in vielen
Großcomputern Programme laufen, die von einem ganzen Stab von Programmierern
über viele Jahre entwickelt worden sind.
Es sollte im übrigen angemerkt sein, daß auch wir Menschen
abhängig davon sind, was Erzieher und sonstige Umwelt in uns eingepflanzt
haben. Ein prinzipieller Unterschied zu lernfähigen Computern wäre
hier noch nachzuweisen.
Die richtig gestellte Frage ist nicht die, ob Computer nur das tun,
was ihnen aufgetragen wurde zu tun, sondern die Frage nach den Grenzen
dessen, was einem Computer aufgetragen werden kann zu tun.
3.5. Fünftes Vorurteil: "Computer können
keine Gefühle haben"
Von dem chinesischen Philosophen Chuang Tzu ist folgende Parabel überliefert:
"Zwei Philosophen standen auf einer kleinen Brücke, über einem
klaren Bach, und sahen dem Spiel der Fische zu. Da sagte der eine: 'Sieh
nur, wie die Fischlein dort im Kreis herumschwimmen und plätschern.
Das ist ein Vergnügen für sie'. Darauf versetzte der zweite:
'Woher weißt du, was für die Fische ein Vergnügen ist?'
- 'Und wieso weißt du', entgegnete ihm der erste, 'der du doch nicht
ich bist, daß ich nicht weiß, was den Fischen Vergnügen
macht?'
Verfechter der These: "Ein Computer kann kein Gefühl haben" sind
Dogmatiker mit einem echten Vorurteil (vor jeder Erfahrung ). Sie vergessen,
daß sie die Maschine selbst sein müßten, um dies subjektiv
zu überprüfen. Auf das Gefühlsleben unserer Mitmenschen
und das mancher Haustiere schließen wir instinktiv aufgrund angeborener
auslösender Mechanismen. Auf der philosophischen Ebene rechtfertigen
wir diese instinktive Grundhaltung ad hoc mit einem Analogieschluß:
Alle Menschen verhalten sich so, als hätten sie ein Gefühlsleben
wie wir selbst, also haben sie eins (man beachte, wie wir in diesem
Fall das Prinzip des Turing Tests - auf Mitmenschen angewandt - akzeptieren).
Bei dem traurigen Erscheinungsbild heutiger Computer funktionieren weder
angeborene auslösende Mechanismen, noch können uns Analogieschlüsse
mangels Ähnlichkeit dazu bewegen, ihnen ein Gefühlsleben zuzusprechen.
Sie haben sicher auch keins. Aber zu behaupten, daß eine (zukünftige)
Maschine mit der Komplexität eines menschlichen Gehirns keine Gefühle
haben kann, ist tatsächlich nichts anderes als ein unbewiesenes und
wahrscheinlich unbeweisbares Vorurteil. Wenn wir als Naturwissenschaftler
annehmen, daß unsere Gefühle und sogar unser Selbstbewußtsein
auf Informationsverarbeitungsprozessen beruhen, dann ist es eher konsequent
anzunehmen, daß eine Maschine mit entsprechender Informationsverarbeitung
eben auch diese Phänomene kennt [4].
Auf der Basis von Turings Test ist aber selbst dieser 'Glaube' irrelevant.
Relevant ist bei dieser Betrachtungsweise nur, ob der Computer sich so
verhalten kann, als ob er Gefühle habe.
4. MÖGLICHE FOLGEN DER COMPUTERENTWICKLUNG
Alle möglichen Folgen der Computerentwicklung kann niemand voraussehen.
Einige der Entwicklungen sind jedoch schon heute absehbar. Sie seien kurz
angesprochen.
4.1. Die Verdrängung des Menschen aus den Produktionsprozessen
Die Einsparung menschlicher Arbeitskraft durch den Einsatz der Computertechnologie
ist - trotz politisch motivierter Gegenrede - evident. Die heutige Arbeitslosigkeit
ist zumindest teilweise auf die progressive Automatisierung der Produktionsprozesse
zurückzuführen. Der Anteil dieser strukturellen Arbeitslosigkeit
wird zunehmen, trotz der langfristig drastischen Verkürzung der menschlichen
Arbeitszeit.
Die heutige Situation ist nicht nur einfach eine Wiederholung der Erscheinungen
während der ersten industriellen Revolution im 19. Jahrhundert, als
z.B. die Weber durch die Konkurrenz der mechanischen Webstühle brotlos
wurden. Jede der damaligen Maschinen bedeutete wenigstens auch einen Arbeitsplatz
für denjenigen, der sie bedienen mußte. Heute ist die Entwicklung
hingegen gerade die, daß Maschinen selbständig (automatisch)
ihre Arbeit verrichten. Menschenleere Fabriken sind z.B. in der Automobilindustrie
und in der chemischen Verfahrenstechnik schon heute keine Utopie mehr.
Vor allem auch in der Computerentwicklung selbst werden immer mehr Computer
eingesetzt. Das dynamische Wachstum dieser Branche verschleiert noch, daß
pro Produktionseinheit immer weniger Mensch benötigt wird.
Früher wurde die Handarbeit mechanisiert, der Mensch blieb immer
der 'Kopf' des Mensch-Maschine Systems. Heute wird auch die Kopfarbeit
automatisiert; wird dadurch der Mensch funktionslos?
Es steht zu erwarten, daß die mehrheitliche Beschränkung
der Menschen auf das Konsumieren, d.h. seine Verdrängung aus der Produktion,
nicht ohne große Probleme für die menschliche Sinnsuche ablaufen
wird.
4.2. Unüberschaubare Computerprogramme und
der Verlust menschlicher Verantwortung?
Es ist nicht so, daß die heutige Entwicklung generell eine Befreiung
von unwürdigen Tätigkeiten bedeutet. Computer (Roboter) verdrängen
den Menschen nicht nur bei zeitaufwendigen Routinearbeiten, sie nehmen
vielen auch das Gefühl, von Bedeutung zu sein. Außerdem werden
Computer zunehmend bei Entscheidungsprozessen in Politik und Wirtschaft
eingesetzt, bei Tätigkeiten, denen ein hohes Sozialprestige entsprechen
würde. Es ist die Aufgabe von Computern geworden, optimale Verkaufsstrategien,
Investitionen oder Personalbestände zu berechnen. Der Mensch, der
den Entscheidungsprozeß des Computers häufig nicht mehr überschauen
kann, ist oft nur noch das Computerinterface zur 'real world', das Verbindungsglied
zwischen Computer und Umwelt. Dies ist notgedrungen ein Rückzug des
Menschen aus der Verantwortung. Ein Mensch, der die Entscheidungen eines
Computers weitergibt, ohne dessen Entscheidungsprozeß nachvollziehen
zu können, fühlt sich nicht verantwortlich und - in einem gewissen
Sinne - ist er es auch nicht. Da die Entscheidungen eines Computers auf
so komplexen Programmen beruhen können, daß kein einzelner Programmierer,
sondern nur ganze Generationen von Programmierern verantwortlich zeichnen,
gibt es gar keine juristisch belangbare individuelle menschliche Verantwortung
mehr, wie Joseph Weizenbaum feststellt: "...but responsibility has altogether
evaporated".
Noch wird in der Computertechnologie das potentielle Lernvermögen
der Computer selten eingesetzt. Was es in obigem Zusammenhang bedeuten
würde, wenn Computerentscheidungen aufgrund von Erfahrungen getroffen
würden, die der Computer selber gesammelt hat, ohne daß ein
menschliches Interface eingeschaltet war, ist offensichtlich. Computer
wären endgültig autonome Handlungszentren im Funktionsgefüge
dieser Welt.
Wir brauchen eine Diskussion der Frage, was für uns als Menschen
wünschenswert ist, und ob die gegenwärtige Entwicklungstendenz
an diesen Zielen orientiert ist. Als denkende Menschen sollten wir die
Richtung der stattfindenden Metamorphose mitbestimmen und uns nicht ahnungslos
von ihrer Eigendynamik überrollen lassen.
Literatur
Krause M. und G.F. Schaudt: "Computer Lyrik. Poesie aus dem Elektronenrechner".
Droste Verlag. Düsseldorf 1967.
Samuel A.L.: "Some Studies in Machine Learning Using the Game of Checkers".
In "Computers and Thought", ed. E. Feigenbaum und J. Feldman, McGraw Hill
New York (1963) pp.71-105
Turing A.M.: "On computable numbers, with an application to the Entscheidungsproblem".
Proc. of the London Mathematics Society (Series 2) 42, 230-265 (1936).
Turing A.M.: "Computing machinery and intelligence". Mind, October,
1950, 59, 433-460. Nachdruck in "Computer and Thought" Ed. E.A. Feigenbaum
und J. Feldman. McGraw-Hill 1963.
Weizenbaum, J: "Computer Power and Human Reason". Freeman & Co.,
San Francisco (1976).
Willwacher, Gerd: Fähigkeiten eines assoziativen Speichersystems
im Vergleich zu Gehirnfunktionen. Biol. Cybernetics 24, 181-198 (1976).
... und so sieht die Diskussion über Roboter 2007 -
nur 26 Jahre später - aus!
Ray Kurzweil (2006): Why We Can Be Confident of Turing Test Capability Within a Quarter Century
Ray Kurzweil hat in seinem Buch "The Singularity is Near, When Humans Transcend Biology" von 2005 vieles von dem, was ich 1980/81 angerissen habe, mit heutigem Wissen konsequent zu Ende gedacht.
|