2016: »Lasst uns die USA zum ersten Land mit einem algorithmisch kontrollierten Staatsoberhaupt machen!«
Die Kampagne „Watson for President", die IBMs Elektronenhirn Watson zum Präsidentschafts– Kandidaten machen wollte[1]
[1] Frankfurter Allgemeine Zeitung, 20. Mai 2016, Adrian Lobe: ""Soll ein Computer Präsident werden?"
1972: »Ein Computer des Touristischen Instituts Zürich sucht für Sie das richtige Hotel am richtigen Ort aus.«
Die Zeitschrift „Hobby“, 1. März 1972
1963: »Es ist heute sehr schwer, ungehorsam zu sein, wenn man nicht einmal weiß, dass man gehorcht.«
Erich Fromm (1900–1980), deutscher Psychoanalytiker und Philosoph
Welch ein künstlich Netz ist doch das Gesetz;
Kleines ist gefangen, Großes durchgegangen.
Friedrich Freiherr von Logau (1604-1655), deutscher Satiriker
1958: „Daneben soll das Elektronen-Gehirn 'Ramac' in zehn verschiedenen Sprachen Fragen aus der Geschichte von heute bis zum Jahre 4 vor Christus beantworten.“
Was im 20. Jahrhundert bloße Science Fiction und reine Vorstellungskraft war, könnte im 21. Jahrhundert Wirklichkeit werden: die Welt als Vollautomat, in der wir – die Menschen – zu Big Data verkommen. Wird das Individuum vollends unterjocht? Ist die Maschine der große Gegenspieler – egal, ob mit oder ohne eigenes Bewusstsein?
Auf diese Frage wurden wir bereits 1949 hingewiesen. In den USA hatte Edmund Berkeley sein Buch „Giant Brains, or Machines That Think“ veröffentlicht. Es machte ihn und das Thema berühmt. Übrigens formulierte er in diesem Werk bereits die Idee des Heimcomputers, dessen Erscheinen dann allerdings noch 25 Jahre auf sich warten ließ.
Verbreitete Berkeley noch die Faszination, die vom Computer ausging, war Nobert Wiener, der Vater der Kybernetik, in seinem ebenfalls 1949 erschienenen Buch „Cybernetics and Society“ weitaus skeptischer: „Die Maschine aber, die wie der Flaschengeist lernen kann und auf Grund ihres Lernens Entscheidungen fällen kann, wird durchaus nicht gebunden sein, Entscheidungen zu treffen, wie wir sie getroffen hätten oder wie sie für uns annehmbar wären. Denn der Mensch, der das Problem seiner Verantwortung blindlings auf die Maschine abwälzt, sei sie nun lernfähig oder nicht, streut seine Verantwortung in alle Winde und wird sie auf den Schwingen des Sturmwindes zurückkommen sehen.“[1]
Drei Jahrzehnte später fragte sich Hans A. Pestalozzi, einst Topmanager bei dem Schweizer Migros-Konzern und nun ein Aussteiger, ein „Dissident“ der Wirtschaft: „Was ist das Entscheidende am Computer: Die gehirnähnlichen Funktionen oder der drohende Totalitarismus à la Huxley oder Orwell?“[2]
Es ist das große Verdienst des Whistleblowers Edward Snowden, dass er uns an unsere Verantwortung erinnerte und uns mit seinen Enthüllungen Einblick in eine Welt gab, die im Namen der Kontrolle selbst außer Kontrolle gerät, die nichts und niemandem verantwortlich zu sein scheint außer sich selbst. Eine Welt, die lenkt, aber nicht denkt. Eine Welt, die weiß, aber nichts fühlt. Eine Welt mit Verstand, aber ohne Sinn. Und das scheint in der Tat die größte Gefahr zu sein – nichts anderes. Eine kalte, gefühllose Welt, die alles an sich zieht. „Gebt uns unser Grundrecht auf Privatsphäre zurück“, titelte 2013 die 'Frankfurter Allgemeine Zeitung' in ihrem Feuilleton. In dem ganzseitigen Artikel formulieren der frühere 'Spiegel'–Chefredeakteur Georg Mascolo und der Leiter der Stiftung Neue Verantwortung Ben Scott: „Kein Staat, egal, wie mächtig, kann heute noch die Privatsphäre seiner Bürger schützen.“[3]
Alles, was wir in den vergangenen 250 Jahren geschaffen haben, um damit unser Leben zu steuern, hatte die Tendenz, sich am Ende selbst zu steuern und sich nur noch um sich selbst zu drehen. Alles wurde selbstbezüglich.
Das gilt in hohem Maße für Computersysteme. Ein Thema übrigens, das 1979 der Informatiker Douglas R. Hofstadter in seinem Buch „Gödel, Escher, Bach“ aufgriff und dafür 1980 den Pulitzer-Preis erhielt. Sein Buch war in Deutschland sechs Monate auf Platz 1 der Bestseller-Liste und faszinierte damals vor allem die junge Informatik–Szene.
Diese schickte sich derweil an, gewaltige, hochkomplexe Software–Systeme zu schaffen, die versuchen sollten, alles, was in Staat und Wirtschaft abläuft, an sich zu raffen und unter ihre Kontrolle zu bringen. Sie war auf dem Weg in die „quartären Aktivitäten“.
Das galt für Maschinen, die sich in den achtziger Jahren zu Computer Integrated Manufacturing (CIM) vereinen und dann in einem weiteren Versuch zu Industrie 4.0 organisiert werden sollten. Das galt für Buchhaltungssysteme, die sich in den achtziger Jahren zu Enterprise Ressource Planning (ERP) aufblähten und Milliarden Dollar an Aufwand verschlangen – nicht nur bei Anbieter wie SAP, sondern vor allem bei den Kunden.
In der berühmten Studie von Simon Nora und Alain Minc aus den siebziger Jahren über „Die Informatisierung der Gesellschaft“ heißt es: „Die Hauptherausforderung der kommenden Jahrzehnte liegt für die fortgeschrittenen Gesellschaften unserer Welt nicht mehr in der Fähigkeit, die Materie zu beherrschen. Das ist bereits erreicht. Die wesentliche Herausforderung liegt in der Schwierigkeit, ein Netz von Verbindungen zu errichten, in dem sich gemeinsam Information und Organisation weiterentwickeln können.“ Es geht hier nicht um den Menschen und dessen Selbstbestimmung, sondern um Sachverhalte, um Information und Organisation. Es geht um Ordnung. Nicht umsonst nennen die Franzosen ihren Computer treffend „l'ordinateur“.
Wenn die beiden Franzosen mit dem Netz so etwas wie das Internet in dieser Weiterentwicklung sahen, dann können wir ihnen heute mitteilen, dass dies nun realisiert ist. Schon stehen wir vor einer neuen „Hauptherausforderung“, nämlich der, dass sich dieses System aus „Information und Organisation“ verselbständigt – im Namen einer sich alles unterwerfenden Ordnung.
„Der Mensch ist nun mal der Faktor, der nie aufgeht“, meinte im Dezember 1990, wenige Tage vor seinem Tod, der Schweizer Schriftsteller Friedrich Dürrenmatt in einem Gespräch mit der Wochenzeitung 'Die Zeit'. Der Mensch stört. Genau darin liegt möglicherweise auch sein Sinn. „Über die Menschen hinaus gibt es keinen Sinn. Der Kosmos ist sinnlos“, sagt Dürrenmatt.[4] „Was tun mit der Milchstraße?“ fragte 1996 Jochen Gerz, der deutsche Konzeptkünstler, nachdem er festgestellt hatte, dass „das sinnlose Objekt par excellence die Natur“ ist. Wir sind es, die damit etwas anfangen müssen. Vielleicht sogar ein „Zurück zur Natur“, wie es Rousseau vorschwebte?[5] Mikis Theodorakis, der weltberühmte griechische Komponist, befand in einem Gespräch mit der 'FAZ': „Unser aller Leben hatte einmal einen natürlichen Rhythmus, den haben wir verloren. Wir versinken in ungeheuren Geldbewegungen und einem Bombardement von Informationen, wir verlieren und vergessen unsere Menschlichkeit, unser Menschsein. Dabei haben wir Hunger auf echte Harmonie – nicht auf solche, die als Illusion daherkommt. Die Menschen sollten lernen, der Disharmonie entgegenzutreten und falsche Harmonie zu erkennen. An die Politik gerichtet: Es ist äußerst gefährlich, Situationen falscher Harmonie zu erzeugen.“[6]
Es ist eine Welt ohne uns. Es ist die Welt des Big Data. Es ist die Rettungskapsel für Big Government und Big Business. Und wir stecken in der Falle...
»Es ist nicht zu erwarten, dass Recht vor Macht gehen werde. Es soll so sein, aber es ist nicht so.«
Georg Wilhelm Friedrich Hegel, deutscher Philosoph
[1] Gerd E. Hoffmann, München 1976: »Computer, Macht und Menschenwürde«, danach zitiert, Seite 59
[2] Hans A. Pestalozzi, 1979, "Nach uns die Zukunft", Seite 30
[3] Frankfurter Allgemeine Zeitung, 24. Oktober 2013, Georg Mascolo, Ben Scott_ "Gebt uns das Grundrecht auf Privatsphäre zurück"
[4] Die Zeit, 21. Dezember 1990, Michael Haller: "Man stirbt. Und plötzlich blickt man zum Mond" - Gespräch mit Friedrich Dürrenmatt
[5] Frankfurter Allgemeine Zeitung, 24. Januar 1996, Jochen Gerz: "Was die Kunst nicht ändern kann, das soll die Kunst verändern
[6] Frankfurter Allgemeine Zeitung, 23. Juni 2015, Hansgeorg Hermann: "Wo sollen wir Hoffnung hernehmen?" Interview mit Mikis Theodorakis
