Gedankenexperimente aus tausend und einer Seite (Teil 68): Der Raub der Seelen

Vor fünf Jahren habe ich diesen Beitrag geschrieben und heute ein wenig aktualisiert. Damals wusste ich noch nichts von ChatGPT, obwohl dessen Aufdämmern schon mehr als ein halbes Jahrhundert zuvor geahnt worden war. Ich habe das damals allein für mich geschrieben, weil es mich bedrückte und ich es mir von der Seele schreiben wollte. Und jetzt, beim erneuten Lesen, habe ich gedacht, dass ich dem kleinen Kreis an Freunden, die hier regelmäßig Gedanken tanken, auffangen und mit frischem Effet zurückspielen, dieses Gedankenexperiment einfach mal anbiete. Es sind Versuche, sich einer Anderen Intellegenz zu nähern, die postmenschlich werden könnte. Eine Ungeheuerlichkeit: postmeschlich. Doch diesem Gedanken begegnete ich in letzter Zeit bei meiner Reise durch das Gedankenarchiv immer wieder, mehr oder minder direkt. Ich muss zugleich gestehen, dass es mir schon auch Spaß macht, diese Gedanken aufzuspüren und in eigenen Texten zu verarbeiten. Und dann kommt der Punkt, dass man sie auch mal veröffentlichen will. So geschehen hier und heute (und in all den anderen Teilen dieser Serie). Diesmal habe ich die Quellen nicht weggekürzt.

 

1980: »Wer über künstliche Intelligenz verfügt, kann der Welt seinen Willen aufzwingen.«

Michael Dertouzos (1936–2001), Wissenschaftler am Massachusetts Institute of Technology

 

 Die Andere Intelligenz (AI)

  Von Raimund Vollmer 

Wir, die wir aus Fleisch und Blut sind, wir sind bald nur noch kriechende, keuchende Unterwelt. Wir sind Subprime, Wesen von geringster Bonität, auf die niedrigste Stufe gefallen. Nur unsere körperlosen Daten sind noch etwas wert – zur Sekurisierung verdammt, zu einer handelbaren Anlageform verkommen und freigegeben.

Über deren Wert entscheiden nicht wir. Das ist Sache des Systems, das sich in unterschiedlichsten Erscheinungsformen um alles kümmert. Dazu hatte es früher seine ebenso namen- wie gesichtslosen Bürokraten, jetzt holt es sich seine Agenten, die – wie es die Technologieberaterin Yvonne Hofstetter nennt – „ein Designmuster für Algorithmen“ sind, Gestalten ohne feste Gestalt. Sie wurden zwar von der „digitalen Gesellschaft erschaffen“, um „uns Arbeit“ abzunehmen, aber sie sind eher die Arbeitssklaven eines sich selbst steuernden, sich selbst gehörenden und gehorchenden, totalen Systems. „Ein Agent – eine Architektur zur Anwendung von Algorithmen – lässt sich wie ein Haustier trainieren“, erklärt uns Frau Hofstetter, die tatsächlich meint, dass diese Algorithmen sich selbst bewusst sind: „Sie wissen sozusagen, dass es sie gibt“, zitiert sie 2017 ‚Der Spiegel‘.[1] Naja, so weit ist es bestimmt noch nicht. Auch ChatGPT ist sich selbst nicht bewusst, noch unserer Existenz. Aber darauf kommt es auch gar nicht mehr  an.

Marvin Minsky (1927–2016), der Vater der Künstlichen Intelligenz, nannte 1979 die von ihm erfundenen Agenten ganz einfach „Repräsentanten mit bestimmten festgelegten Eigenschaften“. Bei ihnen sei alles eine Frage der „Darstellung“, sagt er. Also werden auch wir, die Leibhaftigen, – wie alles um uns – nur noch als Darstellung existieren, als etwas Künstliches. Das ist entscheidend.[2] Eine Welt der totalen Künstlichkeit entsteht: die Oberwelt. Irgendwann wird dann der Zeitpunkt kommen, an dem diese Über-Welt uns nicht mehr braucht. Sie wird sich von uns abheben.

„Die intelligenten Maschinen werden der biologischen Menschheit als metaphysische Diener erscheinen. Sie werden sehr freundlich auf uns wirken und uns die Arbeit abnehmen, nämlich die Erfüllung unserer materiellen und emotionalen Wünsche“, schrieb 2002 der amerikanische Futurist Raymond Kurzweil. Die Maschinen werden uns also nach und nach zur Untätigkeit verdammen. Er behauptete damals, dass es im Jahr 2030 mehr künstliche als menschliche Intelligenz auf Erden geben wird – eine Prophezeiung, die immer noch das Potenzial hat, wahr zu werden.

Diese Maschinen würden „vieles können, was die biologische Menschheit nicht wahrnimmt“, vermutete Kurzweil.[3] Kurzum:  Irgendwann übernehmen die künstlichen Intelligenzen den Oberbefehl und schaffen sich eine Welt, die möglicherweise von der unsrigen, der biologischen Welt hermetisch abgesondert ist. AI – eine anorganische Intelligenz. Undurchdringlich für uns, regiert sie über uns. An unserer Stelle. Wir aber leben im „Reich der Freiheit“ (Hegel), zum Zoobesuch freigegeben, umgeben von Millionen von Kommandos.

Alles wird zu Alexa. Oder – wie Jeff Loucks, Analyst bei der Beratungsgesellschaft Deloitte meint: „Sprache durchdringt alles.“[4]

Die Stimme aus dem Nichts & Niemand bildet unser Über-Welt-Ich, das überall ist, schon jetzt von sich behaupten kann, dass mehr als Geräte unter ihrem Stimmbefehl stehen, als es Menschen gibt. Sie verfügt über Abertausende von Fähigkeiten, den Apps, die blindlings ihrer Befehlsgewalt unterworfen sind. Es ist ein Traum – jedenfalls für Rohit Prassad, im Hause Amazon der Chefentwickler des Sprachwunders Alexa: „In 15 Jahren werden mit künstlicher Intelligenz ausgestattete Sprachassistenten überall und in allem sein.“ Das sagte er 2019. Inzwischen können wir sagen, dass wir uns mit Riesenschritten diesem Ziel nähern. Ja, Künstliche Intelligenz werde jederzeit auf Abruf für uns bereitstehen, völlig verwachsen mit unserer Umwelt.[5] Sagte er damals. Eigentlich ist es bereits so weit. Alexa wird uns immer zur Seite sein, auf alles eine Antwort wissen – wie seine Konkurrentin Siri. Nur setzten sich in der Zwischenzeit andere Superintelligenzen darüber.

Schon 2016 beantwortete Apples Sprachassistentin Siri zwei Milliarden Anfragen pro Woche.[6] 1,8 Milliarden Menschen würden – nach Einschätzung der Marktforschungsgesellschaft  Tractica – im Jahr 2021 einen Sprachassistenten benutzen, 2016 waren es gerade einmal ein Drittel. Tatsächlich seien es 2020 bereits 4,2 Milliarden gewesen, und Ende 2024 werden es etwa 8,4 Milliarden sein. Sagte zu Neujahr 2024 das Statista Research Department voraus.

Der Traum
des Amazon–Technikers ist nicht neu. Niedergeschrieben wurde er schon ein paar Jahre vor seiner Geburt. Von den Science–Fiction-Autoren der sechziger Jahre. „Joker“ nennt zum Beispiel 1969 der Amerikaner Frederik Pohl (1919–2013) seine Alexa in dem Roman „Die Zeit der Katzenpfoten“. Dieser „Joker“, der mehr kann als nur Befehle empfangen und weiterzugeben, ist der „wertvollste Besitz“ in einem Leben, sagt Pohl.[7] Ohne ihn ist man verloren. Die Abhängigkeit aber ist höchst einseitig. Ob wir selbst auf Dauer in dieser vollautomatisierten Welt noch gebraucht werden, ist eine Frage, die sich erübrigt. Wir sind das „ancien régime“ der Moderne, von dem sich der digitale Kontinent lossagen wird. Die neue Unabhängigkeitserklärung kommt aus der Maschine, nicht von uns.

Wir sind nur noch Objekte. Die Subjekte sind Andere Intelligenzen. Totale Kontrolle ohne Verantwortung.

Eigentlich befinden wir uns schon längst im Prozess der Unterwerfung. Seit 250 Jahren, ausgerechnet seit der Zeit, in der wir die Menschenrechte formulierten, sind wir dabei, uns selbst systematisch zu entmachten. „Jede Erscheinung des Wirtschaftslebens, (das sich auf alles erstreckende Geldwesen, Kreditwesen, Börse, Clearing usw.) weist durchweg dieselbe Tendenz auf: die Entpersönlichung, eine auf die Zurückführung der Qualitäts- zur Quantitätskategorie hinzielende Entwicklung“, formulierte 1909 der marxistische Literatursoziologe Georg Lukász: „Und demgemäß und parallel damit entwickelt sich auch die Welt– und Lebensanschauung der Menschen derart, dass sie alles auf vollkommen objektive, mit nichts Menschlichem verknüpfte zurückzuführen geneigt sind.“[8]

Alles ist objektiv. Wie geschaffen für Andere Intelligenzen, unsere Götter. Hätten sie ein Bewusstsein, würden sie uns auslachen.

„Der Mensch als solcher ist das Problem unserer Zeit“, schrieb 1947 der österreichische Schriftsteller und Literaturkritiker Hermann Broch (1886–1951) in einer Reflexion über Kunst und Technik und meinte weiter: „die menschlichen Probleme aber verschwinden, ja, sie sind schier unerlaubt, moralisch unerlaubt geworden. Die persönlichen Belange des Individuums sind Anlass des Gelächters der Götter, und die Götter haben recht in ihrer Mitleidslosigkeit. Der Einzelmensch ist zum Nichts herabgesunken, aber die Menschheit als Ganzes vermag den Göttern und selbst dem Schicksal die Stirn zu bieten.“ [9]

Selbst die aktuellen Herren des Internets, die in den Medien wie Götter angebetet werden und deren Kreditwürde unantastbar ist, glauben zwar, mit ihren Algorithmen die „Kommandohöhen“ über unser Leben besetzt zu halten, doch in Wirklichkeit unterliegen sie längst dem objektiven Oberbefehl, diesem Obereigentum, dieser Oberwelt, der höchsten Gewalt, die sich in einem allgegenwärtigen und alles erfassenden Datenwirbel unsere Welt total gefügig macht. Nur lachen tun sie nicht. Ohnehin fehlt ihnen jeder Sinn für Humor. Und human sind sie erst recht nicht.

„Es ist im Prinzip möglich, einzelne Unternehmungen und Organisationen, aber auch wirtschaftliche und politische Teilsysteme und Gesellschaftssysteme im ganzen nach dem Muster selbstgeregelter Systeme aufzufassen und zu analysieren“, prophezeite in den sechziger Jahren der Soziologe und Philosoph Jürgen Habermas in seiner Schrift mit dem verräterischen Titel „Technik und Wissenschaft als 'Ideologie'„.[10] Was da noch so nüchtern klang, ist heute Allgegenwart. Facebook, Amazon, Google, Apple, Microsoft – diese Systeme regeln sich selbst in einem Maße, dass die Damen und Herren an der Spitze sich fragen, wie viel Verfügungsgewalt sie selbst noch haben. Ihre Auftritte, die wie Popkonzerte inszeniert werden, sind nur noch das Vorprogramm in einer erbarmungslosen Supershow. Sie spielen und werden gespielt. Ihre Macht wird an ihrem persönlichen Reichtum gemessen und – wie bei Politikern – an dem Aufwand, den sie betreiben müssen, um sich vor der Menschenwelt zu schützen, die sie doch eigentlich gestalten wollten.

Habermas sah damals noch einen Unterschied zwischen kybernetischen Systemen, in denen sich Maschinen selbst steuern, und einem „Mensch-Maschine-System“, in dem wir – aus Fleisch und Blut – immer noch präsent sind, aber er ahnte bereits, dass die Kybernetik – eigentlich ja nur ein Subsystem – unsere Welt in sich vollkommen aufsaugen würde und zum Supersystem avanciert. Alles unterwerfe sich rein „zweckrationalem Handeln“. Alles wird konditioniert – um nicht zu sagen programmiert. Vor 50 Jahren erst in Ansätzen spürbar, wird es heute mehr und mehr Wirklichkeit. Der Computer in seiner totalen Ausbreitung und Vernetzung lässt uns die Welt ganz anders wahrnehmen als damals. „In dieser neuen Welt erscheinen alle physischen Phänomene reduziert, reorganisiert neubestimmt, um den Anforderungen des Computers zu genügen“, schrieb 1983 der amerikanische Soziologe Jeremy Rifkin zu einem Zeitpunkt, als in Europa gerade einmal der erste IBM-PC auf dem Markt erschien. „Der Computer formt die Welt nach seinem eigenen Bild“, erklärte er, und die Maschine würde dabei einen neuen Kontext kreieren, nach dem sich die Welt organisiert.[11] Dieses Bild wird geprägt durch die Kybernetik, die alles Verhalten auf zwei „wesentliche Ingredienzen reduziert – auf Information und Feedback“. Fast zwanzig Jahre vorher hatte Habermas diese Kombination, die nach Rifkin das Industriezeitalter überwinden würde, in eine inzwischen eingetroffene Perspektive gesetzt: „Die industriell fortgeschrittenen Gesellschaften scheinen sich dem Modell einer eher durch externe Reize gesteuerten als durch Normen geleiteten Verhaltenskontrolle anzunähern.“

Diese Reizwelt ist alles andere als befriedigend, macht uns absolut ohnmächtig. Zwar ist plötzlich der Wunsch nach Normen und Grenzen wieder da, aber dahinter stehen überwunden geglaubte Ideologien  – mit katastrophalen Folgen. Was immer in der Ukraine und im Nahen Osten passiert, ist nichts anderes als ein blindes, fanatisches Umschlagen von Reaktionären, die in der Gegenwart der neuen Götter nichts anderes als Teufel zu sein scheinen. Doch diese Teufel wollen nicht den Göttern und dem Schicksal die Stirn bieten, denn dann wären sie Engel, sie kämpfen um Lebensräume, die einen aus endloser Weite heraus zur Vermehrung der Russlandmasse, die anderen um Lebensraum in äußerster Enge, in Gazastreifen und Bleiberechte. Biblisch gesehen sind es die Versuchungen des Teufels, wie sie schon Gottes Sohn vor zweitausend Jahren widerfuhr. Er konnte dieser Versuchung die Stirn bieten, auch wenn es an seinem Schicksal nichts änderte – oder gar erst recht besiegelte. Aber damit – so sagt es das Neue Testament – rettete er die gesamte Welt.

Und nun? Die christlichen Religionen sind verblasst. Die Welt wird digital.

Es geht dabei nicht um Raum, es geht um Zeit, Lebenszeit. Es geht um uns Menschen. Aber nicht um unsere Seelen zu retten, sondern uns die Seelen auf raffinierte Weise zu rauben. Zuckerwasser statt Honig. Kitsch statt Kunst.

Nirgendwo scheint der Mensch so im Tausch- und Täuschgeschäft zu sein wie im Facebook des Lebens. Nirgendwo ist er so gefangen in einem technischen Reiz-System wie gerade dort. Hier herrscht die permanente Überwachung. Hier halten Emoticons zwischen „Leck“ und „Like“ alles in Bewegung. „Die Natur, die man als 'Materie in Bewegung' bezeichnen könnte, wird ersetzt durch 'Geist in Aktion'“, formulierte Rifkin noch philosophisch. Wir sind zwar noch willig, aber der Geist ist schwach. Er packt auf Dauer diese permanente Reizüberflutung nicht. Er ist rastlos, haltlos, ratlos. Ohne Orientierung. Lebenszeit wird vernichtet in Sinnlosigkeit.

Und die neuen Götter lachen sich die Börse voll.

... nur nicht die Verantwortung: VW-Werbung 1990

Als Helden werden die Superstars an der Spitze noch benötigt, um die Illusion einer von Menschen geführten Schöpfung zu vermitteln. Aber eigentlich sind sie nur PR, Eigen-PR. Und wir stürzen uns auf diese Idole, eifern ihnen mehr oder minder nach, weil alles andere uns in den Wahnsinn treiben würde. Aber auch ein Mark Zuckerberg ist längst erbarmungslos den Befehlen und Wendungen des Systems unterworfen, das er und seine Leute einmal geschaffen haben. Es ist unendlich viel größer als er, der Zuckerberg. Sein Mensch-Maschine-System wird ihm offenbar selbst unheimlich. Er schreit nach dem Staat, ja nach der Staatengemeinschaft, die die Regeln aufstellen solle, denen er dann gehorchen wolle. Er schiebt die Verantwortung nach oben, ohne allerdings Kontrolle aufzugeben.

Alle wollen Kontrolle, keiner Verantwortung.

Die Götter sind – wie dereinst in der Antike – zwar menschlich, aber sie sind nicht human. Sie sind eine Andere Intelligenz.

---

[1]  Der Spiegel, 10. Februar /2017: „Das Monster von Gerlhausen“

[2] Aufzeichnung eines Interviews mit Marvin Minsky von Peter Sokolowsky am 29. Oktober 1979 in Cambridge, MIT, Labor für Künstliche Intelligenz, Copie im Besitz des Verfassers

[3] Die Welt, 24. Mai 2002, Ray Kurzweil: "Am Wendepunkt der Evolution"

[4] The Economist, January  12, 2019:"Keynote speaker"

[5] Wall Street Journal, March 7, 2019, Laura Stevens: "Alexa can be empathetic, all-knowing and funny?"

[6] Frankfurter Allgemeine Zeitung, 15. Juni 2016: "Hey Siri, Du bekommst mehr zu tun"

[7] Frederik Pohl, 1969, Die Zeit der Katzenpfoten, Seite 33

[8] Georg Lukász, geschrieben 1909, "Zur Soziologie des modernen Dramas", aus Schriften zur Literatursoziologie, Band 9, Seite 288

[9] Hermann Broch, 1975, Schriften zur Literatur, Band 1I, Seite 231: „Mythos und Altersstil“(1947)

[10] Jürgen Habermas, Frankfurt 1968, "Technik und Wissenschaft als 'Ideologie'", Seite 82

[11] Datamation, Aay 1983, Jeremy Rifkin: "The other half of the computer revolution"