Vor fast 30 Jahren: Milchstraße im Kopf

Der Quellenlage nach muss es 1998 gewesen sein, als ich es wagte, mich von Experten der Künstlichen und sonstigen Intelligenz in die Zukunft führen zu lassen. Als ich heute morgen auf dieses, wahrscheinlich um 2014 herum letztmalig besichtigte Manuskript stieß, war ich doch erstaunt, wie gut diese Fachleute - vor allem die aus dem angelsächsischen Bereich - die Entwicklung vorhergesehen haben. Vielleicht spüren sie ja auch dieses Erstaunen in sich, wenn sie diesen Blick zurück nach vorn studieren. Im Unterschied zu meiner sonstigen Gepflogenheit, habe ich dieses Mal die Quellen vor der Veröffentlichung nicht gelöscht. 

Von Raimund Vollmer 

 

Roboter werden ab 2010 so intelligent wie Menschen sein. In der Zwischenzeit marschieren die Androiden in den Dienst­lei­­stungs­sektor ein. Und der Mensch selbst macht sich auf in den Cyber­space, um sein größtes, verbleibenden Rätsel zu lösen: das Ge­hirn.

»Gibt es Intelligenz auf der Erde?«

Graffiti‑Schrift

Der Katzensprung. Ende 1996 wagten Wissenschaftler in Groß­bri­tan­nien und in den USA ein kleines Experiment. Ein Ro­bo­ter des Cy­ber­netics‑Bereichs der britischen Reading Univer­sity programmierte über das Internet einen ei­ser­nen Kollegen in der Sta­te University in New York. »Wir woll­ten ein für allemal die Vorstellung be­er­di­gen, dass nur Men­schen Roboter pro­grammieren können«, freute sich Cyber­ne­tics‑Professor Kevin Warwick, über den Erfolg der transat­lantischen Zusammenarbeit zwischen Maschine und Maschine. Und er ist sich ziemlich sicher, dass im Jahr 2050 hochintelligente Roboter die Herrschaft über die Welt erlangen werden. Steht das Ende der Mensch­heit be­vor, kommt nun das Zeitalter der »Maschinenheit«, wie es War­wick nennt? Es ist eine Frage der Intelligenz, also der Com­puter.[1]

»Die größten Superrechner Ende der achtziger Jahre entsprechen dem 1‑Gramm‑Gehirn einer Maus,« schrieb 1990 Hans Moravec, Chef des Mo­bile Robot Laboratory an der Carnegie Mellon Uni­ver­si­ty in Pitts­burgh, in seinem Buch Mind Children. Das war schon ein Rie­sen­fort­schritt gegenüber 1987. Da behauptete ein Experte in der Ta­ges­zei­tung Die Welt, dass der Intelligenzquotient eines Com­pu­ters »kaum über dem einer Kartoffel« läge.[2] Im Jahr 2002 allerdings werde die In­tel­li­genz bereits der einer Katze ent­sprechen, befand 1997 die Lon­doner Finanical Times.[3] Welch ein Fortschritt wäre das: inner­halb von an­dert­halb Jahrzehnten von der Kartoffel bis zur Katze!

Gehirn auf Rädern. Inzwischen sind Computer in der Lage, wenig­stens einen Schach­welt­meister zu schlagen. Doch Deep Blue ist weit da­von entfernt eine Denkmaschine zu sein, die sogar ausge­stattet ist mit einem ei­ge­nen Bewusstsein. Was sind die Grenzen eines solchen »be­wusst­losen« Gehirns? »Ein Schachprogramm, das 52 Züge voraussieht, müsste etwa 10⁸⁰ Möglichkeiten analysieren. Das ist mehr als die Zahl aller Atome im Universum«, rechnete 1982 das Wirtschaftsmagazin For­tune aus.[4] Aber vielleicht ist selbst das kein Pro­blem für ein solches Superhirn, das weiter »denkt« als unser Univer­sum.

Zwischen 2010 und 2030 ‑ so orakelt Mo­ravec, Absolvent der be­rühm­ten Stanford University in Palo Alto, ‑ werde es Com­puter geben, die so mäch­­tig seien wie das menschliche Ge­hirn.[5] Mar­wick glaubt derweil, dass noch vor dem Ende des nächsten Jahr­zehnts die Maschinen nach Zahl und Dichte ihrer Neuronen mit dem mensch­lichen Gehirn gleichgezogen haben wer­den.

Revolution. Etwa zu diesem Zeit­punkt wird sich die Si­li­zium‑Technik dem kri­ti­schen Punkt nähern, in der sie den Ansprüchen nicht mehr ge­nügt. Dann wird man zu biochemi­schen Stof­fen oder optischen Prin­zi­pien übergehen. Der Physiker  Michio Ka­ku  glaubt, dass in den nächsten zwei Jahrzehnten die Transistordichte bei den Chips an die »Null-Komm-Eins-Grenze« stoßen. Bei 0,1 Micron werden die Tran­si­storen so klein wie die  DNA: »Einige Visionäre be­haup­ten, dass das Informationszeitalter der Sieg der Bits über die Atome dar­stellt. Der Cyberspace verdrängt die reale Welt. Doch es tut mir leid sagen zu müssen, dass die Stunde der Rache in 15 bis 20 Jah­ren kommen wird. Wir müssen uns auf mehrere Schockwellen gefasst ma­chen. Im Vergleich zu ihnen war die Ölkrise der siebziger Jahre ein Kinderspiel.« Doch solange lässt es sich nach Meinung von Ka­­­­ku, Autor des Buches  »Vision: How Science will Re­vo­lu­tio­nize 21. Century«  noch recht gut leben. Mikro­pro­zes­soren wer­den nicht nur so klein sein wie ein Pfennig, sondern auch soviel kosten, also Bruchteile eines Euro-Cents. Der Aufwand für ihre Herstellung wird aber immenses Kapital binden. Arthur Rock, Risikokapitalist im Silicon Valley, der  Intel  1968 das Geld für den Start gab, meint: »Die Kapitalkosten für die Herstellung von Halbleitern verdoppeln sich alle vier Jahre.« Nur noch Konsortien werden sich diese Fabriken im Wert von 20 Milliarden Dollar und mehr leisten können.[6]

Aber der Kapitaleinsatz lohnt sich. Immer tiefer graben sich diese  Winzlinge in unser Leben ein. »Wir nähern uns einer Zeit, in der mächtiges und durchdachtes Computing verschmelzen wird mit Möbeln und Papier«, behauptet  Michael Hawley, Mitarbeiter am  Me­dia Lab  des  Massachusetts Institute of Technology. Hier wird bereits an »elektronischem Papier« gearbeitet, mit denen sich Menschen Texte aus dem  Internet  runterladen können - Bü­cher mit einem Umfang von 200 bis 300 Seiten. Nach der Lektüre wird das Buch gelöscht - und kann mit neuem Lesestoff aufgetankt werden.[7] Nichts ist der Technik mehr heilig.

Wenn das Weltwirtschaftsprodukt im Jahr 2000 rund 30 Bil­lionen Dol­lar erreicht, dann wird die Infor­ma­tionstechnik zwar nur einen An­teil von drei Prozent haben, aber sie wird das Gesche­hen in allen an­deren Märkten bestimmen. Ihre Be­deu­tung wird die des Öls bei weitem übertreffen. Schon jetzt trägt in den USA die Informations­technik fast zwei Prozentpunkte des Wachs­tums. In zehn Jahren wird ohne die maschinelle Intelligenz über­haupt kein Wachstum mehr möglich sein. Sie wird immer mehr Teile der Wirtschaft an sich binden.

Es wird dann höchste Zeit, dass die Bio-Computer als Retter aus der Atom-Falle auf den Markt kommen - mit immensen Konsquenzen: »Bio wird durchstarten mitten hinein in eine bittere Kon­tro­verse um Mo­ral und Politik«, sieht der  Science-Fic­tion-Autor  Bru­ce Sterling  das Entstehen einer »Wissens-Revolution«, die 30 Jah­re dauern wird. »Das wird eine wilde Entwicklung sein, die viel­leicht das Heraufdämmern einer Epoche bedeutet, in der Leute nicht mehr einfach nur menschlich sein werden.«[8] Wie aber werden diese »Leute« aussehen? Die eigent­lichen Probleme liegen nicht in der Technik, son­dern in der Seele der Maschine. Die neuen Herausforderungen haben zu tun mit so menschlichen Ei­gen­schaf­­­ten wie Humor oder Anschaulichkeit. Marvin Minsky, der Groß­­vater der künstlichen Intelligenz, hatte be­reits 1985 fest­gestellt, dass hier mindestens 50 größere Problemblöcke zu lösen sein.[9] Doch für Marwick ist dies gar kein Thema, weil seiner Meinung nach die Maschinen solche Eigenschaften ebenso wenig benö­ti­gen wie den äu­ßerst schwierig umzusetzenden auf­rechten Gang. Es genügt das Gehirn auf Rädern ‑ und schon sind die Maschinen so mobil, dass sie ihr bisheriges Gefäng­nis, die Werkhallen der In­du­strie, verlassen und in den Dienst­lei­stungssektor eindringen können.

Zwischen Leben & Tod. Die Japan Industrial Ro­bot Association (JIRA) strich bereits das Industrial aus ihrem Namen.[10] Auf der Insel, wo im Jahr 2005 mit rund 1,2 Millionen dreimal mehr Ro­boter im Einsatz sein werden als 1993, be­trei­ben bereits die eisernen Gesellen »Dienst am Menschen«.

- Seit Anfang der neunziger Jahre werden in Japan sprach­ge­steuerte Patien­ten‑Ro­bo­ter für die Kran­ken­betreuung eingesetzt.[11]

- In Tokio wurde bereits der erste »Robo-Shop« eröffnet, der rund um die Uhr geöffnet ist. Hier kann man Artikel des täg­lichen Bedarf erwerben - bei Robotern.

- In der Aus­seg­nungshalle des Zentralfriedhofs von Yokohama haben 650.000 Mark teure Androiden, die täuschend echt dem Menschen nachgebildet wurden, Priester­funktionen übernommen. Sie sprechen dort seit 1994 Gebete, schlagen den Gong und singen Hymnen.[12]

- In den Su­shi‑Restaurants unterstützen sie die Köche bei ihrer Arbeit und produzieren dort Reisbällchen.[13]

- In San Francisco nahm zu Beginn der achtziger Jahre der erste Roboter einen Dienst als Barmixer an.[14]

- In England übernahmen Anfang der neunziger Jahre in dem Containerhafen Thamesport die Herrschaft über die Ver­la­de­kräne.[15]

- 1993 half ein Mini‑Roboter deutschen Archäologen dabei, im Zentrum der 4500 Jahre alten Cheops‑Pyramide einen neuen Gang zu entdecken.[16]

Am Fraunho­fer Institut in Stuttgart wurde 1995 bereits ein serienreifer Tank­­roboter vorgestellt. Spä­testens dann, wenn der schwierig zu handhabende flüssige Was­serstoff unser Benzin ersetzt, werden die elektronischen Tank­warte den Dienst an der Zapfsäule über­nehmen.[17]

- Überall in der Welt helfen sie der Pharma‑Branche in der For­schung, indem sie in Massentests, dem (Screening), neue Substanzen tau­sendmal schneller ent­decken als in den bisherigen Verfahren.[18]

- In den USA sprang am 7. November 1992 erstmals ein an der Universität von Kali­fornien entwickelter Android als Chirurg bei einer Hüftgelenk­opera­tion ein.[19] Knapp zwei Jahre später hatte der Robodoc in der Berufsgenossenschaftlichen Unfall­kli­nik in Frankfurt/Main seinen Ersteinsatz.[20] Klammheimlich wagen sie sich in immer mehr Bereiche vor ‑ zwischen Leben & Tod.

Auf solche Service‑Roboter war­tet ein riesiger Markt. Nach Schät­zungen des Fraunhofer Instituts für Produktionstechnik und Automatisierung (IPA) in Stuttgart könnten im Jahr 2010 für elektronische Dienstleister zwischen 17 und 45 Milliarden Mark weltweit ausgegeben werden.[21] Wieviel es tatsächlich werden, hängt von unserer Phantasie ab: die Zahl der Anwendungsfelder. Oder erzeugen zu diesem Zeitpunkt  die Roboter bereits ihre eigenen Vorstellungen?

»Mein Gefühl sagt mir, dass unser Intel­ligenz‑Level abhängig ist von der physischen Begrenzung unseres Kopfes«, meint Mar­wick. Dieses Problem haben Roboter nicht, deren Gehirn läßt sich beliebig groß gestalten. »In Zukunft gibt es keinen Grund, warum wir nicht Ma­schinen bauen können, die mil­liardenfach in­tel­li­genter sind als wir.« Und dann wird er nachdenklich. Denn die­se Superhirne könnten nicht mehr abgeschaltet werden ‑ so wenig wie heute das In­ternet. »Wenn wir Roboter in ihren Fähigkeiten nicht zügeln, droht uns eine größere Gefahr als durch die Gentechnik«: die Menschwerdung der Maschine.[22] Das ist eine Frage der Software: so gelang es zwar seit 1945 die Leistung der Computer um den Faktor eine Million zu steigern, aber die Programmier‑Produktivität stieg nur um das Zehn­fache. Bei dem Tempo schaffen wir es nie, eine Maschine zu bauen, die intelligenter ist als wir. Irgendwie müssen wir wohl selbst zu­erst intelligenter werden. Aber dazu müssten wir über unser Gehirn mehr wissen...

»Die einzige terra incognita, die der Mensch noch besitzt, sind die Galaxien des Gehirns.«

Peter Sloterdijk, deutscher Philosoph

Nachgebohrt. Derweil ist unser gutes, altes Gehirn dabei sich zu ent­­leiben. Es bricht auf in den Cyberspace ‑ das größte Abenteuer der Menschheit seit der Entdeckung des Menschen durch den Men­schen.

Das Gehirn war uns schon immer ein Rätsel. Vor 5000 Jah­­ren bohr­ten un­sere Vorfahren Löcher in die Köpfe von Men­schen, die diese pri­mi­tive Ope­ra­tion sogar überlebten. Was immer sie dort such­ten, ist uns nicht be­kannt. Wir haben nur die Schädelknochen ge­funden, aber leider nicht das Gehirn. Aber bohrende Fragen müssen es auf jeden Fall gewesen sein, die unsere Vorfahren geplagt haben. Heute ist unser Gehirn wohl kaum besser als im Al­ter­tum, wir wissen aber ver­mutlich sehr viel mehr ‑ über die grauen Zellen, von denen noch der grie­chi­sche Phi­losoph Ari­sto­teles im vierten Jahr­hundert vor Chri­stus meinte, dass sie allenfalls zur Kühlung un­seres Blutes taugten. Sein Vorfahr und Landsmann Hippokrates, der im sechsten Jahr­hundert lebte, war da schon ein Stückchen schlauer gewesen: er sah das Ge­hirn als das Zentrum un­se­rer Gedanken, Ge­füh­le und Sinne. Aber wie entsteht die­ses Zentrum?

Modell der Welt. Lange bevor ein Mensch geboren wird, beginnt be­reits sein Gehirn mächtig an zu arbeiten. Elektrische Impulse jagen durch die graue Masse, die sechs Wochen nach der Zeugung fast die Hälfte des Kör­perge­wichts eines Embryos ausmacht. Und diese Strom­schlä­ge sind nicht et­wa eine Fol­ge des Wachstums, dessen unver­meidliches Grund­rau­schen, son­dern sie be­stimmen die Struktur des Ge­hirns. Es fällt ‑ teilweise genetisch ge­steuert, teilweise spe­ku­lativ ‑ Ent­scheidungen über die Nutzung der grau­en Masse, modula­ri­siert und modelliert sie. Hören, Sehen, Fühlen, Riechen usw. Wenn das Baby dann auf die Welt kommt, ent­­hält sein Denkzentrum 100 Mil­liarden Neu­ronen. Das sind so viele Zel­len wie unsere Milchstraße Ster­ne hat.[23]

Schon der spa­nische Wissen­schaft­ler Santiago Ramon y Cajal sah hier Ende des vergan­ge­nen Jahrhun­derts einen Zu­sam­menhang: »Solange das Gehirn ein Ge­heimnis bleibt, so­lange bleibt auch das Universum ‑ das Abbild der Gehirn­struk­tur ‑ ein Ge­heimnis.«[24] Hun­dert Jahre später bezeichnet der Karls­ruher Philosoph Peter Sloterdijk das Gehirn als »die Milch­straße der Intelligenz«. Der in Tübingen lehrende Hirn­forscher und Kybernetiker Valentin Brai­ten­berg meint: »Man kann das Gehirn als ein Modell der Welt ver­stehen.«[25] Mit einem Modell der Welt kommt also der Mensch auf die Welt. Schon bei seiner Geburt verbirgt sich ein ganzer Cog­nos‑Kos­mos hin­ter der noch weichen Schädeldecke. Billionen von Verbindungen be­stehen be­reits zwischen den Nervenzellen seines Hirns. Immer mehr kommen nun hinzu. Die Galaxie wächst.[26] In seinen ersten Lebens­jah­ren stellt ein Kind rund 100 Bil­lionen an Konnektionen zwischen den Gehirnzellen her, weitaus mehr als es ei­gentlich sinnvoll nut­zen kann. Es entwirft und verwirft quasi immer mehr Kos­mologien, bis es im Alter von etwa zehn Jahren seine eige­ne, in der Welt ein­zig­ar­tige Grundstruktur herausge­bildet hat ‑ sein ur­ei­ge­nes Uni­ver­sum, das zugleich eingebunden ist in eine weitaus größere, äußere Welt.[27] Es zieht immer mehr Wissen & Erfahrun­gen in sich ein und projiziert zugleich seine Vorstellungen & Ideen in die rea­le Welt. Es hat da­bei keine Chance, diese Realität in ihrem ganzen Umfang zu er­fas­sen. Dieser Mangel an Wissen zwingt ihn dazu, permanent neue Ideen und Annahmen zu kreieren. Er kommuniziert, probiert, falsi­fi­ziert. Was er sich nicht erklären kann, worauf er keine Antworten be­kommt, das respektiert er zumindest, kultiviert es sogar ‑ zum Bei­spiel in Form von Re­ligionen. So ist der Vergleich des Gehirns mit dem Uni­ver­sum keineswegs abwegig ‑ und erst recht nicht mit dem Cyber­space, wo sich all das in der Schwerelosigkeit der Informations­ströme ebenfalls abspielt. Ein solches Gegenstück zu seinem Gehirn hat der Mensch bislang nie besessen. Vor allem scheint das In­ternet von seiner inneren Struktur mit seinen Millionen & Milliar­den von Hyperlinks dem menschlichen Gehirn zu ent­sprechen. »Unser bewusstes Denken ‑ so wie wir es niederschreibend fest­­halten ‑ scheint völlig linear gerichtet zu sein. Aber die wirk­liche Suche in unserem Ge­dächtnis und der Gedankenprozess da­hin­ter vollziehen sich simultan auf sehr vielen Kanälen«, meinte Stanislaw Ulam, Mathematiker und Professor an der Uni­ver­sität von Colorado, der in den dreißiger Jahren mit dem Super­hirn John von Neumann eng zusammenarbeitete.[28]

Ziemlich Cool. Warum aber muss jeder Mensch mit einer ganzen Milch­straße im Kopf her­um­laufen? Eine überraschende Antwort darauf fand 1986 der polnische Anthropologe Konrad Fialkowsky bei den Vor­men­schen, die schon mehr Gehirn besaßen, als sie eigentlich benö­tig­ten. »Mit ih­ren überdimensionalen Hirnen schützten sich die frühen afrika­ni­schen Jäger, während sie ausdauernd unter der hei­ßen Sa­van­nensonne ihrer Beute hinterher rannten, vor dem Hitzschlag. Ihre extrem wär­me­empfindlichen Steuerzentralen konnten dank üppiger Re­ser­ve­kapazität Teilausfälle gut verkraften. Erst sehr viel später ent­deckten die Menschen, dass ihre vermehrte Hirnmasse auch zum Er­fas­sen abstrakter und komplizierter Gedanken fähig war.«[29] Das Gehirn schützte also die Menschen vor einer un­wirt­­lichen Wirklichkeit ‑ durch eine überquellende Redundanz. Lag also Aristoteles doch in gewisser Weise richtig, als er das Gehirn nur als eine Kühl­an­lage verstand? Und ist nicht auch die Geschichte der Computer, der Elektronenhirne, geprägt von dem Wunsch nach Aus­fall­si­cher­heit?

Schon das Superhirn Johann von Neumann, der 1944 das Archi­tek­tur‑Modell aller Computer formulierte, hatte in seinem Auf­satz »Wahr­scheinlichkeitslogik und die Konstruktion zuverlässig ar­beitender Organismen aus unzuverlässigen Einzelteilen« postu­liert: »Das Ge­samtsystem ist so zu organisieren, dass es auch dann noch funk­tio­niert, wenn mehrere Einzelteile versagen.« Seitdem wurden ganze Computer­gene­rationen nach diesem einfachen Prinzip gebaut. Sie wur­den immer reichhaltiger ‑ immer komple­xer. Doch die Krö­nung er­reichte dieser Gedankengang mit der Errichtung des Inter­nets. Als es vor dreißig Jahren konzipiert wurde, war die grund­le­gende For­derung, ein vernetztes System zu schaffen, das in sei­nen Teilen zwar zerstörbar war, aber als Ganzes auch einen Atom­krieg über­ste­hen sollte.

Und jetzt stellen wir fest, dass dieses Netz mehr bietet als nur Sicherheit ‑ wir erfinden in ihm die gesamte Welt neu. Mögen die Roboter ruhig so intelligent werden wie wir. Im Internet ‑ so heißt ein alter Joke ‑ ist es egal, ob Du ein Hund bist oder nicht. Noch etwas: wenn Roboter Roboter programmie­ren können, warum nicht auch Menschen? Ein Computer kann das nämlich schon längst..

»Hunger ist Lust. Hunger ist Lust. Hunger ist Lust«, flackerte der Bildschirm jeden Tag für insgesamt fünf Minuten. Als kaum wahr­nehmbare Botschaft für Sekundenbruchteile eingeblendet, pro­grammierte der Computer seinen Benutzer. Und tatsächlich ‑ nach vier Tagen ver­lor der Amerikaner Michael Anderson den Appetit. Eine Woche später hatte er zehn Pfund abgenommen. Das war 1984. Doch diese Form der automatisierten Suggestion hatte zu diesem Zeit­punkt bereits eine lange Vorgeschichte. 1956 hatte ein Kino in New Jersey erstmal eine sublimanale Botschaft in die Filmvor­füh­rung eingeschleust: »Hunger? Iß Popkorn!« Bald darauf wurde die­ser geheime Verführer verboten, um dreißig Jahre später im Computer wieder aufzuleben.[30] Sind sie nun wieder verschwunden? Manchmal hat der Autor dieser Zeilen das Gefühl, dass sein Computer diese sub­limanale Technik schon lange gegen ihn anwendet: »Ich will ans Netz. Ich will ans Netz. Ich will ans Netz.« (Wahrscheinlich genü­ge ich ihm nicht mehr, ich habe deshalb beschlossen, mir einen neuen Computer zu kaufen. Das Problem ist nur: wahrscheinlich wurde er von Robotern gebaut...)

 

Quellen

---

[1] Kevin Marwick, 1997: »March of the Ma­­chines: Why the New Race of Robots will Rule the world, Century«

[2] Die Welt, 11.4.1987, Dieter Thierbach: »Auch Computer lernen den­ken«

[3] Fi­nancial Times, 11.3.1997, Andrew Baxter: »Minds of the fu­tu­re«

[4] Fortune, 17.5.1982, Tom Alexander: »Teaching computers the art of rea­son«

[5] Hans Moravec, Hamburg 1990: »Mind Children ‑ Der Wett­be­werb zwi­schen mensch­li­cher und künst­li­cher Intelligenz«

[6] Financial Times, 3.10.1997, Louise Kehoe: »A block on the old chip«

[7] Time Special Issue, The new age of discovery, Winter 1997/98: »The Third Wave«

[8] Newsweek, 23.3.1998, Jason Forsysthe: »E.Business Ahead«

[9] For­tune, 10.6.1985: »The brains behind artificial intel­li­gen­ce«

[10] Die Zeit, 1.12.1995, Gero von Randow: »Der Butler mit den vielen Bytes«

[11] Die Welt, 3.2.1992, Ulrich Blu­men­schein:»`Ich will die Suppe essen!'«

[12] Die Welt, 7.8.1994: »Roboter spricht Gebete und schlägt den Gong«

[13] Financial Times, 3.10.1995, BethanHutton: »Break with tradition«

[14] The Economist, 24.3.1984: »It's harder to find a job than to do it«

[15] Financial Times, 20.2.1992, Paul Taylor: »Robots set sail for Thamesport«

[16] Die Welt, 17.4.1993: »Ein Pfad für die Seele«

[17] Frankfurter Allgemeine Zeitung, 19.9.1995, Bernd‑Wilfried Kiessler: »Der Tankroboter wartet unter der Erde«

[18] Nikkei Weekly, 13.11.1995: »Screening robot boosts chances of finding viable drugs«

[19] Newsweek, 23.11.1992: »Introducing 'Robodoc'«

[20] Die Welt, 31.8.1994: »Erste Hüftoperation per Roboter«

[21] Frankfurter Allgemeine Zeitung, 29.5.1995: »Sie arbeiten, wo es gefährlich und schmutzig ist«

[22] Die Computer Zeitung, 21.9.1995: »Gefahr von Maschinen?«

[23] Time, 10.2.1997, J. Ma­de­leine Nash: »Fertile minds«

[24] Financial Ti­mes, 2.3.1997, Andrew Der­ring­ton: »The unsolved case of the old grey mat­ter«

[25] Zeitmagazin, 22.6.1990, Peter Haffner: »Ge­hirnge­spinste«

[26] The Econo­mist, 24.2.1996: »Thoughts prints in the sand«

[27] Newsweek, 19.2.1996, Sharon Begley: »Your child's brain«

[28] Stanislaw M. Ulam, Boston 1986: »Science, Computers, and People ‑ From the Tree of Mathematics«

[29] Die Zeit, 31.10.1996, Peter Roese: »Phänomen des Super‑Hirns«

[30] Wall Street Journal, 6.12.1984, Michael W. Miller: »The latest frontier of the programmers is all in your mind«