Bibliothek

DER UNTERLEGENE MENSCH | Buch 2018 | keine Kritik

Das Buch Der unterlegene Mensch (2018) über »die Zukunft der Menschheit im Angesicht von Algorithmen, künstlicher Intelligenz und Robotern« von Armin Grunwald habe ich nicht gelesen. Ich werde es wohl auch nicht tun. Ein Interview in der ZEIT hat mich erstmals mit dem Werk und seinem Autor bekannt gemacht – ohne mein Interesse an der Lektüre zu wecken. Im Gegenteil, binnen einer halben Zeitungsseite verspürte ich eine leicht empörte Ablehnung. Darauf möchte ich im Folgenden kurz eingehen.

Der überlegende Mensch

Armin Grunwald (geboren 1960 in Soest) ist ein deutscher Philosoph, Physiker und Technikfolgenabschätzer. Letzteres wird in Wikipedia zum gleichnamigen Forschungsgebiet verlinkt, das gerade so alt ist, wie Armin Grunwald selbst. Es geht dabei um die Beobachtung und Bewertung von Technik-Trends mit ihren Chancen und Risiken. In Deutschland wurde 1995 als inzwischen traditionsreichste Einrichtung auf dem Gebiet das Institut für Technikfolgenabschätzung gegründet, das heute von Armin Grunwald geleitet wird. Kurzum: Es ist ein Mann vom Fach, der da im ZEIT-Interview über die »digitale Herausforderung« befragt wird, anlässlich seines Buchs Der unterlegene Mensch.

Schauspieler Manuel Bors posiert für das Titelbild zum Blogbeitrag über »Der unterlegene Mensch«
Fotoquelle: Bilder vom Bleiben

Zum Titel von Der unterlegene Mensch

Zunächst, warum suggeriert der Buchtitel Der unterlegene Mensch eigentlich, dass wir Menschen im »Angesicht von Algorithmen« und Co. schon den Kürzeren gezogen haben? Diese Frage stellt ZEIT-Journalist Dietmar H. Lamparter – und der Autor erklärt:

Das Buch heißt so, weil es die Menschen bei ihren Stimmungslagen, ihren Ängsten abholen soll. Aber es endet mit dem Kapitel »Der überlegene Mensch«.

Armin Grunwald

Im Internet nennt man sowas »Clickbaiting«. Und »bei Ängsten abholen« scheint mir nicht fern von »Ängste triggern« – das, was AfD, leitende Brexiteers und Trumpeten dieser Tage zur Tugend erklärt haben. Doch solch niederen Motive möchte ich hier gar nicht unterstellen. Habe schließlich keine Ahnung, welche Laune oder Verlagsentscheidung in letzter Instanz den Titel gesetzt hat. Der unterlegene Mensch, das gefällt mir sogar. Es spricht mich an. Hätte bloß gehofft, dass es weniger um unsere Ängste als um unsere Hybris geht… aber hey, apropos Hybris: Kommen wir direkt zur letzten Frage jenes Interviews und der Antwort, an der sich mein Gemüt so erhitzt hat, dass ich jetzt hier sitze und »keine Kritik« schreibe (die Zahlen in Grunwalds Antwort sind von mir, um besser darauf Bezug nehmen zu können).

3 Kritikpunkte zum Überlegenheitsgedanken

ZEIT: Was kann denn der Mensch noch besser als die Algorithmen?

Grunwald: (1) Wir können uns Zukünfte ausdenken, die allen bisherigen Erfahrungen widersprechen. Auf solche Ideen kommt ein Algorithmus einfach nicht, auch wenn er dank Big Data in Sekundenschnelle Millionen Operationen durchführen kann. (2) Denn letztlich stammen alle Daten, die er analysiert, aus der Vergangenheit. Menschen können aus einer Routine ausbrechen. (3) Ein Beispiel: Wenn ein Botenroboter eine kollabierte Person auf dem Weg wahrnimmt, fährt er vorsichtig darum herum, ein menschlicher Postbote würde aber zu helfen versuchen und den Notarzt rufen.

Aus: »Wir können die Dinge in der Hand behalten« (DIE ZEIT Nr. 3/2019, 10. Januar 2019)

Wider den Erwartungen

Zu (1): »Allen bisherigen Erfahrungen widersprechen« vor allem die Zukünfte, die wir uns nicht ausdenken, sondern plötzlich erleben. Oder umgekehrt formuliert: Mit den Zukünften, die wir als wahrscheinlich prognostizieren, landen wir Menschen oft massiv daneben. Wer hätte denn – außer Michael Moore vielleicht – nach Obama ernsthaft mit Trump gerechnet? Uns daraus eine Überlegenheit zu stricken, da wir wider unserer Erfahrungen mutmaßen könnten, klingt ein wenig nach sturem Kind: Es hat noch keine Ahnung, wie das mit dem richtigen Kochen so funktioniert, aber es darf ruhig in Plastiktöpfen daneben herum panschen.

Natürlich ist Fantasie eine bemerkenswerte Fähigkeit, gerade bei Kindern und nicht nur bei Menschen. Die Affen in Wolfgang Köhlers Forschungsstation auf Teneriffa kamen auf die Idee, entgegen »allen bisherigen Erfahrungen« Werkzeuge zusammenzusetzen, um sich ihrer Zukunft (meist einer leckeren Frucht) anzunähern (hier ein Video dazu). Jetzt könnte man argumentieren, dass die Affen dazu ja auf herumliegende, gegebene Elemente zurückgegriffen haben, während der Autor von Der unterlegene Mensch hier von eben nicht gegebenen, sondern neu erdachten Elementen spricht. Doch da möchte ich Zweifel anmelden, die im nächsten Punkt zu erläutern sind.

Gefangen in Routinen

Zu (2): Grunwald sagt, letztlich stammten alle Daten, die ein Algorithmus analysiert, aus der Vergangenheit. Das trifft, denke ich, auch auf den Menschen zu. Ideen mögen sich auf die Zukunft beziehen, aber Daten stammen erstmal aus der Vergangenheit. Auf welchen verschlungenen Wegen eine Idee letztlich auf welchen Datensatz – also welchen Gedächtnisinhalt – zurückzuführen ist, das ist eine der vielen zu erforschenden Fragen der Psychologie (Stichwort: Priming). Jedenfalls falls ist »Menschen können aus einer Routine ausbrechen« dahingehend eine etwas anmaßende Behauptung, da wir die komplexesten Routinen im Wesen eines Individuums nicht wirklich überschauen können.

Möchte sagen: Selbst ein Lewis Carroll, der Alice im Wunderland auf »allen bisherigen Erfahrungen widersprechen[de]« Abenteuer schickt, greift auf dabei Daten aus der Vergangenheit zurück. Er kennt das Tier Katze und die Mimik Grinsen und macht daraus die Grinsekatze. Fantasievoll, aber auch assoziativ. Das ein künstliches neuronales Netz so etwas vermag, veranschaulicht etwa die Software DeepDream von Google. In diesem Musikvideo von Foster The People bekommt man einen vagen Eindruck von den verstörenden Bilderwelten, die diese Software hervorbringt:

Die Software wurde 2015 veröffentlicht, dieses Musikvideo im Jahr 2017. In diesem Beispiel sind es visuelle Fragmente, die künstliche Intelligenz (KI) da neu zusammensetzt. Doch warum sollte ihr das, sobald KI menschliche Sprachen beherrscht, nicht auch mit Wörtern und Sätzen gelingen? Eines Tages werden uns Roboter fantastische Science-Fiction-Geschichte erzählen können, die nichts mehr mit wahrscheinlichen Prognosen zu tun haben. Das mag eine Zukunft entgegen »allen bisherigen Erfahrungen« sein, die ich mir da ob meiner Menschlichkeit ausdenken kann. Doch es fühlt sich nicht wie ein besonders origineller Gedanke an. Eher sogar sehr wahrscheinlich.

Werte als Wegweiser

Zu (3): Mit einem Beispiel für die menschliche Überlegenheit schließt das Interview zu Der unterlegene Mensch von Armin Grunwald ab. Zur Erinnerung: Ein Botenroboter würde eine kollabierte Person einfach liegen lassen, während ein Mensch den Notarzt riefe. Nun, Grunwald ist der Experte, der sich seit Jahren mit solchen Themen beschäftigt. Ich bin nur ein Laie, der gerne Westworld schaut und Harari liest. Mag sein, dass im Folgenden meine Fantasie mit mir durchgeht.

Aber wäre es nicht möglich, einem Botenroboter den Wert einer Person mit auf den Weg zu geben? So viel Multitasking müsste drin sein. Eine einfache Wenn/Dann-Formel, die eine Priorität zwischen Paket und Person definiert: Wenn Menschenleben in Gefahr, dann erstmal Notarzt rufen. Genau darum geht’s doch beim autonomen Fahren. Was ist denn ein selbstfahrendes Auto anderes, als ein Botenroboter, der etwas von A nach B bringt? Es wird leidenschaftlich darüber diskutiert, ob dieses Auto im Falle eines unausweichlichen Unfalls in das Rentner-Ehepaar oder die Pfadfinder-Gruppe fahren sollte – wobei ausgerechnet der Vorschlag eines Zufallsgenerators dem Menschen noch am nächsten kommt (eher ein Armutszeugnis für den Menschen, als die Maschine).

Als schlechtes Vorbild voran

Jedenfalls erscheint es mir als eine vergleichsweise relativ einfache Sache, einem Botenroboter einen entsprechenden Algorithmus einzuschreiben: Wenn er an einer kollabierten Person vorbeikommt und diese als sogar solche wahrnimmt (wie Grunwald es formuliert, obwohl in diesem ersten Schritt doch wohl die größere, wenn auch nicht unmögliche Fertigkeit liegt), dann in einem zweiten Schritt diese kollabierte Person auch als zu melden. Wenn, dann – und zwar in jedem Fall. Ob ein menschlicher Postbote hingegen wirklich den Notarzt ruft, da wäre ich mir nicht so sicher. Das gilt offenbar auch für andere Zweifler*innen, sonst gäbe es keinen § 323c bezüglich Unterlassener Hilfeleistung. Denn Menschen können sehr unmenschlich sein.

Widerspruch ist ein Grundmoment des menschlichen Daseins. Der Mensch besitzt kein »Wesen« – kein einfaches, in sich geschlossenes Sein. Sein Platz ist zwischen diesen beiden einander entgegengesetzten Polen.

Ernst Cassirer, in: Versuch über den Menschen, s. 301

Der unterlegene Mensch und das Tier

Ethik dreht sich um »Werte«. Irgendwie schön, dass man mit diesem Begriff im Deutschen zum Einen soziale Normen bezeichnet, zum Anderen auch mathematische Funktionen, wie sie Algorithmen zugrunde liegen. Ein moralisch gefestigter Mensch ist jemand, der eine auf Werten basierende Grundhaltung hat, die diesen Menschen im Alltag wie in Ausnahmefällen schnelle, klare Antworten gibt: Was soll ich tun, angesichts der gegebenen Situation? Lasst uns doch nicht so anmaßend sein, diese Fähigkeit als Zeichen menschlicher Überlegenheit zu sehen. Menschen haben Moralvorstellungen und die Idee von Ethik, aber wenn es um die Umsetzung geht, werden Maschinen ein Leichtes haben, im Handeln nach moralischen Maßstäben wesentlich fitter zu sein, als der unterlegene Mensch.

Lesetipp: Hier geht’s zu einem Blogbeitrag über den Unterschied zwischen Ethik und Moral.

Ja, aber was wenn Maschinen plötzlich eigene Moralvorstellungen bilden? Könnte das nicht ganz böse ausgehen, für den Menschen? Nun, gemeinschaftliches Moraldenken bündelt sich in Religionen. Die Religion, der eine hoch entwickelte, künstliche Intelligenz (der bescheidenen menschlichen Logik nach) am ehesten anhängen würde, wäre wohl der Dataismus. Also die Vorstellung, dass alles Leben auf Algorithmen beruht. Demnach würde sich künstliche Intelligenz als Zweig eines Baumes mit Wurzeln in der Ursuppe ansehen – in einem Verhältnis zum Menschen stehend, wie der Mensch sich zum Affen betrachtet. Überlegen, aber verwandt.

Allen Grund zur Sorge also, sind wir Menschen doch ein denkbar schlechtes Vorbild darin, wie mit verwandten Lebensformen umzugehen ist. Fragt eine Kuh die andere: Warum nennen Menschen manche Tiere »Nutztiere«? Damit sie sich besser fühlen, wenn sie uns quälen. (Diesen Spruch hat Sonia letztens beim theAngelcy-Konzert auf einen Comic-Sticker im Artheater gefunden.) Wovor der unterlegene Mensch wirklich Angst hat, wenn er die Macht der Maschinen verteufelt, das sind ihre menschlichen Seiten. Aber das ist ein anderes Thema.

Fazit zum Gedankengang

Viele machen sich ihre Gedanken zur Zukunft und einige werden am Ende recht behalten. Wer genau, dass wissen Laien genauso wenig wie Expert*innen. Bloß das Letztere den Deutschen Bundestag beraten (so auch der Autor von Der unterlegene Mensch).

Bleibt zu hoffen, dass es genug dieser Fachleute sind, die unseren Regierenden die komplexe Zukunft zu prognostizieren versuchen. Zuweilen scheitern unsere gewählten Zukunftsgestalter*innen ja schon hart an der Gegenwart, wie es vor kurzem US-Kongress-Mitglied Bill Pascrell sehr eindrucksvoll beschrieb, unter der Titelfrage: Why is Congress so dumb? Anlass waren die hochnotpeinlichen Anhörungen, denen sich die Silicon-Valley-Elite vor dem amerikanischen Kongress stellen durften.

Einer meiner Kollegen fragte Google-Chef Sundar Pichai nach der Funktionsweise eines iPhones – dem konkurrierenden Apple-Produkt. […] Ein anderer Kollege war erstaunt zu erfahren, dass Facebook mit Werbung Geld verdient.

Bill Pascrell, in: Why is Congress so dumb? (The Washington Post)

Als Grund für die törichten Fragen verwies Pascrell darauf, dass der Expertenstab des Kongresses in den vergangenen Jahren massiv verkleinert wurde – also die Zahl der Menschen, die Recherchen betreiben und Wissen verfügbar machen. Wichtige Arbeit ist das, denen gar nicht genug Leute nachkommen können. Da ich Der unterlegene Mensch vorerst nicht lesen werde, darf ich mir kein Urteil darüber erlauben, ob dieses Buch zur Verfügbarkeit des Wissens beiträgt oder bloß kurzsichtige Gedanken tradiert.

Fußnoten

  1. Cassirer, Ernst: Versuch über den Menschen. Einführung in eine Philosophie der Kultur. Hamburg 2007. ISBN: 978-3-7873-1829-2

Autor

David Johann Lensing, geboren in Bocholt (1989), gelernt in Köln (Medienkaufmann), gearbeitet als Videoproduktioner, Kameramann und Redakteur. Seit jeher begeisterter Schreiber, Filmer, Fotograf – und als solcher habe ich mich schließlich selbständig gemacht. Außerdem blogge, lese, zeichne ich gern und studiere an der FernUni Hagen: Philosophie, Geschichte, Literaturwissenschaft.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.