Mission Rückeroberung
James Bridle fotografiert von Mikael Lundblad / mikaelcreative.com

Mission Rückeroberung

Um weiter Herr über unsere Maschinen zu bleiben, müssen wir unsere Einstellung zu ihnen radikal ändern.

 

1997 fand ein bemerkenswerter Schachwettkampf statt: Die Kontrahenten waren Garry Kasparow, der wohl beste Schachspieler aller Zeiten, und Deep Blue, ein IBM-Computer, der nur zu dem Zweck geschaffen worden war, Kasparow zu schlagen. Kasparows Niederlage wurde als Anfang vom Ende der Vorherrschaft menschlicher Intelligenz gedeutet – als Bestätigung, dass die Maschinen sich anschickten, die Kontrolle zu übernehmen. Wir wissen aber, wie Deep Blue Kasparow besiegte: Er war eine überaus mächtige Maschine, konnte viele Züge vorausdenken, alle Ergebnisse in einem riesigen Verzeichnis speichern und sie nach Bedarf auslesen. Er war nicht schlauer als sein menschlicher Gegner, sondern besass eine grössere Rechenleistung.

Unbesiegbar

2016 gab es eine Neuauflage des Ringens Mensch gegen Maschine: einen Wettkampf zwischen Lee Sedol und AlphaGo. Gespielt wurde nicht Schach, sondern Go – ein Spiel, das eine andere Art Denken erfordert. In der dritten Partie spielte AlphaGo einen völlig überraschenden Zug. Der Zug schien verrückt, nicht einmal Sedol konnte die Logik dahinter erkennen, doch leitete dies schliesslich Sedols vernichtende Niederlage ein. Dieser Zug wird heute als einer der aussergewöhnlichsten der Go-Geschichte angesehen. Im November 2019 gab Lee Sedol das Ende seiner professionellen Karriere bekannt. Der Grund: Es gebe einen neuen Gegner, der «nicht besiegt werden kann».1

Der neue Champion heisst künstliche Intelligenz. AlphaGo funktioniert auf der Grundlage sogenannten maschinellen Lernens. Wir wissen nicht, warum die Maschine jenen Zug tat. Wir werden nie verstehen, wie AlphaGo zu dieser Entscheidung kam. Im Kontrast zum Wettkampf zwischen Deep Blue und Kasparow, wo die Prozesse des IBM-Computers Schritt für Schritt nachvollziehbar waren, verstehen wir die Entscheidungen von Maschinen der neuesten Generation nicht mehr. Das bringt uns in eine überaus befremdliche Lage: Nicht nur überholen uns die Maschinen in puncto Denken, sondern ihr Denken ist zudem derartig verschieden von unserem, dass wir nie imstande sein werden, ihren Denkprozessen zu folgen. Diese neue Art Intelligenz könnte ein «New Dark Age» einläuten, in dem wir noch weit machtloser sind.

Illustration von Daniel Garcia.

Der Weg zu mehr Verständnis

Was sollen diese Technologien für uns tun? Wie können wir sie verstehen und sie tatsächlich in unseren Dienst stellen, anstatt dass sie gegen uns verwendet werden? Diese Frage betrifft nicht nur Technologen, sondern uns alle. Es braucht dringend eine Demokratisierung jener Technologien. Sie müssen für den allgemeinen Zugriff geöffnet werden und ein weiteres gesellschaftliches Spektrum repräsentieren, statt von spezialisierten Experten gebaut zu werden. Die Öffentlichkeit muss zu einem Verständnis moderner Technologien gelangen. Das ist leichter gesagt als getan – aber notwendig, um die heutigen Machtverhältnisse zu durchschauen.

Fortgeschrittene und insbesondere netzwerkbasierte Technologien bringen ein seltsames Phänomen hervor: Es ist, als seien sie hinter Glas versiegelt. Wir haben keinen Zugang mehr zu ihnen. Wir leben in einer Welt, in der nur noch wenige zu verstehen scheinen, wie die Dinge in unserer Umgebung funktionieren. Die Frage etwa, wie unser Postsystem funktioniert, können die meisten Menschen einigermassen korrekt beantworten: Man schreibt einen Brief, steckt ihn in einen Umschlag, schreibt eine Adresse darauf, versieht ihn mit einer Briefmarke, wirft ihn in einen Briefkasten, woraufhin jemand kommt und den Brief dem Adressaten zustellt.

Wie aber funktionieren etwa E-Mails? Angesichts dieser Frage stellen wir plötzlich fest, dass wir über viele der Systeme, mit denen wir täglich zu tun haben, völlig im Dunkeln sind. Ist Zauberei im Spiel? Natürlich nicht. Sie sind voll und ganz erklärbar. Doch wenn wir ihre Funktionsweise nicht verstehen und nicht durchschauen, von wo die Macht ausgeht, haben wir keine Möglichkeit, auf sie einzuwirken. Wir sind ohne Handlungsoptionen und können die Systeme nicht lenken.

«Wir haben alle Autoritäten verloren, sind aber selbst unfähig,
kritische Urteile zu fällen.»

Wo wir sie jedoch zu verstehen beginnen, werden die Machtverhältnisse unglaublich klar und lesbar. Sie können kritisiert und mit neuen Mitteln beeinflusst werden. Das Internet liefert das perfekte Beispiel: Oft stellen wir es uns als eine Art fernen, magischen Ort vor, an dem all jene Dinge passieren, die dann zu uns heruntergebeamt werden. Doch viele Aspekte des Internets sind physisch: grosse Gebäude am Stadtrand voll summender Computer, die jede Menge Hitze erzeugen und jede Menge Strom verbrauchen. Oder unterseeische Kabel, die alles verbinden: Eine geografische Karte aller Glasfaserkabel zeigt, dass diese voll und ganz entlang der alten imperialen Routen verlaufen. Alle Leitungen von Afrika gehen noch immer zu den alten Kolonialmächten. Die von Südamerika gehen immer noch nach Spanien. Der Imperialismus hat nicht mit der Dekolonisation geendet, sondern wurde nur auf die Infrastrukturebene verschoben.

Das Streben nach totaler Kontrolle

Warum sind wir derart von neuen Technologien besessen, obwohl sie uns doch vor solche Probleme stellen? Der Glaube an moderne Technik ist tief im oft erfolglosen Streben nach einem umfassenden Weltverständnis verwurzelt. Das lässt sich am Beispiel des britischen Meteorologen Lewis Fry Richardson sehen, der nach dem Ersten Weltkrieg begann, mathematische Methoden in der Wettervorhersage anzuwenden. Als einer der ersten fasste Richardson die Natur als etwas auf, das in Daten verwandelt, berechnet und für Zukunftsprojektionen benutzt werden kann. Auf dieser Auffassung beruht in gewissem Sinne ein grosser Teil unseres heutigen Denkens. Den Glauben, dass die Welt vollständig verstanden werden kann, indem man aus Daten Modelle konstruiert, nenne ich «kalkulatorisches Denken».

Die Vorstellung, dass wir die Welt besser kontrollieren könnten, wenn wir sie nur besser verstünden, stammt aus der Aufklärung. Leider zeigt sich immer deutlicher, dass dem nicht so ist. Es ist ein zentrales Paradox unserer Zeit: Wir wissen mehr und mehr über die Welt, und doch scheint die Welt von Spaltung, Fundamentalismus, Konkurrenz und unglaublich destruktiven Meinungen geprägt. Wir können noch so viel Information über die Welt sammeln – sie läuft uns doch davon. Wir blicken in eine Zukunft, in der wir mehr Daten über die Welt haben denn je – und doch wissen wir immer weniger über sie. Das ist ein Wesensmerkmal des «New Dark Age», und es ist letztlich der Kern von Big Data: die Vorstellung, dass sich enorme Mengen Information zusammentragen lassen, dass daraus eine absolute Perspektive erwächst und ein quasi perfektes Modell der Welt. Anstatt die Welt zu betrachten, betrachtet man dieses Modell und leitet alles daraus ab. Tatsächlich aber zeigen die Erfahrungen, die wir in den letzten 100 Jahren mit solchen Berechnungen gesammelt haben, dass das Modell nie gut genug ist. Wenn wir es anstelle der wirklichen Welt benutzen, versagt es.

Wir brauchen ein neues Weltbild

Big Data ist immer unzureichend – und oft auch überwältigend: Wo uns mehr und mehr Information zugänglich ist, erscheint die Welt verwirrend. Wir retten uns in einfache Narrative, die in Missverständnisse oder gar Gewalt münden, da sie der Welt, wie sie ist, nicht gerecht werden. In einer Zeit ausserordentlicher Komplexität sind solche simplen Geschichten alles, wonach wir uns sehnen. Der Wunsch nach Einfachheit liegt auch hinter dem Aufkommen von Verschwörungstheorien, populistischer Politik und Fundamentalismus. Sie sind gewissermassen Symptome eines «New Dark Age», in dem wir beständig nach einfachen Antworten auf unglaublich komplexe globale Probleme verlangen.

Wir brauchen eine radikale Revision unseres Weltbildes. Wir müssen akzeptieren, dass wir die Welt nie ganz kontrollieren können. Wir haben das Vertrauen in traditionelle Autoritäten vollständig untergraben, ob in Politik oder Medien. Auch haben wir in den letzten 50 Jahren unser eigenes Verständnis der Welt untergraben, indem wir unsere Technologien und die uns umgebenden Systeme immer undurchsichtiger gemacht haben. Wir haben alle Autoritäten verloren, sind aber selbst unfähig, kritische Urteile zu fällen. Wir befinden uns an dem absolut entscheidenden Punkt, an dem wir die Werkzeuge, mit denen wir die Welt verstehen und über sie nachdenken, mit Hochgeschwindigkeit weiterentwickeln müssen – um zum einen jenen Mangel an Autoritäten und zum anderen den vollständigen Zusammenbruch unseres Weltverständnisses zu kompensieren.

«Der beste Journalismus ist der,
den man liest, obwohl einen das Thema bis dahin gar nicht interessiert hat.
Beim MONAT passiert mir das ständig.»
Niko Stoifberg, Schriftsteller und Redaktor bei «getAbstract», über den «Schweizer Monat»