Die Macht der Maschinenmoral

Und willst du nicht moralisch sein, stelle ich einen Algorithmus ein.

 

Algorithmen sind es, die das Internet, die sozialen Medien, aber auch das autonome Fahren oder die Aktienbörsen dieser Welt überhaupt erst ermöglichen. Algorithmen steuern die kleinen und grossen Computer, die uns alle überall und jeden Tag umgeben. Am Anfang ihrer Nutzung ging es ums Rechnen und die Verarbeitung grosser Datenmengen, bspw. in Flugbuchungssystemen oder Versicherungen; dann wurden industrielle Prozesse von Algorithmen übernommen. Später wurden sie genutzt, um die Verwaltung zu automatisieren. Schliesslich, im Jahr 1997, geschah etwas, was nicht nur das junge Internet revolutionierte, sondern seitdem tief in alle menschlichen Lebensbereiche eingreift: Die Internetsuchmaschine Google ging in Betrieb. Suchmaschinen eröffnen ihren Nutzern die gigantischen Datenmengen des Internets, doch die Algorithmen, die die Reihenfolge der Einträge in der Fundliste bestimmen, engen unsere eigenen Bewertungsmöglichkeiten ein. Algorithmen steuern damit unsere Aufmerksamkeit; das geschieht bei Google und anderen Suchmaschinen, bei Amazon und vergleichbaren Onlinehändlern, bei der Online­werbung oder auf Facebook mit seiner Timeline: Algorithmen bestimmen, welche Informationen wir wahrnehmen und welche nicht – das ist es letztlich, was mit dem Wort Filterblase zum Ausdruck gebracht werden soll.

«Wer heute «white couples» bei Google eingibt,

bekommt Pärchen mit gemischter Hautfarbe gezeigt.

Der Algorithmus mag es nun überkorrekt.»

Manipulationspotenzial in der Anwendung

Schon in dieser Anwendung von Algorithmen steckt ein erhebliches Manipulationspotenzial: Gesetzliche Vorgaben erzwingen die Filterung der Suchlisten, damit bestimmte Inhalte des Internets darin nicht gelistet werden. Das kann die Filterung rassistischer oder antisemitischer Inhalte betreffen, aber auch die Unterdrückung missliebiger politischer Botschaften. Das ökonomische Interesse von Unternehmen wie Google liefert gleichfalls Anreize zur Manipulation, um beispielsweise firmeneigene Angebote höher zu platzieren und damit die Aufmerksamkeit der Nutzer darauf zu lenken. Eine dritte Manipulationsart geht hingegen von den Nutzern selbst aus: Sogenannte «Google Bombs» waren in der Vergangenheit ein probates Wahlkampfmittel bei den Präsidentschaftswahlen in den USA. Es ist möglich, die Funktionsweise von Algorithmen zum eigenen Vorteil auszunutzen, was Suchmaschinenbetreiber wiederum zwingt, ihre Algorithmen ständig zu verändern. Hier findet ein Wettrüsten statt, das letztlich dazu führt, dass die Trefferlisten der Suchmaschinen nicht die Realität des Internets abbilden, sondern ein durch vielfältige Interessen bestimmtes Zerrbild liefern. Suchmaschinen, ebenso wie Social-Media-Plattformen, haben sich in kürzester Zeit zu den Gatekeepern des Internets entwickelt und dort die Rolle der klassischen Massenmedien eingenommen.

Vor einigen Jahren präsentierte die Bildsuchmaschine Google Photos bei Eingabe des Suchwortes «Gorilla» Bilder von Menschen mit schwarzer Hautfarbe; um diesem algorithmischen Rassismus entgegenzutreten, musste Google seine Algorithmen gezielt zurechtbiegen, um Unrecht zu vermeiden. Schon dieses Beispiel zeigt, dass Algorithmen trotz ihrer Leistungsfähigkeit weder allmächtig noch unfehlbar sind. Sie ermöglichen Manipulationen und sie sind manipulierbar. Wer heute «white couples» bei Google eingibt, bekommt Pärchen mit gemischter Hautfarbe gezeigt. Der Algorithmus mag es nun überkorrekt. Doch trotz ihrer immensen Bedeutung für die Funktionsweise unserer Gesellschaften schienen Algorithmen immer noch weit entfernt zu sein von dem, was uns als Menschen vermeintlich auszeichnet: die Fähigkeit des moralischen Urteilens und Handelns. Diese Domäne, so dachten und hofften viele Menschen lange, bliebe uns vorbehalten. Doch es gibt eine kontrovers geführte wissenschaftliche Debatte, ob man Moral auf Algorithmen abbilden könne und so die Computer, die diese Algorithmen ausführten, selbst moralisch urteilten und handelten. Für die breitere Öffentlichkeit sichtbar wurde dies am Beispiel des autonomen Fahrens, wo Algorithmen in Notfallsituationen über Leben und Tod entscheiden sollen.

Von Maschinen gefällte Urteile

Nicht nur meiner Ansicht nach ist die Vorstellung jedoch Unsinn, dass hier Maschinen moralisch urteilen in dem Sinne, wie Menschen moralisch urteilen; man könnte also meinen, dass alle, die ähnlich denken, weiterhin hoffen dürfen, dass es eine Domäne gibt, in die Algorithmen keinen Einzug halten werden. So zu denken wäre jedoch fatal. Denn selbst wenn Algorithmen nicht selbst moralisch urteilen,…

«Der beste Journalismus ist der,
den man liest, obwohl einen das Thema bis dahin gar nicht interessiert hat.
Beim MONAT passiert mir das ständig.»
Niko Stoifberg, Schriftsteller und Redaktor bei «getAbstract», über den «Schweizer Monat»