Die Macht der Maschinenmoral

Algorithmen sind es, die das Internet, die sozialen Medien, aber auch das autonome Fahren oder die Aktienbörsen dieser Welt überhaupt erst ermöglichen. Algorithmen steuern die kleinen und grossen Computer, die uns alle überall und jeden Tag umgeben. Am Anfang ihrer Nutzung ging es ums Rechnen und die Verarbeitung grosser Datenmengen, bspw. in Flugbuchungssystemen oder Versicherungen; dann wurden industrielle Prozesse von Algorithmen übernommen. Später wurden sie genutzt, um die Verwaltung zu automatisieren. Schliesslich, im Jahr 1997, geschah etwas, was nicht nur das junge Internet revolutionierte, sondern seitdem tief in alle menschlichen Lebensbereiche eingreift: Die Internetsuchmaschine Google ging in Betrieb. Suchmaschinen eröffnen ihren Nutzern die gigantischen Datenmengen des Internets, doch die Algorithmen, die die Reihenfolge der Einträge in der Fundliste bestimmen, engen unsere eigenen Bewertungsmöglichkeiten ein. Algorithmen steuern damit unsere Aufmerksamkeit; das geschieht bei Google und anderen Suchmaschinen, bei Amazon und vergleichbaren Onlinehändlern, bei der Online­werbung oder auf Facebook mit seiner Timeline: Algorithmen bestimmen, welche Informationen wir wahrnehmen und welche nicht – das ist es letztlich, was mit dem Wort Filterblase zum Ausdruck gebracht werden soll.

«Wer heute «white couples» bei Google eingibt,

bekommt Pärchen mit gemischter Hautfarbe gezeigt.

Der Algorithmus mag es nun überkorrekt.»

Manipulationspotenzial in der Anwendung

Schon in dieser Anwendung von Algorithmen steckt ein erhebliches Manipulationspotenzial: Gesetzliche Vorgaben erzwingen die Filterung der Suchlisten, damit bestimmte Inhalte des Internets darin nicht gelistet werden. Das kann die Filterung rassistischer oder antisemitischer Inhalte betreffen, aber auch die Unterdrückung missliebiger politischer Botschaften. Das ökonomische Interesse von Unternehmen wie Google liefert gleichfalls Anreize zur Manipulation, um beispielsweise firmeneigene Angebote höher zu platzieren und damit die Aufmerksamkeit der Nutzer darauf zu lenken. Eine dritte Manipulationsart geht hingegen von den Nutzern selbst aus: Sogenannte «Google Bombs» waren in der Vergangenheit ein probates Wahlkampfmittel bei den Präsidentschaftswahlen in den USA. Es ist möglich, die Funktionsweise von Algorithmen zum eigenen Vorteil auszunutzen, was Suchmaschinenbetreiber wiederum zwingt, ihre Algorithmen ständig zu verändern. Hier findet ein Wettrüsten statt, das letztlich dazu führt, dass die Trefferlisten der Suchmaschinen nicht die Realität des Internets abbilden, sondern ein durch vielfältige Interessen bestimmtes Zerrbild liefern. Suchmaschinen, ebenso wie Social-Media-Plattformen, haben sich in kürzester Zeit zu den Gatekeepern des Internets entwickelt und dort die Rolle der klassischen Massenmedien eingenommen.

Vor einigen Jahren präsentierte die Bildsuchmaschine Google Photos bei Eingabe des Suchwortes «Gorilla» Bilder von Menschen mit schwarzer Hautfarbe; um diesem algorithmischen Rassismus entgegenzutreten, musste Google seine Algorithmen gezielt zurechtbiegen, um Unrecht zu vermeiden. Schon dieses Beispiel zeigt, dass Algorithmen trotz ihrer Leistungsfähigkeit weder allmächtig noch unfehlbar sind. Sie ermöglichen Manipulationen und sie sind manipulierbar. Wer heute «white couples» bei Google eingibt, bekommt Pärchen mit gemischter Hautfarbe gezeigt. Der Algorithmus mag es nun überkorrekt. Doch trotz ihrer immensen Bedeutung für die Funktionsweise unserer Gesellschaften schienen Algorithmen immer noch weit entfernt zu sein von dem, was uns als Menschen vermeintlich auszeichnet: die Fähigkeit des moralischen Urteilens und Handelns. Diese Domäne, so dachten und hofften viele Menschen lange, bliebe uns vorbehalten. Doch es gibt eine kontrovers geführte wissenschaftliche Debatte, ob man Moral auf Algorithmen abbilden könne und so die Computer, die diese Algorithmen ausführten, selbst moralisch urteilten und handelten. Für die breitere Öffentlichkeit sichtbar wurde dies am Beispiel des autonomen Fahrens, wo Algorithmen in Notfallsituationen über Leben und Tod entscheiden sollen.

Von Maschinen gefällte Urteile

Nicht nur meiner Ansicht nach ist die Vorstellung jedoch Unsinn, dass hier Maschinen moralisch urteilen in dem Sinne, wie Menschen moralisch urteilen; man könnte also meinen, dass alle, die ähnlich denken, weiterhin hoffen dürfen, dass es eine Domäne gibt, in die Algorithmen keinen Einzug halten werden. So zu denken wäre jedoch fatal. Denn selbst wenn Algorithmen nicht selbst moralisch urteilen, können sie die moralischen (und natürlich auch die juristischen) Urteile ihrer Schöpfer effektiv und effizient ausführen. Sie sind dabei schnell, nimmermüde und unbestechlich. Tatsächlich erlauben Algorithmen überhaupt erst eine flächendeckende und allumfassende (moralische) Bewertung aller Menschen in allen Lebenslagen. Dafür muss allerdings eine Voraussetzung erfüllt sein: Möglichst jeder Lebensvollzug wird digital dokumentiert. Wie das geht, demonstriert China: Dort ist Barzahlung fast unmöglich geworden, so dass jede monetäre Transaktion eine Datenspur hinterlässt; der öffentliche Raum wird – zumindest in den Städten – beinahe flächendeckend mit Kameras überwacht; jede Wortmeldung im chinesischen Internet (das weitgehend abgekoppelt ist vom Rest der Welt) wird registriert. Wer etwas sagt, tut oder kauft, was nicht den moralischen und/oder rechtlichen Vorstellungen der Obrigkeit entspricht, bekommt im Social-Scoring-System Chinas Minuspunkte. Personen, die davon zu viele auf dem Konto haben, können keine Flugreise mehr buchen, bekommen keine Wohnung oder können ihre Kinder nicht auf angesehene Schulen schicken. Hier werden Algorithmen genutzt, um umfassend in das Leben eines jeden Menschen einzugreifen und um diesen mit mehr oder minder sanfter Gewalt in die richtige Richtung zu lenken. Moralisches Verhalten wird dort algorithmisch erzwungen.

Es ist jedoch wohlfeil, mit dem Finger auf die üblichen Verdächtigen zu zeigen. Arroganz sollten wir uns im Westen tunlichst verkneifen. Denn das, was in China und anderswo von der Obrigkeit erzwungen wird, schaffen wir freiwillig und meistens aus Bequemlichkeit. Es ist schliesslich einfacher, per Smartphone zu bezahlen und uns gleichzeitig von den Kaufempfehlungen des jeweiligen Bezahldienstes leiten zu lassen; der «Wahl-o-Mat» sagt uns, welche Partei am besten zu uns passt, und nimmt uns ganz nebenbei das Selberdenken ab; unseren Kleidungsstil lassen wir uns durch einen Internetanbieter vorgeben, denn einen eigenen Geschmack zu entwickeln ist schliesslich anstrengend und auch riskant, die Gefahr, nicht im Trend zu liegen, viel zu gross. Unsere tägliche Internetnutzung hinterlässt, in diesem Fall freiwillig, unermessliche Datenspuren, die Unternehmen dazu nutzen können, einen digitalen Zwilling von uns zu kreieren; damit wird es möglich, unser Verhalten vorherzusagen und zuweilen auch zu manipulieren. Schon vor einigen Jahren konnten Forscher zeigen, dass sich allein mit der Auswertung der bei Facebook platzierten Likes persönliche Eigenschaften wie die sexuelle Orientierung, Hautfarbe oder politische Präferenzen recht akkurat erkennen lassen. Von hier ist es zum Versuch der gezielten Verhaltenssteuerung nicht mehr weit.

«Algorithmen mögen moralisch neutral sein,

ihre Verwendung ist es definitiv nicht.»

Willkürliche Regeln ohne öffentliche Kontrolle

Hierbei geht es primär nicht um politischen Machterhalt, sondern ums Geschäft: Algorithmen ermöglichen profitable neue Geschäftsmodelle, aber schliessen gleichzeitig Wahlmöglichkeiten für die Konsumenten aus oder versuchen sogar, deren Verhalten gezielt in eine bestimmte Richtung zu lenken. Damit das Geschäft weltweit funktioniert, werden Inhalte des Internets gefiltert – wohlgemerkt, von Unternehmen auf Basis von Regeln, die diese willkürlich und ohne öffentliche Kontrolle festlegen –, um mit möglichst vielen Moralvorstellungen kompatibel zu sein. Dann verschwinden eben auch einmal Bilder von Brustwarzen auf In­stagram – aber nur die von Frauen.

Angesichts der Manipulationsmöglichkeiten, die Algorithmen bieten, könnte man seufzen: «Oh schöne neue Welt…», jedoch in der Variante Huxleys, nicht Shakespeares. Den Algorithmen ist es egal, in welchem politischen System und zu welchen Zwecken sie verwendet werden; Algorithmen mögen moralisch neutral sein, ihre Verwendung ist es definitiv nicht. Daher mag es bei den algorithmisch gestützten Geschäftsmodellen primär nicht um Macht gehen, sondern um Geld. Doch folgt man Max Weber, dann implizieren die beschriebenen Manipulationsmöglichkeiten sehr wohl Machtausübung, deren Legitimität in vielen Fällen durchaus in Frage gestellt werden kann.

Man kann die genannten Beispiele moralisch unterschiedlich bewerten und manche der beschriebenen Phänomene sogar gutheissen, weil man beispielsweise Bilder weiblicher Brustwarzen für moralisch anstössig hält. Manche neigen dazu, bestimmte Formen der (algorithmischen) Manipulation als Nudging zu bezeichnen – Algorithmen stupsen uns in die richtige Richtung, ob nun bei Ernährung, Fitness oder anderen moralisch hochgradig aufgeladenen Verhaltensweisen. Doch Nudging bleibt Manipulation, wenn auch in einem liberalen Gewand. Da kaum jemand von uns weiss, wie Algorithmen funktionieren und wessen (moralische) Urteile und Werthaltungen in deren Gestaltung einfliessen, sollten wir daher ins Grübeln kommen. Denn darüber entscheiden allzu häufig nicht demokratisch gewählte Personen oder Parlamente, weder im Westen noch in China oder anderswo. Schliesslich zeigen zahlreiche Untersuchungen, dass Suchmaschinen und die von ihnen produzierten Fundlisten, aber auch Social-Media-Plattformen gezielt zur Wahlmanipulation eingesetzt werden können – das greift das Herzstück einer jeden Demokratie an. Algorithmen stellen mächtige Werkzeuge dar, mit denen unzweifelhaft Gutes erreicht werden kann – beispielsweise Leben in der Coronakrise schützen oder die Verbreitung von Rassismus und Antisemitismus verhindern. Sie können jedoch ebenso genutzt werden, um Freiheiten einzuschränken.