Dürfen Maschinen
über Menschen entscheiden?

Eine rechtliche Auslegeordnung im Lichte neuer Technologien.

In der öffentlichen Diskussion um die Grenzen des Einsatzes von selbstlernenden Maschinen und künstlicher Intelligenz (KI) steht oft die Frage nach der Verantwortung oder der Haftung im Vordergrund, namentlich wenn es um populäre Beispiele von Unfällen mit Robotern oder selbstfahrenden Autos geht. Dabei wird vergessen: Die Haftungsproblematik als Folge einer Schadensverursachung stellt sich eigentlich erst ganz am Ende der Kausalkette. Es wäre stattdessen angezeigt, die Debatte zu den rechtlichen Leitplanken algorithmischer Entscheidungen mit der Frage zu beginnen, wo und wie das Rechtssystem die Entscheidungen und Handlungen definiert. Denn: Dank neuer Technologien ist es möglich geworden, immer mehr – früher von Menschen getroffene – Entscheidungen an Maschinen zu delegieren. Und die Dynamik dieser Technologien, einschliesslich der Tatsache, dass ihre Entscheidungsgeschwindigkeit zunimmt und auch die Entscheidungsqualität (d.h. die Effizienz bei der Entscheidungsfindung) bei Maschinen oft höher ist als bei Menschen, kann in Konflikt geraten mit dem eher statischen Recht, das zuvorderst eine stabile und Verlässlichkeit bringende Ordnung verwirklichen will.

Diese Entwicklung stellt die Menschheit vor Fragen, die sie in ihrer bisherigen Geschichte nicht beantworten musste und die nun plötzlich sehr aktuell werden. Etwa: Sind automatisierte Entscheidungen anders geartet als menschliche Entscheidungen? Und wenn ja, wie reflektiert das Recht diesen Umstand? Haben die Maschinen schon heute ein Recht, Entscheidungen zu fällen – oder sollen sie ein solches erhalten? Und wenn ja: In welchen Lebensbereichen könnte dies der Fall sein? Um diese Fragen zu beantworten, erscheint es als sinnvoll, ein wenig auszuholen.

Recht als Rahmenordnung für Technologien

Klar ist: Das Recht setzt die Leitplanken für das menschliche Verhalten und die gesellschaftliche Organisation. Mit seinen Anordnungen kann das Recht etwas erlauben oder aber verbieten, ausserdem Bedingungen für die Ausübung von Tätigkeiten vorschreiben. Wie sieht das im Hinblick auf Maschinen konkret aus?

Einen klaren Verbots-Weg hat die nach dem Zweiten Weltkrieg unter dem Eindruck der Industrialisierung geschriebene Verfassung der Freien Hansestadt Bremen gewählt, die festlegt: «Der Mensch steht höher als Technik und Maschine (…).»1 Wörtlich genommen würde diese Vorschrift die Übertragung von Entscheidungen auf Maschinen also schlicht ausschliessen. Diese Vorschrift dürfte weltweit einzigartig sein und ist (soweit ersichtlich) in der Rechtsprechung auch noch nie zur Anwendung gekommen. Zahlreicher als die ausdrücklichen Verbote sind im aktuellen Recht aber die impliziten Förderungen neuer Technologien: So verpflichtet etwa die Behindertenrechtskonvention der Vereinten Nationen (UNO) die Staaten zur Unterstützung der Forschung und Entwicklung neuer Technologien, die behinderten Menschen eine geeignete Hilfe sein könnten.2 Trifft diese Vor-aussetzung z.B. für automatisierte, mit künstlicher Intelligenz betriebene Geräte zu, wäre deren Einsatz geboten. Ausserdem haben die Bürgerinnen und Bürger nach der Europäischen Grundrechtecharta ein Recht auf eine gute Verwaltung.3 Was harmlos klingt, bedeutet im Zeitalter von KI aber auch: Falls Algorithmen die…

«Die Zeitschrift für unabhängige
und selbstverantwortliche Individuen!»
Werner Kieser, Unternehmer,
über den «Schweizer Monat»