Die Maschine kann nichts dafür
Oliver Bendel, zvg.

Die Maschine kann nichts dafür

Wenn wir die Vorteile autonomer Systeme nutzen wollen, müssen wir die Verantwortung klar zuordnen.

 

Verantwortung im ethischen Sinne bedeutet, dass man seine Pflichten erfüllt sowie die Folgen seines Tuns bedenkt und auf sich nimmt. Sie ist mit Bewusstsein, Einsichtsfähigkeit und freiem Willen verbunden. Man zeigt und trägt Verantwortung, und man wird zur Verantwortung gezogen, wobei man dann vom Moralischen ins Rechtliche geraten kann. Mündige Personen vermögen Verantwortung zu tragen, Kinder, geistig kranke oder demente Personen eingeschränkt oder gar nicht. Auch Tiere nehmen, selbst wenn sie soziale Wesen sind, sich um den Nachwuchs kümmern oder sich für ihre Herde aufopfern, kaum Verantwortung auf sich.

Autonome Maschinen sind Systeme, die grössere Spielräume als Automaten haben. Nachdem sie zum Beispiel ihre Umwelt mit Hilfe von Kameras und Sensoren beobachtet haben, wählen sie unter verschiedenen Optionen, die sie mit Hilfe von Aktoren umsetzen. Serviceroboter können autonome Maschinen sein, wie etwa Transport-, Sicherheits- und Reinigungsroboter. In Kalifornien sind mir die ferngesteuerten Transportroboter des Food-Delivery-Diensts Coco begegnet. Sie sind nicht autonom, höchstens teilautonom in manchen Augenblicken. Soziale Roboter, die für den Umgang mit Menschen und Tieren gedacht sind, können wiederum autonome Maschinen sein, so wie Chatbots und Sprachassistenten, mit denen man sich in natürlicher Sprache unterhalten kann, oder andere Systeme der Künstlichen Intelligenz (KI). Sensoren und Aktoren sind hier bloss im übertragenen Sinne vorhanden.

Kein freier Wille

Der Begriff der Autonomie sollte im technischen Kontext nicht missverstanden werden. Die Maschinen geben sich nicht selbst ein Gesetz, haben kein Bewusstsein, keine Einsichtsfähigkeit und keinen freien Willen. Sie fallen diesbezüglich sogar weit hinter die Tiere zurück. Die technischen Wissenschaften adaptieren und modifizieren häufig Begriffe aus den Geistes- und Sozialwissenschaften. Mit einer Ontologie möchte man keine Lehre vom Sein aufstellen. Man spricht von sozialen Robotern, ohne dass diese die gleichen sozialen Merkmale wie Lebewesen hätten, und von moralischen Maschinen, ohne dass diese mit Bewusstsein, Einsichtsfähigkeit und freiem Willen ausgestattet wären. Denn solche Maschinen gibt es nicht.

Wenn Verantwortung im definierten Sinne verstanden wird, können Maschinen keine Verantwortung tragen – nicht einmal autonome Maschinen, die sozusagen die technische Krone der menschlichen Schöpfung sind. Autonome Systeme können insbesondere nicht die Folgen ihres Tuns auf sich nehmen. Dies hängt damit zusammen, dass sie eben kein Bewusstsein, keine Einsichtsfähigkeit und keinen freien Willen haben. Übrigens können sie genauso wenig – anders als Tiere – moralische Rechte haben, wobei hier vor allem mit Empfindungs- und Leidensfähigkeit argumentiert wird.

Ein Vorteil von autonomen Maschinen ist, dass man sie ohne ständige Aufsicht und ohne wiederholte Eingriffe betreiben kann. In geschlossenen Umgebungen wie in einem Gebäude ist das oft unproblematisch, in halboffenen oder offenen Umgebungen wie der Innenstadt oder dem Strassenverkehr dagegen nicht. Dies ist der Grund, warum Coco in Santa Monica und an anderen Orten auf ferngesteuerte Modelle setzt. Autonome Transportroboter sind noch nicht so weit, dass sie stundenlang über die Gehwege und eigenständig über sämtliche Übergänge rollen könnten.

Nehmen wir einmal an, es würden sich eines Tages doch autonome Varianten etablieren. Die Transportroboter müssten also nicht mehr von Billigkräften von zu Hause aus gelenkt werden, sondern kämen mehr oder weniger alleine zurecht. Es würden sich wahrscheinlich irgendwann Unfälle ereignen. Wer trägt dafür die Verantwortung, und wer kann zur Verantwortung gezogen werden? Die Transportroboter nicht. Vielmehr die, die sie anfertigen und einsetzen. Es gibt die Unternehmensleiter, die Führungskräfte, die Entwickler, die Programmierer, ausserdem Zulieferer von Komponenten. Es gibt die Vermittler, die Betreiber, die Anwender. So könnte man fortfahren. Auch die Verwaltung von Santa Monica und der Gesetzgeber von Kalifornien sind im Spiel.

Verantwortung verpufft

Wir sind wohlgemerkt im moralischen Raum, nicht im rechtlichen. Rechtlich kann man verschiedene Lösungen konstruieren, eine Alleinhaftung, eine Risikoverteilung. Sogar eine elektronische Person wäre denkbar, ähnlich der juristischen. Im moralischen Raum ist es…

«In der Welt der Fake News
bietet der ‹Schweizer Monat›
Tiefe und Einordnung»
Felix Gutzwiller, Mediziner und Politiker,
über den «Schweizer Monat»