An die Grenzen

Was, wenn intelligente Maschinen über Menschen entscheiden?

Wir haben uns wohl zu wenig Gedanken gemacht: Allerorten wird automatisiert und digitalisiert, was das Zeug hält. Tech-Gurus versprechen auf ihren «Conventions» das Heil in Form neuer Gadgets, predigen die Zukunft der glatten Oberflächen und autonomen Rechnerentscheidungen. Und die Kunden? Wir? Haben uns daran gewöhnt, keine allzu brisanten Fragen zu den neu entstehenden Machtverhältnissen, zu den Bedingungen der Produktion, zu unserer Privatsphäre oder zu den Folgen der zunehmenden Transzendenz durch Technik zu stellen.

Verdrängt wird allerorten, dass die Zukunftsängste in den Industriegesellschaften längst schneller wachsen als die Produktivität. Und bei diesen Ängsten geht es längst nicht mehr nur um Jobs, sondern zunehmend um befürchtete Souveränitäts- und tatsächliche Kontrollverluste. Denn der grösste Sprung des digitalen Zeitalters, das sich aktuell noch in der Pubertät befindet, steht uns noch bevor: Wenn immer mehr Entscheidungen in unserer zunehmend digitalen Welt unabhängig von menschlichen (also analogen) Werten getroffen werden können (und also getroffen werden), wie «wertvoll» sind dann am Ende wir Menschen noch? Machen KI uns als Entscheidungsträger überflüssig, weil sie in absehbarer Zeit besser informiert und damit höher qualifiziert sind? Und wenn ja: Was spricht eigentlich dagegen?

Gerade Fortschrittsoptimisten wie wir, so haben wir gelernt, tun gut daran, sich früh und eingehend mit den ethisch-moralischen Grenzen der Automatisierbarkeit durch KI auseinanderzusetzen: Wo hört Effizienzsteigerung auf – und beginnt die Erosion der Menschlichkeit? Welche Ängste sind berechtigt, bei welchen handelt es sich um populäre Schauermärchen? Steigt der Wert von Empathie, Zuneigung und Bildung in einer Welt, in der Maschinen das alles besser – oder immerhin: besser simulieren – können? Und: Hätten wir uns diese Fragen nicht in aller Nüchternheit, ohne den sonst so überbordenden Alarmismus, früher stellen müssen?

Antworten – mal düster, mal optimistisch, mal urkomisch – geben einige der spannendsten Forscherinnen und Forscher der Gegenwart in diesem Dossier. Grandios bebildert wird das Dossier durch die mailändische Illustratorin Sofia Paravicini.

Wir wünschen anregende Lektüre!
Die Redaktion

«Die Zeitschrift für unabhängige
und selbstverantwortliche Individuen!»
Werner Kieser, Unternehmer,
über den «Schweizer Monat»