Für Risiken und
Nebenwirkungen fragen
Sie ChatGPT

Können wir Menschen noch Schritt halten mit den von uns geschaffenen Technologien, oder werden wir demnächst von einer allmächtigen künstlichen Intelligenz (KI) kontrolliert? Können wir KI und andere Technologien überhaupt sinnvoll regulieren? Und wie stellen wir sicher, dass wir durch Regulierungen nicht nötige Innovation verhindern? In diesen Fragen sieht Mustafa Suleyman «das grösste Dilemma des 21. Jahrhunderts», wie der Untertitel seines Buches «The Coming Wave» lautet.

Der Untertitel macht es deutlich: Hier wird mit der grossen Kelle angerührt. Der Autor sieht die Menschheit mittendrin in einer weiteren grossen Welle technologisch getriebener Veränderung. Seit es Menschen gibt, bedienen wir uns unseres Verstandes, um neue Technologien zu entwickeln, die wieder­um neue Risiken, aber auch Möglichkeiten mit sich bringen und all jenen Macht geben, welche die Technologien geschickt einzusetzen wissen. Diese Entwicklung kommt oft in Wellen, da verschiedene Faktoren zusammenspielen müssen, um neuen Technologien zum Durchbruch zu verhelfen. Und diese Durchbrüche rufen dann Gegenreaktionen hervor, sei es in Form von Aufständen, Revolutionen oder neuen ­Regulierungen.

Eine explosive Kombination

Die kommende Welle aus KI und synthetischer Biologie stellt uns vor das grosse Dilemma: Einerseits sind wir angesichts komplexer Herausforderungen wie des Klimawandels dringend darauf angewiesen, neue Technologien und deren Potenzial zu nutzen. Andererseits können ebendiese Technologien – von KI zur Wahlmanipulation bis hin zu biologischen Technologien wie der DNA-Schere CRISPR – bereits heute grossen Schaden anrichten. Der Autor möchte dieses Dilemma auflösen, indem er die Notwendigkeit der Eindämmung – im Englischen «Containment» – betont. Diese Eindämmung ist notwendig, um die negativen Auswirkungen unserer Innovationskraft zu minimieren.

Die Problematik, Vor- und Nachteile von Innovation abzuwiegen, stellte sich schon früher. Was die kommende Welle von vergangenen unterscheidet, sind vier spezielle Eigenschaften der beiden Technologien KI und synthetische Biologie:

• Asymmetrischer Impact: Die neuen Technologien können sehr schnell das Machtgleichgewicht kippen. So haben kommerzielle Drohnen den eigentlich militärisch schlechter gerüsteten ukrainischen Truppen erlaubt, den russischen Paroli zu bieten.
• Hyperevolution: Beide Technologien setzen auf sehr viel Wiederholung mit kurzen Zyklen und entwickeln sich deshalb extrem schnell weiter. ChatGPT hat in einem Bruchteil der Zeit vergangener Start-ups enorme Nutzerzahlen erreicht und neue Versionen mit neuen Funktionen veröffentlicht, bevor politische Entscheidungsträger überhaupt das Konzept der zugrunde liegenden Large Language Models kannten.
• Omni-Use: Produkte werden zunehmend für alle möglichen Einsatzzwecke entwickelt, eine Unterscheidung in militärisch und zivil ist nicht mehr möglich. Eine Software, die heute durch einen Logistikkonzern genutzt wird, um das Weihnachtsgeschäft zu optimieren, kann morgen einer Armee bei der Sicherstellung des Nachschubs dienen.
• Autonomie: Neue Technologien haben einen höheren Autonomiegrad als früher, was die Frage aufwirft, inwiefern die Menschen noch Kontrolle ausüben können. Verfügt ein Luftabwehrsystem zum Beispiel über KI zur Identifikation und Priorisierung der zu bekämpfenden Ziele, könnte auch die Entscheidung zur Feuerauslösung autonom durch ein solches System getroffen werden. Wie bleibt hier das menschliche Element im Entscheidungsprozess erhalten?

Die Konsequenz aus diesen Beobachtungen ist für Mustafa Suleyman klar und drastisch: Die erfolgreiche Eindämmung der beiden Technologien ist die zentrale Herausforderung für das Überleben der Menschheit.

Handelt es sich hier also um ein weiteres Weltuntergangsbuch? Will uns der Autor Angst machen? Bedeutet Eindämmung einfach neue Verbote und Gesetze? Es ist Mustafa Suleyman ernst, sehr ernst sogar, doch er ist kein Reiter der Apokalypse. Im Gegenteil: Sein Buch ist wohltuend differenziert und leistet einen wertvollen Beitrag zur oft hysterischen Debatte um Innovationen und deren gesellschaftliche Auswirkungen.

Vielen Leuten kann es heute nicht schnell genug gehen mit neuen Regulierungen und staatlichen Eingriffen, und Innovation – gerade im Bereich der KI – wird immer mehr sehr kritisch gesehen. Von ehemaligen Tech-Angestellten, die zu Recht auf Missstände und problematische Geschäftsmodelle sowie Bias und Diskriminierung in algorithmischen Systemen hinweisen, über Kritiker des KI-Hypes, die das Gerede von einer allumfassenden künstlichen Intelligenz hinterfragen – eine Kritik, die auch Suleyman teilt –, bis hin zu Neo-Ludditen, bei denen sich eine konsequente Abkehr von der digitalen Gesellschaft mit teils krudem Antikapitalismus verbindet, fehlt es heute nicht an lauten Stimmen, die Innovationen gerne bis ins kleinste Detail durchreguliert oder gleich ganz verboten hätten. Am anderen Ende des Spek­trums ordnen sich ebenso laute und undifferenzierte Stimmen ein, denen es unter dem Stichwort «Akzelerationismus» nicht schnell genug gehen kann, neue Technologien zu entwickeln und zu verbreiten. Für diese Gruppe – eine bunte Mischung aus Risikokapitalgebern und Fanboys von KI-Start-ups – sind selbst kleinste und berechtigtste Zweifel an Neuerungen kontraproduktiv für den Fortschritt und Regulierungen künstlicher Intelligenz ein Verbrechen gegenüber künftigen Generationen.

«Vielen Leuten kann es heute nicht schnell genug gehen mit

neuen Regulierungen und staatlichen Eingriffen, und Innovation – gerade im Bereich der KI – wird immer mehr sehr kritisch gesehen.»

Von zwei Seiten angegriffen

Suleyman, der selbst auf eine spannende und interdisziplinäre Karriere insbesondere als Mitgründer der KI-Firma DeepMind zurückblickt, ordnet sich in diesem Spektrum eher in der Mitte ein. Dafür wird er, wenig verwunderlich, von beiden Seiten angegriffen.

Suleyman ist klar ein Verfechter des Potenzials neuer Technologien, aber er ist eben auch nicht blind gegenüber den Risiken. Er sieht in Regulierung einen ersten nötigen Schritt, aber ist auch realistisch genug, um die Grenzen und vor allem Risiken staatlicher Eingriffe in Innovationsprozesse anzuerkennen. Er zeigt auf, wie insbesondere die liberalen Demokratien durch die Innovationen im Bereich der KI und synthetischer Biologie vor schwierige Herausforderungen gestellt werden und der Verlockung widerstehen müssen, die Technologien wie autoritäre Systeme zur Überwachung, Kontrolle und dem Machterhalt zu missbrauchen.

Der grosse Wert des leicht lesbaren und gut strukturierten Buches liegt darin, dass Suleyman die richtigen Fragen stellt und einordnet: Was sind die wirklich wichtigen Entwicklungen? Wie unterscheiden sie sich von vergangenen Innovationen? Warum müssen wir aktiv werden und wie könnten wir das tun? Dass sich dabei oft Widersprüche ergeben, ist kein Fehler, sondern eine Stärke des Buchs. Man merkt dem Autor seine interdisziplinäre Karriere an: Politikwissenschaftliche Konzepte finden ebenso Verwendung wie Erkenntnisse aus der Ökonomie, gepaart mit einem starken technologischen Wissen, aber eben auch mit gesellschaftlichem Verständnis. Suleyman gelingt das, wo andere zu kurz greifen: eine gesamtheitliche Betrachtung, welche das Dilemma der Innovation – wir brauchen die Technologien, obwohl sie uns auch ins Verderben stürzen können – in seiner ganzen Komplexität aufzeigt.

Man kann dem Buch vorwerfen, allzu breit zu denken und viele Fragen nur anzuschneiden, doch ich sehe gerade darin die grosse Qualität. Statt einfache Antworten zu geben, stellt der Autor schwierige Fragen, die zum Nachdenken animieren. Er zeigt eindrücklich auf, weshalb die Regulierung von Innovation nicht mehr länger ignoriert werden kann, ist aber auch pragmatisch genug, um nicht einfach nach Verboten zu rufen. Stattdessen zeigt er auf, welch mühsamen und langwierigen, aber unumgänglichen Weg wir gehen müssen – den Weg der Eindämmung: von der Bildung von Entscheidungsträgern hin zu international koordinierter Governance, von der individuellen Verantwortung von Entwicklern hin zu technischen und rechtlichen Massnahmen, um die Sicherheit und Transparenz neuer Technologien zu erhöhen. Das Buch ist Pflichtlektüre für Regulierer und Politiker. Es bleibt zu hoffen, dass seine differenzierte Analyse von vielen Entscheidungsträgern gelesen und verstanden wird. Denn – das macht Suleymans Buch auch klar – das grösste Dilemma des 21. Jahrhunderts werden wir nur zusammen lösen können.