«Heute ist jeder klüger als Aristoteles»

Read the English version here.

Sendhil Mullainathan, könnte eine künstliche Intelligenz eine bessere Einstiegsfrage für dieses Interview formulieren?

(Lacht) Ich unterscheide grundsätzlich zwischen zwei Arten von Aktivitäten. Bei der ersten generiert der Algorithmus, während der Mensch sichtet und auswählt. Selbst wenn der Algorithmus die Hälfte der Zeit keinen Mehrwert liefert, findet man dennoch etwas Nützliches. Viele Erfolge von Large Language Models wie ChatGPT basieren auf genau diesem Prinzip. Ein gutes Beispiel ist die Programmierung. Zwar lehnen Programmierer die meisten Codevorschläge des Algorithmus ab. Trotzdem schätzen sie diese Hilfe, weil ihnen jeder brauchbare Vorschlag zehn Minuten Arbeit erspart. In ähnlicher Weise könnte das Modell Ihnen Vorschläge für Fragen machen, von denen einige hilfreich sein könnten.

 

Was ist die zweite Art von Aktivität?

Die zweite Kategorie ist, wenn Menschen nicht nur Vorschläge vom Modell annehmen, sondern es die Dinge automatisch machen lassen. Das ist eine viel höhere Hürde. Um auf Ihr Beispiel zurückzukommen: Das Modell würde selbstständig entscheiden, welche Fragen zu stellen sind. Die Hälfte der Zeit würde es wohl Müll produzieren oder zumindest sehr banale Fragen generieren.

 

Sie haben Dandelion gegründet, ein Unternehmen, das das Gesundheitswesen mithilfe von KI verbessern will. Wo sehen Sie das Potenzial in diesem Bereich?

Ich glaube, dass KI transformativ sein wird. Die meisten KI-Start-ups im Gesundheitswesen fokussieren auf Automatisierung. Sie entwickeln beispielsweise Algorithmen, welche die Arbeit eines Radiologen übernehmen können. Das ist zwar wertvoll, aber der Nutzen bleibt begrenzt, da wir durch unser derzeitiges Verständnis eingeschränkt sind. Das Potenzial von KI im Gesundheitswesen ist jedoch unbegrenzt, wenn Algorithmen uns dabei helfen können, neue Entdeckungen zu machen und Krankheiten besser zu verstehen. Genau das versuchen wir mit unserem Unternehmen.

 

Wie?

Nehmen wir an, dass einige Menschen mit einem Tumor besonders gut auf eine Behandlung ansprechen, während andere nicht darauf reagieren. Ich habe keine Ahnung, warum, aber ein Algorithmus kann anhand von MRT-Bildern eine Vorhersage treffen. Selbst wenn der Algorithmus nur in 60 Prozent der Fälle zwischen den beiden Gruppen unterscheiden kann, ist das bereits ein grosser Fortschritt. Denn Menschen können hier nur raten. Solche Entdeckungsprobleme zu lösen wird die Zukunft des Gesundheitswesens sein.

 

Wie erfolgreich ist Ihr Unternehmen bis jetzt?

Als wir mit Forschungsprojekten begannen, stiessen wir schnell auf eine Herausforderung. Bei der Automatisierung radiologischer Befunde ist die Datenlage einfach: Hier ist das Röntgenbild, hier ist die Aussage des Radiologen. Will man etwas voraussagen, braucht man das Röntgenbild und muss den Patienten über die Zeit verfolgen können. An diese Daten zu kommen, erwies sich als äusserst schwierig. Deshalb haben wir begonnen, Partnerschaften mit verschiedenen Institutionen aufzubauen, um Zugriff auf ihre Daten zu erhalten. Wir sind überzeugt: Es wird viele Akteure geben, die KI im Gesundheitswesen einsetzen wollen – und sie alle werden eines brauchen: Daten.

 

Wie viel Prozent des Potenzials von KI nutzen wir derzeit?

Derzeit nutzen wir vermutlich nur 10 Prozent der verfügbaren technischen KI-Kapazität. Und diese Kapazität selbst macht wahrscheinlich nur 10 Prozent des vollen Potenzials aus. Wegen ChatGPT denken die Leute, dass der Entwicklungsteil abgeschlossen sei. Dabei stehen wir erst am Anfang – ähnlich wie beim Internet 1998, als die Leute sagten, die Internetblase sei vorbei. Tatsächlich aber hatten wir das Web 2.0 noch gar nicht.

 

Sie würden also sagen, dass KI den Höhepunkt des Hypezyklus überschritten hat.

Ja, wir stehen kurz vor dem Talboden, bevor es wieder aufwärtsgeht. Die Menschen sind so fixiert auf Automatisierung. Doch der wahre Vorteil von KI liegt in der Erweiterung menschlicher Fähigkeiten. Die grössten gesellschaftlichen Gewinne entstehen, wenn wir die Grenzen dessen erweitern, was wir tun können. Automatisierung macht lediglich bestehende Prozesse günstiger. Das ist zwar nützlich, aber wirklich transformativ ist die Erweiterung unserer Möglichkeiten. Darauf müssen wir uns konzentrieren.

«Die Menschen sind so fixiert auf Automatisierung. Doch der wahre

Vorteil von künstlicher Intelligenz liegt in der Erweiterung menschlicher Fähigkeiten.»

 

Könnte KI nicht auch die menschlichen Fähigkeiten verringern? Eine Analogie wäre die Verbreitung von Navigations-Apps wie Google Maps, die dazu geführt hat, dass sich mehr Menschen ohne sie verirren. Sehen Sie die Gefahr, dass Menschen durch KI dümmer werden?

Absolut, wir sehen es bereits. Denken Sie an all diese KI-generierten Artikel auf Online-Nachrichtenseiten. Sie produzieren minderwertige Inhalte; dadurch werden die Leser weniger aufmerksam, ihr Verständnis nimmt ab und folglich sinkt die Nachfrage nach qualitativ hochwertigen Artikeln. Wenn mich Menschen nach der Zukunft der KI fragen, sage ich: Es gibt nicht nur eine Zukunft – wir können sie aktiv gestalten. Als Gesellschaft treffen wir die Entscheidung: Nutzen wir diese Algorithmen so, dass sie uns schwächen, oder entwickeln wir sie so, dass sie uns klüger machen?

 

Wie zum Beispiel?

Nehmen Sie soziale Medien. Ihre aktuelle problematische Situation war keineswegs unvermeidbar. Als ich ein Kind war, war mein Vater in den USA, während wir in einem indischen Dorf ohne Telefon lebten. Er schickte uns Tonbandkassetten, damit wir seine Stimme hören konnten. Heute kann meine Mutter per Facetime mit meiner Grossmutter von Angesicht zu Angesicht sprechen. Das ist fantastisch! Doch zugleich sehen wir die Schattenseiten der sozialen Medien. Ein und dieselbe Technologie kann sich auf völlig unterschiedliche Arten entwickeln.

 

Was hat Sie Ihre Forschung zu KI über Intelligenz gelehrt?

Eine wichtige Erkenntnis ist, dass Menschen vorschnell bereit sind, Intelligenz zuzuschreiben. Wenn man ChatGPT benutzt, fällt es sehr schwer, nicht den Eindruck zu gewinnen, dass es intelligent sei. Sobald es etwas wahrnimmt, kommuniziert und Wörter verknüpft, denken wir: «Oh, dieses Ding muss intelligent sein.» Klar, ist es das. Aber es ist überhaupt nicht auf die Art intelligent, wie ein menschlicher Verstand intelligent ist.

 

Was meinen Sie damit?

Heute Morgen stellte ich ChatGPT dieses klassische Rätsel: Es gibt sechs Gläser. Gläser 1, 2 und 3 sind mit Wasser gefüllt. Gläser 4, 5 und 6 sind völlig leer. Wenn man nur ein Glas bewegen darf, wie würde man sicherstellen, dass sie abwechselnd voll und leer sind? ChatGPT nannte mir sofort die Lösung: Man nimmt Glas 2, giesst dessen Wasser in Glas 5 und stellt es zurück. Als ich die gleiche Frage jedoch mit Pudding statt Wasser stellte, verlor sich ChatGPT plötzlich in irgendwelchen Fantasien. (lacht) Hier liegt die schwierigste Herausforderung der Intelligenz.

 

Wie intelligent sind Sie?

Meine Sicht auf Intelligenz unterscheidet sich von jener der meisten Menschen. Intelligenz hat nichts mit der Hardware zu tun. Es geht um die Software, die wir im Laufe der Zeit in unseren Verstand laden. Heute, mit 52 Jahren, fühle ich mich deutlich intelligenter als mit 42 oder 32. Wie ein Schreiner, der seine Werkzeuge stetig verbessert, arbeite ich kontinuierlich daran, meine geistige Software zu erweitern und zu verfeinern. Für mich ist Intelligenz nichts Angeborenes, sondern etwas, das wir aktiv konstruieren.

«Heute, mit 52 Jahren, fühle ich mich deutlich intelligenter als mit 42 oder 32. Wie ein Schreiner, der seine Werkzeuge stetig verbessert, arbeite ich kontinuierlich daran, meine geistige Software zu erweitern und zu verfeinern.»

 

Sie meinen also, dass Menschen nicht von Geburt an intelligent oder dumm sind?

Die wahrscheinlich wichtigste Eigenschaft überhaupt ist die Fähigkeit, die eigenen Gedanken zu erkennen und bereit zu sein, sie zu verbessern – manche nennen das Metakognition. Viele Menschen, egal wie intelligent sie geboren wurden, werden dadurch in ihrer Entwicklung gehemmt, dass sie ihre eigenen Gedanken zu ernst nehmen. Wer begreift, dass die eigenen Gedanken formbar sind und stetig verbessert werden können, kann superintelligent werden. Wenn man es sich recht überlegt, ist heute praktisch jeder klüger als Aristoteles. Aristoteles hatte keinen Zugang zur Wahrscheinlichkeitstheorie, also konnte er nicht probabilistisch denken – die Wahrscheinlichkeitsrechnung wurde erst 1500 Jahre später erfunden. Ebenfalls hatte Aristoteles keinen Zugang zur wissenschaftlichen Methode.

 

Aber in Metakognition war er vermutlich ziemlich gut.

Das war er wahrscheinlich. Aber ihm fehlten einfach viele der Werkzeuge, die wir heute haben. Wir leben in einer Zeit, in der ich nur geboren werden muss, und die Gesellschaft vermittelt mir zwölf Jahre lang Werkzeuge, von denen Aristoteles nicht einmal träumen konnte. Er wusste nicht, was Chemie war. Denken Sie nur daran, wie viel chemisches Wissen ein Bäcker heute beim Backen anwendet. Sie könnten einen besseren Kuchen backen, als Aristoteles es je gekonnt hätte.

 

Wie kamen Sie dazu, Akademiker zu werden?

Ich bin ein intellektueller Tüftler. Ich habe eine grosse Neugier, aber es ist eine sehr ungeduldige Neugier. Ich geniesse das Lernen besonders dann, wenn ich experimentieren, Grenzen verschieben und ins Unbekannte vorstossen kann. Es macht mir Freude, etwas zunächst nicht zu verstehen und dann Schritt für Schritt die Verwirrung aufzulösen und irgendwohin kommen zu können. Genau das vermisse ich bei vielen meiner Studenten. Die Akademie ist zu professionalisiert geworden. Die Leute schreiben einfach nur Arbeiten. Man kann viele Papers verfassen und erfolgreich sein, ohne je ins Staunen zu kommen. Dabei kommen wir als Fachgebiet und als Gesellschaft nur dann voran, wenn Akademiker den Mut haben, verwirrt zu werden – auch auf die Gefahr hin, am Ende genauso verwirrt zu bleiben. Ich fühle mich in diesem Zustand der Verwirrung wohl.

 

Hat die Frustration mit der akademischen Welt Sie dazu bewogen, auch Projekte ausserhalb davon zu starten?

Die Akademie ist momentan nicht ausgewogen. Sie hat durchlässige Wände zur Welt. Sie sollte beeinflussen, wie Unternehmen geführt werden, aber sie sollte auch davon beeinflusst werden. Dann funktioniert sie am besten. Die Physik entwickelte sich, als Archimedes Katapulte baute und daraus das Hebelprinzip ableitete. Die Thermodynamik entstand aus dem Bau von Motoren. Fast alle Durchbrüche entstehen durch ein Wechselspiel mit der Natur. Heute ist die Akademie ein bisschen zu sehr nach innen gekehrt worden. Die Leute wollen, dass ihre Kollegen denken: «Oh, die sind sehr intelligent.» Doch nicht unsere Kollegen entscheiden über den Nutzen unserer Arbeit, sondern die Welt. In zu vielen Disziplinen haben wir uns damit abgefunden, uns gegenseitig zu bestätigen. Das ist teilweise der Grund, warum ich gerne mehr nach Erfahrungen ausserhalb der Akademie suche: um die Dinge zu verstehen.

 

Brauchen wir überhaupt noch prestigeträchtige Universitäten? Schliesslich könnte dieses Wissen mit KI, Fernarbeit und so weiter auf völlig andere Weise gesammelt und vermittelt werden.

Ich denke schon, dass wir Universitäten brauchen, wenn auch vielleicht nicht im heutigen Umfang. Als ich eine Festanstellung als Professor bekam, dachte ich lange darüber nach, warum. Es liegt nicht daran, dass ich hart arbeite. Ich arbeite nicht so hart wie meine Eltern. Meiner Ansicht nach ist eine Festanstellung kein Privileg, sondern eine Verantwortung.

 

Worin besteht diese Verantwortung?

Die Vereinbarung zwischen Akademikern und der Gesellschaft ist folgende: Die meisten Menschen beschäftigen sich mit dem Alltag im Hier und Jetzt, aber wir brauchen eine Gruppe von Menschen mit einem Zeithorizont von 100 Jahren. Diese Menschen dürfen nicht von kurzfristigen Anreizen getrieben sein. Man darf sich weder von der Meinung der Kollegen leiten lassen noch den sicheren Weg wählen. Wenn man sich die Geschichte der Menschheit ansieht, ist praktisch alles, was passiert ist, das Ergebnis von Forschung, die dann Veränderungen in der Welt bewirkte. Auf diese Forschung können wir nicht verzichten.