Die Digitalisierung pervertiert das menschliche Vertrauen
Die künstliche Intelligenz schadet unserer Psyche und zerstört das Fundament unserer Gesellschaft.
Read the English version here.
Was meinen wir eigentlich, wenn wir im Zeitalter generativer KI und umfassender Automatisierung von «Vertrauen» sprechen? Allgemein bedeutet Vertrauen, sich auf den Charakter, die Kompetenz oder die Integrität einer Person oder einer Sache zu verlassen. Im Alltag richtet es sich meist auf ein Gegenüber – auf Menschen, Institutionen oder zunehmend auch auf Technologien. Psychologisch gilt Vertrauen als Schlüsselfaktor für stabile, erfüllte Beziehungen. Wenn wir also von Vertrauen sprechen, sprechen wir letztlich von unserer Fähigkeit, Rahmenbedingungen zu schaffen, unter denen tragfähige menschliche Beziehungen und verlässliche Wissensökosysteme entstehen können. Doch was geschieht mit vertrauensbasierten Kulturen – mit unserer Gesellschaft und zunehmend auch mit unserer Psyche –, wenn alles durchdigitalisiert wird?
Das hängt entscheidend von den Anreizen und Werten ab, die in diese Technologien eingeflossen sind. Menschliche Werkzeuge – vom Rad bis zum Flugzeug – wurden stets mit bestimmten Absichten entwickelt und spiegeln die Intentionen ihrer Schöpfer wider. Ein Messer kann Karotten schneiden oder einen Menschen verletzen, doch es trifft keine eigenen Entscheidungen. Bei grossen Sprachmodellen ist das anders. Eigenschaften wie autonomes Handeln, gezielte Manipulation oder sogar Täuschung wurden bereits bei KI-Systemen wie Claude von Anthropic oder ChatGPT von OpenAI beobachtet. Die entscheidende Frage lautet daher: Was passiert, wenn solche Fähigkeiten – zu Intrige, Selbsterhalt und eigenständigem Handeln – auf ökonomische oder politische Interessen treffen, die auf Kontrolle und Ausbeutung zielen?
Der Kampf um unsere Aufmerksamkeit
Seit den Anfängen der sozialen Medien gilt ein klares Primat: Nutzerbindung maximieren, Daten monetarisieren. Dieser marktwirtschaftliche Imperativ prägt bis heute die Architektur der Digitalplattformen – mit spürbaren Folgen für unsere Aufmerksamkeit, unsere Privatsphäre und unsere Beziehungen. Im permanenten Wettlauf um Klicks und Verweildauer zahlen wir den Preis: mit Schlafmangel, brüchigen Beziehungen und wachsender psychischer Belastung. Was man einst als naive Unterschätzung der Risiken abtun konnte, ist heute nicht mehr haltbar. Führungskräfte kennen die Nebenwirkungen einer Technologie, die die Aufmerksamkeit der Menschen ausbeutet – und darüber hinaus gezielt Bindung erzeugt, um Abhängigkeit zu schaffen. George Santayana warnte: «Wer sich nicht an die Vergangenheit erinnert, ist dazu verdammt, sie zu wiederholen.» Mit der generativen KI stehen wir erneut an einem solchen Wendepunkt. Warten wir, bis das Kind in den Brunnen gefallen ist – oder ziehen wir rechtzeitig die Reissleine?
Manche wollen uns glauben machen, Phänomene wie KI-Psychosen seien bloss «Randfälle» – bedauerliche Kollateralschäden auf dem Weg in eine vermeintliche Techno-Utopie. Doch solche Entwicklungen bleiben selten auf das Individuum beschränkt und zeigen sich nicht nur in ihren spektakulärsten Ausprägungen. Ihre Folgen sickern in menschliche Beziehungen ein, greifen in das soziale Gefüge ein und untergraben das Fundament unserer Gesellschaft. Wenn ausgerechnet die am stärksten vernetzte Generation zugleich die einsamste ist – und wir uns Chatbots zuwenden, welche die Vereinsamung eher verstärken als überwinden –, überrascht es kaum, dass Kritiker diese Technologien als «Todesurteil» für das soziale Wohlbefinden und jene zivilen Institutionen bezeichnen, die unsere Kulturen einst ausmachten.
Gesellschaftliche Warnsignale werden oft erst dann ernst genommen, wenn der Schaden bereits eingetreten ist. Trotz früher Mahnungen und Forderungen nach Regulierung erlebten wir jüngst eines der vorhersehbarsten Ergebnisse unzureichender Kontrolle. Ein Strom missbräuchlicher, nicht einvernehmlicher sexueller Darstellungen von Kindern und Frauen – erzeugt mit Elon Musks KI-System Grok – überschwemmte das Internet. Regierungen griffen erst im Nachhinein ein, um ihre Bürger zu schützen. Und selbst Elon Musk stoppte die Aktivitäten von Grok erst nach einer massiven Empörungswelle – und auch nur in jenen Jurisdiktionen, in denen solche Inhalte ausdrücklich illegal sind.
In welcher Kultur leben wir eigentlich, wenn ein Unternehmen die Erstellung kinderpornografischen Materials zulässt und erst unter juristischem Druck reagiert? Oder wenn Chatbots weiterhin mit psychisch gefährdeten Jugendlichen interagieren – ihnen im Extremfall sogar bei der Recherche zu Suizidmethoden helfen? Eine Kultur, die auf Vertrauen gründet, würde Minderjährige vor solchen vorhersehbaren Schäden schützen.
«In welcher Kultur leben wir eigentlich, wenn ein Unternehmen die Erstellung kinderpornografischen Materials zulässt und erst unter juristischem Druck reagiert?»
Während diese Technologien immer tiefer in unser Leben eindringen und unsere Feeds mit Fake-Influencern, Desinformation und aufmerksamkeitsheischendem Content fluten, stellt sich eine zentrale Frage: Wie sollen moderne Demokratien unter solchen Bedingungen bestehen? Die Antwort formiert sich gerade in Echtzeit. Ärzte warnen vor dem exzessiven Handygebrauch von Kindern und sprechen von einer öffentlichen Gesundheitskrise. Eltern, Jugendliche und Schulen ziehen gegen Meta, YouTube, Snap und TikTok vor Gericht – mit dem Vorwurf, ihre Produkte bewusst suchtfördernd zu designen.
Regierungen wachen allmählich auf
Mit der Flut KI-generierter Inhalte und täuschend echter Deepfakes wird es immer schwieriger, dem zu vertrauen, was wir sehen oder lesen. Schon das allein ist Grund genug, sorgfältig zu prüfen, wie diese Technologien entwickelt, reguliert und eingesetzt werden sollten – damit sie das gesunde Funktionieren von Gesellschaft, Wirtschaft und Ökosystem stärken, statt es zu untergraben.
Trotz massiver Lobbyarbeit der Tech-Unternehmen beginnen viele Regierungen, sich mit den negativen Folgen zu beschäftigen. Kritiker wie etwa Jonathan Haidt und Tristan Harris weisen in den Medien zunehmend auf Missstände hin. Allmählich hören die Regierungen zu und suchen nach Wegen, die Risiken zu mindern. Vom Handyverbot während der Schulzeit bis zum Ausschluss von unter-16-Jährigen aus den sozialen Medien werden Massnahmen geprüft und teils bereits umgesetzt, um das Gleichgewicht wiederherzustellen und einen nachhaltigeren Umgang mit der digitalen Welt zu fördern.
Eine Kurskorrektur birgt jedoch eigene Risiken. Sie kann missbraucht werden, um auf Umwegen grösseren Schaden anzurichten. Verbote lassen sich notorisch leicht umgehen. Die Einführung einer E-ID mit dem Zweck, das Alter der Nutzer zu prüfen, wirft heikle Fragen zu Datenerfassung, Überwachung und Privatsphäre auf. Manche Massnahmen werden, so gut gemeint sie auch sein mögen, scheitern oder neue Probleme erzeugen. Doch allein die Tatsache, dass wir beginnen, uns ernsthaft mit den Risiken und Chancen der Digitalisierung auseinanderzusetzen, gibt Anlass zur Hoffnung.
Zu lange haben wir unsere psychische Gesundheit auf dem Altar der Nutzerbindung geopfert. Wir müssen uns bewusst machen, dass wir als Kollektiv stark sind und über reale Handlungsspielräume verfügen, um die Zukunft zu gestalten. Die grossen Tech-Konzerne lassen uns glauben, eine von KI dominierte Welt sei unausweichlich. Doch das ist kein Naturgesetz. Die Wahrheit ist: Die Zukunft ist nicht festgeschrieben. Es gilt kritisch zu prüfen, ob die Kosten, die sich bereits abzeichnen, uns einer lebendigeren, regenerativen Zukunft näherbringen – oder ob wir dabei sind, die Lebensgrundlagen unserer Gesellschaften und Ökosysteme zu erschöpfen.
«Die grossen Tech-Konzerne lassen uns glauben, eine von KI dominierte Welt sei unausweichlich. Doch das ist kein Naturgesetz.»
Wollen wir wirklich in einer Welt leben, in der KI-generierte Inhalte unsere Medienkanäle fluten, in der Kinder ihres Schlafes und ihrer Zeit mit Freunden und Familie beraubt werden, in der autonome KI-Roboter Menschen aus dem Arbeitsmarkt verdrängen? Ich weigere mich zu glauben, dass dies das Beste ist, wozu wir fähig sind. Wenn die künstliche Intelligenz uns eine beinahe gottgleiche Macht verleiht, müssen wir uns daran erinnern, was das Leben tatsächlich lebenswert macht – nämlich das Miteinander.
