Trauen Sie Ihren Augen nicht!
Hanna Wenger, fotografiert von Daniel Jung.

Trauen Sie Ihren Augen nicht!

Deepfakes können uns alle täuschen. Ohne Medienkompetenz und Aufklärung führt die Verbreitung von manipulierten Bildern und Videos zu einem sinkenden Vertrauen in demokratische Institutionen.

In unserer immer digitaler werdenden Welt spielt die künstliche Intelligenz eine immer wichtigere Rolle. Sie ermöglicht es uns, Aufgaben schneller und effizienter zu erledigen und neue, bislang ungeahnte Möglichkeiten zu erschliessen. Doch was genau ist künstliche Intelligenz und welche Auswirkungen hat sie auf unseren Alltag? Lassen Sie uns gemeinsam auf eine spannende Reise in die Welt der KI gehen und herausfinden, was sie für uns bereithält.

Hat Sie dieser Einstieg gepackt? Falls nicht, so richten Sie Ihre Kritik bitte direkt an die Tech-Firma OpenAI. Diese Einleitung wurde nämlich nicht von einem Menschen, sondern einer Maschine verfasst; wir haben «ChatGPT» beauftragt, einen spannenden Einstieg für einen Text zur künstlichen Intelligenz zu schreiben.

Maschinelle Manipulation

Künstliche Intelligenz kann heute schon vieles tun, was früher dem Menschen vorbehalten war. Und in immer mehr Bereichen wird sie auch Laien zugänglich: Inzwischen werden zahlreiche Apps für die Herstellung von künstlich erzeugten Bildern, Videos und Tonaufnahmen angeboten. Mit steigenden Fähigkeiten wächst aber auch die Gefahr des Missbrauchs. Denn ob ein Netzinhalt menschliche Realität abbildet oder ein computerbasiertes KI-Konstrukt darstellt, lässt sich mittlerweile nicht immer leicht erkennen.

Längst sind auch Bilder und Videos nicht mehr sicher vor maschineller Manipulation. Bereits Anfang 2018 machten Meldungen über sogenannte Deepfakes – ein Kofferwort aus den Begriffen «Deep Learning» und «Fake» – die Runde, nachdem die App Zao bekannt geworden war, mit der sich Gesichter auf Videos täuschend echt manipulieren liessen. Weltweit sorgte das zunächst für Vergnügen: Wer findet es schon nicht amüsant, sein eigenes Antlitz in einer Rede von Donald Trump oder einem Musikvideo von Madonna auftauchen zu lassen? Schon bald wurde aber auch die Schattenseite der Technologie sichtbar: Die App wurde zunehmend genutzt, um mit gefälschten Videos Stimmung gegen Politiker und andere Personen des öffentlichen Lebens zu machen. So wurde zum Beispiel bei einer von Russland unterstützten Desinformationskampagne das Gesicht der jungen ukrainischen Parlamentarierin Svitlana Zalishchuk1 auf pornografischen Bildern eingeblendet, was ihre Glaubwürdigkeit als Politikerin untergrub.

Die vielen Gesichter des Deepfakes

Schon immer war es möglich, Papierdokumente und Bilder zu fälschen. Auch Fotos können bekanntlich verändert werden. So ist eine gewisse Skepsis geboten, wenn es darum geht, Berichte oder «Beweisfotos» zu akzeptieren, die nicht mit anderen Belegen übereinstimmen und keine überzeugende Herkunft aufweisen. Die hohen Hürden für überzeugende Fälschungen haben es Fachleuten jedoch bisher möglich gemacht, solche mit hoher Zuverlässigkeit zu erkennen. Aufgrund KI-gestützter Werkzeuge werden die Hindernisse für die unbemerkte Synthese jeder Form von digitalen Medien möglicherweise aber bald verschwinden. Eine solche moderne Form der Fälschungen sind eben die Deepfakes: Die realistisch wirkenden Medieninhalte, die durch Techniken der künstlichen Intelligenz generiert, abgeändert oder verfälscht worden sind, erscheinen in verschiedenen Formen.

Die wohl bekannteste Form sind Deepfakes bei Fotos. Dabei werden Änderungen an einem Gesicht oder am gesamten Körper einer Person vorgenommen oder mit physischen Komponenten einer weiteren Person ergänzt oder überblendet. Deepfakes im Audiobereich verändern die aufgenommene Stimme im Original oder ahmen die einer anderen Person nach. Die Funktion «Text-zu-Sprache» bietet die bereits weitverbreitete Möglichkeit, durch Eingeben von Text Ton zu erzeugen oder so eine bereits existierende Tonaufnahme zu überarbeiten.

Die wohl trügerischste und damit auch einflussreichste Manipulation ist das Video-Deepfake. Denn auch bei bewegten Bildern können Gesichter heute einfach ausgetauscht werden. Zudem ist Gesichtsverwandlung möglich, bei der das Gesicht einer Person durch einen nahtlosen Übergang in ein anderes Gesicht übergeht. Technisch machbar ist auch das Ganzkörperpuppenspiel, bei dem die Bewegungen einer Person auf den Körper einer anderen Person übertragen werden – ähnlich wie Schauspieler ihre Bewegungen auf animierte Figuren im Film übertragen. Bei hochwertigen Video-Deepfakes ist es zudem möglich, die Lippensynchronisation zu verändern und mit einer passenden Audiospur zu unterlegen.

Hinter den…