Magenta Blog

Künstliche Intelligenz (KI) ist aus unserem Alltag nicht mehr wegzudenken. Sie hilft uns beim Schreiben von Texten, bei der Recherche oder sogar bei der Erstellung von Bildern und Videos. Doch was passiert, wenn KI genutzt wird, um Inhalte so zu manipulieren, dass sie täuschend echt wirken? Genau dann sprechen wir von Deepfakes – künstlich erstellten oder veränderten Videos, Bildern oder Audiodateien, die nur schwer von echten Aufnahmen zu unterscheiden sind. Aber wie funktionieren Deepfakes genau? Wie gefährlich sind sie wirklich? Und vor allem: Wie kann man sie erkennen? All das zeigt dir Magenta im folgenden Artikel.

Was sind Deepfakes?

Deepfake kommt aus dem Englischen und setzt sich aus den Begriffen „Deep Learning“ und „Fake“ zusammen. Darunter versteht man täuschend echt aussehende Medieninhalte wie Fotos, Videos oder Sprachaufnahmen. Diese manipulierten Inhalte entstehen durch Techniken der künstlichen Intelligenz, genauer gesagt durch künstliche neuronale Netze. Obwohl der Einsatz von Deepfakes ein relativ neues Phänomen ist, wirken viele der von KI erzeugten Inhalte so realistisch, dass sie mit bloßem Auge (oder Ohr) kaum von echten Inhalten zu unterscheiden sind.

Wie werden Deepfakes gemacht?

Im Gegensatz zum „cheap faking“, bei dem Medieninhalte mühsam mit Bild- oder Videobearbeitungsprogrammen zusammengeschnitten werden, muss man für die Erstellung von Deepfakes kein Profi mehr sein.  Es gibt mittlerweile zahlreiche Programme, die in der Lage sind, realistische Fake-Inhalte zu erstellen. Diese nutzen komplexe neuronale Netze , die auf Basis visueller und auditiver Trainingsdatensätze, lernen, realistische Fakes zu erstellen.

Welche Arten von Deepfakes gibt es?

Deepfakes können in drei Formaten auftreten: als Bild bzw. Video, Audio und Text. Dabei sind verschiedene Arten von Medienfälschung möglich:

Fälschung von Gesichtern

Zum Beispiel ist es möglich, ganze Gesichter in einem Video auszutauschen, was auch als „Face Swapping“ bezeichnet wird. Auch die Steuerung der Mimik von Personen („Face Reenactment“) ist mit Deepfakes einfach umzusetzen. Und nicht nur das, auch ganz neue Identitäten, also Personen, die in der realen Welt gar nicht existieren, können nachgebildet werden.

Fälschung von Stimmen

Im Bereich der Stimmenfälschung gibt es zwei Verfahren, die für Deepfakes eingesetzt werden: Das erste ist „Text-to-Speech“, eine Technik mit der geschriebene Texte in gesprochene Sprache umgewandelt werden. Moderne Modelle sind dabei in der Lage die Stimmen echter Menschen zu imitieren. Das zweite Verfahren, „Voice-Conversion“, ermöglicht es, Audios in andere Stimmvariationen umzuwandeln und so Menschen Worte in den Mund zu legen, die sie nicht gesagt haben.

Fälschung von Texten

Durch große Textdatenbanken und hohe Rechenleistungen ist es mit KI-Modellen möglich, lange und qualitativ hochwertige Texte zu schreiben. So können unterschiedliche Texte wie Nachrichten oder Blogeinträge generiert werden, die von menschlichen Inhalten kaum zu unterscheiden sind. Doch trotz der hohen Qualität, können KI-generierte Texte logische Fehler und falsche Informationen enthalten. Wer also ein solches Tool nutzt, um Zeit zu sparen, sollte unbedingt alle Fakten überprüfen.

Welche Gefahren bergen Deepfakes?

Gute Deepfakes sind mittlerweile so realistisch, dass sie kaum noch als solche erkennbar sind. Während dies neue Möglichkeiten schafft, öffnet es auch Tür und Tor für Betrug, Missbrauch, Verleumdung und Desinformation. Viele würden sogar von einer Gefahr für Demokratien sprechen. Denn gerade bei Wahlen, wie zum Beispiel im US-Wahlkampf, können Deepfake-Inhalte zur politischen Manipulation und Polarisierung eingesetzt werden. Das kann großen Schaden anrichten, zum Beispiel, wenn Menschen dadurch das Vertrauen in Institutionen verlieren.

Erste rechtliche und regulatorische Debatten über den Umgang mit Deepfake-Technologie sind bereits entbrannt. Dennoch bleibt das Problem aktuell und eine ernsthafte Herausforderung.

• Achtung! Auch bei Love Scams werden immer öfter Deepfakes eingesetzt und richten hier massiven Schaden an. Denn gerade ältere Personen, die nicht damit aufgewachsen sind, erkennen einfachste Fakes häufig nicht und können so Opfer von Liebesbetrügern werden.

Wie erkennt man Deepfakes?

Wahrscheinlich bist auch du schon einmal im Internet oder in sozialen Medien auf ein Video gestoßen, das du als KI-Content entlarvt hast. Doch gut gemachte Fakes sind für Laien kaum von echten Videos zu unterscheiden. Laut Statista können 81 Prozent Deepfakes nicht erkennen und 44 Prozent sind schon einmal auf ein darauf hereingefallen. Es gibt jedoch einige Tipps, die du anwenden kannst, um potenzielle KI-Videos zu entlarven:

• Kritisch sein: Generell gilt es, Inhalte im Internet kritisch zu hinterfragen und nicht alles für bare Münze zu nehmen. Bei Videos, Bildern oder Audiodateien, die einem verdächtig vorkommen, sollte man unbedingt die Logik und den Kontext hinterfragen.
• Trügerische Perfektion: Manchmal lohnt es sich, genauer hinzuschauen. Denn unscharfe Bereiche, fehlende Lippen Synchronität, eingeschränkte Mimik, ein metallischer Klang oder verwaschene Konturen sind häufig Anzeichen für ein Deepfake.
• Quellenüberprüfung: Wenn einem ein Inhalt verdächtig vorkommt, man aber nicht sicher ist, ob er von einer KI gefälscht wurde oder nicht, ist es ratsam, die Quelle zu überprüfen und nach weiteren Fakten zu suchen. Wenn die Quelle seriös ist und mehrere seriöse Nachrichtenseiten darüber berichten, kann man darauf vertrauen, dass der Inhalt echt ist.
• Technologie verwenden: Wenn man mit bloßem Auge nicht mehr erkennen kann, ob es sich um einen gefälschten Inhalt handelt, kann man auf Technologie zurückgreifen. Es gibt beispielsweise Programme, die erkennen, ob ein Video, ein Text oder ein Bild KI-Merkmale aufweist. Dabei ist jedoch zu beachten, dass auch diese Programme auf Basis von KI arbeiten und daher fehlerhaft sein können.
• Prävention: Da Deepfakes immer besser und verbreiteter werden, muss ein gesellschaftliches Verständnis für das Thema geschaffen werden. Denn ungeschulte Augen und auch Ohren lassen sich leicht überzeugen. Gerade deshalb ist es wichtig, auf das Thema aufmerksam zu machen und Prävention zu betreiben. Unternehmen können beispielsweise spezielle KI-Trainings anbieten oder Schulen Medienkompetenz im Unterricht vermitteln, um gegen Deepfakes zu sensibilisieren.

Fazit- Augen und Ohren auf vor KI

Die KI und ihre Möglichkeiten entwickeln sich so schnell, dass man manchmal das Gefühl hat, nicht Schritt halten zu können. Auch wenn die KI-Detektoren immer besser werden, versprechen sie noch keine hundertprozentige Sicherheit. Umso wichtiger ist es, als Gesellschaft ein Bewusstsein für das Thema zu entwickeln und Inhalte kritisch zu hinterfragen. Schließlich gilt es, den Einsatz von KI nicht zu verteufeln, denn sinnvoll eingesetzt kann sie uns im Alltag deutlich unterstützen. Ein positives Beispiel ist der Einsatz von KI für mehr Umweltschutz.

Zusammenfassend lässt sich sagen, dass das A und O beim Einsatz von künstlicher Intelligenz eine ethische Anwendung und die Berücksichtigung des Datenschutzes ist.