KI-generierte Medien kaum erkennbar

Collage: Petra Dressler

KI-generierte Bilder, Texte und Audiodateien sind so überzeugend, dass Menschen diese nicht mehr von menschengemachten Inhalten unterscheiden können. Dies ist das Ergebnis einer Online-Befragung mit etwa 3.000 Teilnehmer*innen aus Deutschland, China und den USA. Es ist die erste große länderübergreifende Studie, die diese Form der Medienkompetenz überprüft hat. Die Studie des CISPA Helmholtz-Zentrum für Informationssicherheit entstand in Kooperation mit der Ruhr-Universität Bochum, der Leibniz Universität Hannover sowie der TU Berlin.

„Künstlich erzeugter Content kann vielfältig missbraucht werden“, warnte Prof. Dr. Thorsten Holz, einer der Autoren. Er stellte die Studie Ende Mai auf einer Konferenz für IT-Sicherheit in San Francisco mit vor. Vor allem mit Blick auf die anstehenden Wahlen zum EU-Parlament oder in den USA nannte Holz die automatisierte Erkennung von KI-generierten Medien eine Herausforderung für die Forschung.

Mensch oder Maschine?

Die Studienteilnehmer*innen klassifizierten KI-generierte Medien über alle Medienarten und Länder hinweg mehrheitlich als menschengemacht. „Überrascht hat uns, dass es sehr wenige Faktoren gibt, anhand derer man erklären kann, ob Menschen besser im Erkennen von KI-generierten Medien sind oder nicht. Selbst über verschiedene Altersgruppen hinweg und bei Faktoren wie Bildungshintergrund, politischer Einstellung oder Medienkompetenz, sind die Unterschiede nicht sehr signifikant.“

Künftig gehe es verstärkt darum, neue Abwehrmechanismen zu entwickeln. Denn die Autoren sehen ein Risiko darin, dass vor allem KI-generierte Texte und Audio-Dateien für Social Engineering-Angriffe genutzt werden. Denkbar sei, dass die nächste Generation von Phishing-eMails direkt auf den Adressaten personalisiert ist.

Die quantitative Online-Befragung wurde schon zwischen Juni 2022 und September 2022 in China, Deutschland und den USA durchgeführt. Per Zufallsprinzip wurden die Befragten einer der drei Mediengruppen „Text“, „Bild“ oder „Audio“ zugeordnet und sahen 50 Prozent reale und 50 Prozent KI-generierte Medien. Darüber hinaus wurden sozio-biografische Daten, das Wissen zu KI-generierten Medien sowie Faktoren wie Medienkompetenz, holistisches Denken, generelles Vertrauen, kognitive Reflexion und politische Orientierung erhoben. 

Weitere aktuelle Beiträge

Dokumentarfilme: Näher an der Wahrheit

Das bekannte Archiv–Storytelling in Dokumentationen befindet sich im Wandel. Und das ist auch notwendig: Weg von stereotypen Erzählmustern, hin zu ganzheitlichen Betrachtungen. Bislang unbekanntes Archivmaterial  spielt darin eine wesentliche Rolle. Beispiele dafür gab es  auf der Sunny Side of the Doc im französischen La Rochelle zu sehen, wo die internationale Doku-Branche zusammenkam.
mehr »

Türkei: Regierung schaltet TV-Sender ab

In der Türkei ist einer der populärsten regierungskritischen TV-Sender für zehn Tage abgeschaltet worden. Gegen Sözcü TV sei eine Strafe wegen wiederholten „Verstößen gegen Sendevorschriften“ verhängt worden, schrieb der Chef der Rundfunkbehörde (Rtük), Ebubekir Sahin, auf der Plattform X. Der Sender kritisiert das Vorgehen als Zensur.
mehr »

Für ein digitales Ökosystem

Markus Beckedahl, Journalist und Gründer des Online-Portals www.netzpolitik.org, erkennt  im System des öffentlich-rechtlichen Rundfunk den Ort, wo alternative digitale Infrastrukturen gut entwickelt werden können.
mehr »

Rechte Influencerinnen im Netz

Rechtextremismus und rechte Parolen verbinden viele Menschen automatisch mit testosterongesteuerten weißen Männern. Diese Zielgruppe füttert AfD-Politiker Maximilian Krah mit simplen Parolen wie: „Echte Männer sind rechts.“ Das kommt an bei Menschen, die im Laufe der Zeit irgendwann beim „Gestern“ stecken geblieben sind. Inzwischen verfangen solche rechten Klischees auch bei Frauen. Vor allem im Internet.
mehr »