KI-generierte Medien kaum erkennbar

Collage: Petra Dressler

KI-generierte Bilder, Texte und Audiodateien sind so überzeugend, dass Menschen diese nicht mehr von menschengemachten Inhalten unterscheiden können. Dies ist das Ergebnis einer Online-Befragung mit etwa 3.000 Teilnehmer*innen aus Deutschland, China und den USA. Es ist die erste große länderübergreifende Studie, die diese Form der Medienkompetenz überprüft hat. Die Studie des CISPA Helmholtz-Zentrum für Informationssicherheit entstand in Kooperation mit der Ruhr-Universität Bochum, der Leibniz Universität Hannover sowie der TU Berlin.

„Künstlich erzeugter Content kann vielfältig missbraucht werden“, warnte Prof. Dr. Thorsten Holz, einer der Autoren. Er stellte die Studie Ende Mai auf einer Konferenz für IT-Sicherheit in San Francisco mit vor. Vor allem mit Blick auf die anstehenden Wahlen zum EU-Parlament oder in den USA nannte Holz die automatisierte Erkennung von KI-generierten Medien eine Herausforderung für die Forschung.

Mensch oder Maschine?

Die Studienteilnehmer*innen klassifizierten KI-generierte Medien über alle Medienarten und Länder hinweg mehrheitlich als menschengemacht. „Überrascht hat uns, dass es sehr wenige Faktoren gibt, anhand derer man erklären kann, ob Menschen besser im Erkennen von KI-generierten Medien sind oder nicht. Selbst über verschiedene Altersgruppen hinweg und bei Faktoren wie Bildungshintergrund, politischer Einstellung oder Medienkompetenz, sind die Unterschiede nicht sehr signifikant.“

Künftig gehe es verstärkt darum, neue Abwehrmechanismen zu entwickeln. Denn die Autoren sehen ein Risiko darin, dass vor allem KI-generierte Texte und Audio-Dateien für Social Engineering-Angriffe genutzt werden. Denkbar sei, dass die nächste Generation von Phishing-eMails direkt auf den Adressaten personalisiert ist.

Die quantitative Online-Befragung wurde schon zwischen Juni 2022 und September 2022 in China, Deutschland und den USA durchgeführt. Per Zufallsprinzip wurden die Befragten einer der drei Mediengruppen „Text“, „Bild“ oder „Audio“ zugeordnet und sahen 50 Prozent reale und 50 Prozent KI-generierte Medien. Darüber hinaus wurden sozio-biografische Daten, das Wissen zu KI-generierten Medien sowie Faktoren wie Medienkompetenz, holistisches Denken, generelles Vertrauen, kognitive Reflexion und politische Orientierung erhoben. 

nach oben

Weitere aktuelle Beiträge

Filmtipp: Jossi

"Jossi" ist eine überaus vergnügliche Serie mit Jannik Schümann als arbeitsloser Schauspieler mit russischen Wurzeln, der vorgibt, Jude zu sein, um die Hauptrolle in einer US-Produktion zu bekommen. Die äußerst kurzweiligen Episoden erzählen einerseits eine klassische Hochstapler-Geschichte, sind andererseits dank der vielen bissigen Seitenhiebe auf die Film- und Fernsehbranche auch eine Mediensatire.
mehr »

Am Ende gewinnen die Plattformen

Die größte Reichweite bekommen Medien heute ausgerechnet dort, wo sie am wenigsten zu sagen haben. Ob ein Artikel, Video oder Kommentar wahrgenommen wird, entscheiden Plattformsysteme, die sich der Kontrolle von Medienhäusern entziehen. KI-Systeme formen aus journalistischer Arbeit eigene Antworten. Schon bald könnte der Journalismus nicht mehr in der Lage sein, Öffentlichkeit aus eigener Kraft herzustellen.
mehr »

Presseausweis ohne Privatadresse

Die dju in ver.di begrüßt, dass Journalist*innen künftig leichter auf dem bundeseinheitlichen Presseausweis eine Alternative zur Privatadresse verwenden können. Die Ständige Kommission zur Wiedereinführung des bundeseinheitlichen Presseausweises hat dafür die Regeln erleichtert.
mehr »

Medienstaatsvertrag: ver.di fordert demokratischen Schutz

Mit einem zweiten Teil des Medien-Staatsvertrages wollen die Länder Online-Plattformen stärker in die Pflicht nehmen und den Einfluss der Big Techs auf die öffentliche Meinungsbildung einhegen. Die Vereinte Dienstleistungsgewerkschaft (ver.di) begrüßt die Stoßrichtung der Pläne, fordert aber Nachbesserungen.
mehr »