KI-generierte Bilder, Texte und Audiodateien sind so überzeugend, dass Menschen diese nicht mehr von menschengemachten Inhalten unterscheiden können. Dies ist das Ergebnis einer Online-Befragung mit etwa 3.000 Teilnehmer*innen aus Deutschland, China und den USA. Es ist die erste große länderübergreifende Studie, die diese Form der Medienkompetenz überprüft hat. Die Studie des CISPA Helmholtz-Zentrum für Informationssicherheit entstand in Kooperation mit der Ruhr-Universität Bochum, der Leibniz Universität Hannover sowie der TU Berlin.
„Künstlich erzeugter Content kann vielfältig missbraucht werden“, warnte Prof. Dr. Thorsten Holz, einer der Autoren. Er stellte die Studie Ende Mai auf einer Konferenz für IT-Sicherheit in San Francisco mit vor. Vor allem mit Blick auf die anstehenden Wahlen zum EU-Parlament oder in den USA nannte Holz die automatisierte Erkennung von KI-generierten Medien eine Herausforderung für die Forschung.
Mensch oder Maschine?
Die Studienteilnehmer*innen klassifizierten KI-generierte Medien über alle Medienarten und Länder hinweg mehrheitlich als menschengemacht. „Überrascht hat uns, dass es sehr wenige Faktoren gibt, anhand derer man erklären kann, ob Menschen besser im Erkennen von KI-generierten Medien sind oder nicht. Selbst über verschiedene Altersgruppen hinweg und bei Faktoren wie Bildungshintergrund, politischer Einstellung oder Medienkompetenz, sind die Unterschiede nicht sehr signifikant.“
Künftig gehe es verstärkt darum, neue Abwehrmechanismen zu entwickeln. Denn die Autoren sehen ein Risiko darin, dass vor allem KI-generierte Texte und Audio-Dateien für Social Engineering-Angriffe genutzt werden. Denkbar sei, dass die nächste Generation von Phishing-eMails direkt auf den Adressaten personalisiert ist.
Die quantitative Online-Befragung wurde schon zwischen Juni 2022 und September 2022 in China, Deutschland und den USA durchgeführt. Per Zufallsprinzip wurden die Befragten einer der drei Mediengruppen „Text“, „Bild“ oder „Audio“ zugeordnet und sahen 50 Prozent reale und 50 Prozent KI-generierte Medien. Darüber hinaus wurden sozio-biografische Daten, das Wissen zu KI-generierten Medien sowie Faktoren wie Medienkompetenz, holistisches Denken, generelles Vertrauen, kognitive Reflexion und politische Orientierung erhoben.