Beim Einsatz von generativer Künstlicher Intelligenz im Journalismus müssen Sorgfalt, Transparenz und Qualität gewährleistet werden, so der Kern des nun veröffentlichten Diskussionspapiers der Fachgruppe Medien, Journalismus und Film in ver.di. „KI-Systeme kommen im Journalismus seit Jahren zur Anwendung. Mit jeder nächsten Stufe der Entwicklung stellt sich die Frage nach der Art ihrer Einbindung im redaktionellen Prozess neu, aktuell angesichts von generativer KI in Wort-, Bild- und Video-Ausgabe. Das macht eine Grundsatz-Diskussion über den Einsatz von mehr als rein assistierender KI in den Produktionsprozessen der Medienhäuser nötig“, heißt es einleitend. Dafür macht ver.di fünf Schlüsselfaktoren fest.
1. Redaktionelle Verantwortung
Als Erstes müsse „grundsätzlich gewährleistet sein, dass redaktionelle Verantwortung immer in menschlicher Hand bleibt, um der journalistischen Sorgfaltspflicht gerecht zu werden“. „Das maschinelle Ersetzen von Journalismus ist für die Gesellschaft nicht hinnehmbar.“ Wenn Artikel, Videos oder Audio-Beiträge synthetisch generiert werden könnten, brauche es zudem eine Verständigung darüber, was unter diesen veränderten Voraussetzungen als journalistisches Produkt gelten dürfe.
2. Kennzeichnungspflicht im Journalismus
Als Zweites geht es um eine Kennzeichnungspflicht für mit KI produzierte Medieninhalte. Denn generative Künstliche Intelligenz habe das Potenzial „Pseudo-Realitäten zu erschaffen, die unwahr sind, aber plausibel wirken“ und könne zur Manipulation eingesetzt werden. Deshalb muss „Menschengemachter Journalismus, sei es in Form von Text, Ton oder Bild sowie der Grad des Einsatzes von KI auf Anhieb erkennbar sein.“ Hierzu seien branchenweite, international einheitliche Kennzeichnungs-Standards nötig, deren Einhaltung der Gesetzgeber im Medienstaatsvertrag verbindlich vorschreiben müsse. Bis gesetzliche Vorgaben in Kraft seien, sollte sich die Branche einheitliche Selbstverpflichtungen zu Standards beim KI-Einsatz auferlegen.
3. Urheber*innen schützen
Drittens hebt ver.di die Vergütung der Urheber*innen an den Trainingsdaten von KI hervor. Es sind Werke von Kreativen wie Redakteur*innen, Autor*innen, Fotograf*innen, Grafiker*innen, Toningeneur*innen. „Sich menschliches Wissen und Leistungen anzueignen, neu zu bearbeiten und in den Anwendungen der Tech-Konzerne zu monetarisieren, ohne die Urheber*innen zu vergüten, ist nicht im Sinne der europäischen Urheberrechts-Richtlinie“, heißt es im Papier. Hier ist der Gesetzgeber gefragt.
4. Transparent bleiben
Betont wird viertens, dass angewandte KI höchsten Transparenz- und Qualitätsstandards genügen müsse. Hierzu brauche es branchenweite, international einheitliche Standards und Zertifizierung: etwa zur Datenschutzkonformität, zur Diskriminierungsfreiheit und Ausgewogenheit oder zum Anteil professioneller Inhalte im Trainingsmaterial. Nur zertifizierte Tools dürfen verwendet werden.
5. Mensch vor Maschine
Die Mitbestimmung bei der Verwendung von KI in Redaktionen ist für die Gewerkschaft ein weiterer entscheidender Punkt in der aktuellen Debatte. „Die zum Teil erpresserische Einführung von KI-Systemen, bei der Technik gegen bestehende Arbeitsplätze und Arbeitnehmer*innen ausgespielt wird, ist hochproblematisch – zumal bislang keine gemeinsamen ethischen und rechtlichen Grundsätze für den produktiven Einsatz von generativer KI vorliegen.“ Notwendig dafür sei ein Rechtsrahmen, der es Belegschaften ermögliche, über die Anwendung von KI-Systemen im Hinblick auf das Potenzial, Arbeitsplätze zu ersetzen, Arbeitsleistung zu kontrollieren oder die Arbeitsbelastungen zu verstärken, mitzuentscheiden. Dafür bedürfe es einer Präzisierung des Betriebsverfassungsrechts.
Das ausführliche Dokument: Generative KI im Journalismus – Sorgfalt, Transparenz und Qualität gewährleisten | Deutsche Journalistinnen- und Journalisten-Union (verdi.de)