Die Bundesländer wollen den Einsatz von Künstlicher Intelligenz (KI) bei der Medienaufsicht rechtssicher machen. Vorgesehen sei, im Medienstaatsvertrag eine gemeinsame Regelung einzufügen, „die einen klaren Rahmen für den bundesweiten Einsatz technischer Hilfsmittel in der Aufsicht schafft“, erklärte NRW-Medienminister Nathanael Liminski (CDU). Zu den Regelungsentwürfen ist am 23. Juni 2025 eine öffentliche Anhörung gestartet worden.
Mit dieser Novelle sollen auch Vorgaben aus dem European Media Freedom Act (EMFA) der EU umgesetzt werden. Bis Ende Juli können Stellungnahmen bei der Staatskanzlei von Rheinland-Pfalz eingereicht werden, das den Vorsitz in der Rundfunkkommission der Länder hat.
Schlagkräftige und effektive Medienaufsicht
Die 14 Landesmedienanstalten sind hierzulande dafür zuständig, kommerzielle Rundfunkprogramme und Online-Angebote zu kontrollieren. Das Internet sei „kein rechtsfreier Raum“, sagte Liminski. Medienaufsicht müsse „nicht nur unabhängig und staatsfern, sondern auch schlagkräftig und effektiv sein“. Mit „einer allein händischen Suche“ sei dies aber nicht mehr abbildbar. Es gebe eine „nicht mehr definierbare Zahl an Anbietern, Angeboten und Inhalten im Internet“. Daher habe sich Nordrhein-Westfalen in der Rundfunkkommission der Länder dafür eingesetzt, den KI-Einsatz bei den Landesmedienanstalten staatsvertraglich klar zu verankern, so Liminski.
Seit 2022 setzen alle Medienbehörden bei der Aufsicht KI ein, konkret das von der Landesanstalt für Medien NRW zusammen mit der Berliner Firma Condat entwickelte Tool KIVI. Im Namen zusammengefasst seien die Begriffe KI und „vigilare“, lateinisch für „wachsam sein“, schreibt die nordrhein-westfälische Medienanstalt in ihrem Internet-Auftritt. Die Aufsichtsbehörde nutzt KIVI bereits seit Ende 2020. Sie verweist auf Anfrage auch auf den Jugendmedienschutz-Staatsvertrag (JMStV). Nach dessen Regelungen prüfe die jeweils zuständige Landesmedienanstalt, ob die Anbieter die Bestimmungen des JMStV einhielten. Somit gebe es eine Rechtsgrundlage für die Beobachtung medialer Inhalte, „unabhängig von der Frage der dafür erforderlichen Mittel“.
Meta verweigert Aufsichts-Tool
Gleichwohl begrüßt die Landesanstalt für Medien NRW „eine entsprechende Klarstellung des Medienstaatsvertrags, die den Einsatz von künstlicher Intelligenz ausdrücklich ermächtigt“. Denn es gebe einzelne Social-Media-Plattformen, die eine effektive Aufsicht durch den Einsatz moderner Technologie zielgerichtet technisch verhinderten. Konkret meint die Medienanstalt damit die Plattformen Instagram und Facebook, die vom US-Konzern Meta betrieben werden.
Meta lasse den Einsatz von KIVI auf Facebook und Instagram nicht zu, um dort nach potenziell rechtswidrigen Inhalten zu suchen, erklärte die NRW-Medienanstalt: Meta begründe dies mit datenschutzrechtlichen Bedenken. Das hält die Behörde wiederum für nicht nachvollziehbar. Die Pressestelle von Meta reagierte nicht auf eine Anfrage zu den Gründen für dieses Vorgehen.
KIVI ist für die nordrhein-westfälische Medienbehörde ein wichtiges technisches Hilfsmittel in der Aufsichtstätigkeit: So ließen sich mehr als 10.000 Webseiten täglich automatisiert durchsuchen. Erfasst würden Plattformen wie YouTube, X, Telegram und TikTok. Im Visier dabei: unter anderem Hassrede, Gewaltdarstellungen, frei zugängliche Pornografie und weitere jugendgefährdende Inhalte. KIVI könne mögliche Verstöße zwischen verschiedenen Kategorien unterscheiden. Die gefundenen Fälle würden dann von den Mitarbeitenden weiter bearbeitet.
Rechtsverstöße prüfen Jurist*innen
Das heißt: Nicht KIVI entscheidet, ob ein Rechtsverstoß vorliegt. Das machen am Ende die Jurist*innen der Medienaufsicht. In der Folge komme es zu weiteren Schritten gegen potenzielle Straftäter*innen, so die NRW-Medienanstalt. Seit Mai 2023 arbeiten alle Landesmedienanstalten zudem mit der Zentralen Meldestelle für strafbare Inhalte im Internet (ZMI) beim Bundeskriminalamt (BKA) zusammen. Dorthin können Verdachtsfälle von strafrechtlich relevanter Hassrede übermittelt werden.
Die NRW-Medienanstalt hat nach eigenen Angaben bisher über KIVI rund 50.000 Funde mit möglichen Verstößen erhalten. Seit März 2021 seien 44.500 Fälle überprüft worden, bei etwa 9000 davon sei ein Verstoß bestätigt worden. Im Jahr 2024 seien mithilfe von KIVI 321 Verstöße festgestellt worden, bei denen es um Volksverhetzung, Verwendung von Kennzeichen verfassungswidriger Organisationen, Holocaustleugnung und Gewaltverherrlichung gegangen sei. Bei 632 KIVI-Funden hätten ferner Jugendschutzverstöße vorgelegen, wie etwa frei zugängliche Pornografie.
Bislang kann KIVI nur nach rechtswidrigen Inhalten suchen, die in deutscher Sprache im Netz verbreitet werden. Derzeit wird das Tool erweitert, so dass künftig auch Online-Inhalte in Englisch und Arabisch erfasst werden können. Diese technische Erweiterung finanziert das Land NRW. Dafür werde ein Betrag von 160.000 Euro bereitgestellt, erklärte die Düsseldorfer Staatskanzlei. Die NRW-Medienanstalt plant, dass die Erweiterung bei KIVI ab Sommer regulär einsetzbar ist.