Mit Recht und Technik gegen Fake News

Frau mit großer Lupe

Foto: 123rf

Als „vielleicht größte Gefahr“ in der digitalen Welt sieht die Landesanstalt für Medien NRW (LFM) die Verbreitung von Desinformationen. Insbesondere gilt das für die Demokratische Willensbildung. Daher wird die Aufsichtsbehörde ihren Scherpunkt im kommenden Jahr genau auf dieses Thema richten. Aber wie kann man der Flut an Fake News und Deep Fakes Herr werden?

„Das Thema Desinformation ist in der Auseinandersetzung von demokratischen und weniger demokratischen Staaten eine neue Dimension“, sagt LFM-Direktor Tobias Schmid eine Lage, die für seine Behörde immer mehr zu einem Handlungsfeld wird. „Ein Gefühl der Demokratiegefährdung macht sich breit“, ist sich der oberste Medienwächter im bevölkerungsreichsten Bundesland sicher.

Was den Kampf gegen Falschnachrichten so schwierig macht, ist die rechtliche Bewertung, ab wann es etwas wahr oder unwahr ist. Was besser zu bewerten sei, so Schmid, seien objektive Kriterien wie technische Manipulationen: „Das ist relativ einfach festzustellen.“

Ein Beispiel: An die Landesanstalt wurde von einem Wissenschaftler schon vor drei Jahren folgender Fall herangetragen: Auf den ausländerfeindlichen Post einer Partei hin gab es innerhalb kürzester Zeit über 200.000 Reposts – alle von einem Server aus Afrika und meistens unterzeichnet mit Namen, die aus zwei oder drei Buchstaben bestanden. Ganz klar: Die Nutzerschaft sollte über die Relevanz des geposteten Inhalts getäuscht werden. Im Fachjargon heißt das „coordinated inauthentic behaviour“. „Wir stellen fest, dass ‚coordinated inauthentic behaviour‘ immer häufiger zu beobachten ist“ berichtet der Direktor.

KI als Treiber für Desinformation

Auch die Geschäftswelt beschäftigt sich intensiv mit der Erkennung und Abwehr solcher Aktivitäten. Das bestätigte die stellvertretende Vorsitzende für Immersive Experiences im Bundesverband Digitale Wirtschaft (BVDW), Lea Horn, während der Digitalmesse Dmexco.  Zu den technischen Lösungsmöglichkeiten erklärt sie: „Man kann maschinelles Lernen nutzen, um in Quelldaten jeglicher Form – sei es Bild, Text, Video oder Ton – Unstimmigkeiten oder auffällige Modifikationen aufzudecken.”

Dieses Vorgehen ist nicht neu. Denn soziale Netzwerke hatten schon in der Vergangenheit mit der Problematik zu kämpfen, dass durch ihre Viralität Falschinformationen schnell und ungeprüft verbreitet werden konnten. „Wirklich akut wurde das Problem in den letzten zehn Jahren mit der Entwicklung der sozialen Medien“, beschreibt die Expertin vom BVDW die Entwicklung.

Neu ist, dass das Volumen manipulierter und manipulativer Inhalte durch generative KI stark zugenommen hat, und dies die eigentliche Herausforderung zu sein scheint. Um Manipulationen zu erkennen, werden spezialisierte Technologien eingesetzt, die auf die verschiedenen Medientypen abgestimmt sind.

Zwar gibt es bereits einige für Endnutzer zugängliche Tools, die Manipulationen in Text, Bild, Video und Ton erkennen können, doch seien diese Lösungen fragmentiert und meist auf einzelne Medientypen beschränkt. Eine universelle, leicht zugängliche Plattform, die alle Medientypen abdeckt und somit konsistente und zuverlässige Ergebnisse liefert, fehlt bislang.

Erster und wichtigster Schritt: Juristische Grundlagen

Neben dem Erkennen von Deepfakes und Desinformation ist aus Sicht der stellvertretenden Vorsitzenden deren Prävention ein wichtiger Aspekt möglicher Lösungsansätze: „Es braucht unveränderliche und nachvollziehbare Methoden, um die Glaubwürdigkeit und Authentizität digitaler Inhalte zu verifizieren und damit präventiv gegen Deepfakes und Desinformation vorzugehen.  Schon heute könne man die bestehenden Technologien nutzen, um Herkunft und Quelle von digitalen Inhalten festzustellen. Ob dann zum Beispiel Beweismaterialien an zuständigen Stellen weitergegeben werden dürfen oder müssen ist juristisch noch nicht geklärt.

Und genau hier knüpft auch Schmid an: „Die neue Richtline der EU, der Digital Service Act (DSA), fordert code of conducts ein, die verpflichtend sind, das ist aber noch in der Vorbereitung.“ Plattformen müssen bestimmte Sicherheitssysteme einführen. Was damit gemeint sei, definiere der DSA nicht. Die Plattformen jedenfalls verfügten über die technologischen Werkzeuge, um gegen Auswüchse in der digitalen Welt vorzugehen und sind auch eine entsprechende Selbstverpflichtung, einen code of practice, eingegangen. Problem: Elon Musk ist mit seinem Netzwerk X ist von den Selbstverpflichtungen wieder zurückgetreten.

Klare gesetzliche Grundlagen wären aus Sicht des promovierten Juristen der erste wichtigste Schritt, um etwa technische Manipulation der Reichweite und Relevanz zu ahnden: „Wir könnten dann sofort loslegen und hätten auch direkt einen Adressaten, das wären die Plattformen. Damit würden wir sofort eine große Spitze der Desinformation brechen.“ Die gesetzlichen Grundlagen dafür, so der LFM-Chef weiter, könnten „,wenn wir Glück haben“, auch mit Blick auf die EU, in drei bis sechs Monaten vorliegen, „wenn wir Pech haben, in drei bis sechs Jahren.“

 

 

nach oben

Weitere aktuelle Beiträge

KI beinflusst Vielfalt in den Medien

Künstliche Intelligenz kann journalistische Texte in verschiedene Sprachen übersetzen und damit viel mehr Nutzer*innen ansprechen. Gleichzeitig kann sie aber auch Stereotype, die in diesen Texten enthalten sind, verfestigen. Gefahren und Chancen von KI-Anwendungen im Journalismus standen im Fokus der diesjährigen NxMedienkonferenz der Neuen deutschen Medienmacher*innen (NdM), die sich für mehr Vielfalt in den Medien einsetzen.
mehr »

ARD & ZDF legen Verfassungsbeschwerde ein

Nachdem die Ministerpräsident*innen auf ihrer Jahreskonferenz Ende Oktober keinen Beschluss zur Anpassung des Rundfunkbeitrags ab 2025 fassten, haben heute ARD und ZDF Beschwerde beim Bundesverfassungsgericht in Karlsruhe eingelegt. Die Dienstleistungsgewerkschaft ver.di begrüßt die Initiative.
mehr »

Buchtipp: Fotografieren, was ist

Einfacher und präziser, als mit den Worten „Fotografieren, was ist“, lässt sich das Grundprinzip bildjournalistischen Arbeit wohl kaum erfassen. Ebenso treffend ist die Entscheidung des Göttinger Steidl-Verlags, einem Fotobuch über das Werk des deutschen Reportagefotografen und Bildjournalisten Dirk Reinartz den selben Titel zu geben. Für den Band wurden Einzelbilder und Bildstrecken zum Teil neu zusammengestellt. Ein eindrucksvolles bildjournalistisches Dokument ist entstanden.
mehr »

AfD als Social Media Partei überschätzt

Eng vernetzt mit dem extrem- und neurechten Vorfeld und gezielt provozierend mit rassistischem Content: Die Landtagswahlkämpfe der AfD in Sachsen, Thüringen und Brandenburg waren von einer hohen Mobilisierung geprägt, auch über die sozialen Medien. Eine aktuelle Studie der Otto Brenner Stiftung (OBS) in Frankfurt am Main zeigt nun aber: die Auftritte der AfD auf Social Media sind weit weniger professionell als zuletzt häufig kolportiert und es gibt deutliche regionale Unterschiede.
mehr »