Mit Recht und Technik gegen Fake News

Frau mit großer Lupe

Foto: 123rf

Als „vielleicht größte Gefahr“ in der digitalen Welt sieht die Landesanstalt für Medien NRW (LFM) die Verbreitung von Desinformationen. Insbesondere gilt das für die Demokratische Willensbildung. Daher wird die Aufsichtsbehörde ihren Scherpunkt im kommenden Jahr genau auf dieses Thema richten. Aber wie kann man der Flut an Fake News und Deep Fakes Herr werden?

„Das Thema Desinformation ist in der Auseinandersetzung von demokratischen und weniger demokratischen Staaten eine neue Dimension“, sagt LFM-Direktor Tobias Schmid eine Lage, die für seine Behörde immer mehr zu einem Handlungsfeld wird. „Ein Gefühl der Demokratiegefährdung macht sich breit“, ist sich der oberste Medienwächter im bevölkerungsreichsten Bundesland sicher.

Was den Kampf gegen Falschnachrichten so schwierig macht, ist die rechtliche Bewertung, ab wann es etwas wahr oder unwahr ist. Was besser zu bewerten sei, so Schmid, seien objektive Kriterien wie technische Manipulationen: „Das ist relativ einfach festzustellen.“

Ein Beispiel: An die Landesanstalt wurde von einem Wissenschaftler schon vor drei Jahren folgender Fall herangetragen: Auf den ausländerfeindlichen Post einer Partei hin gab es innerhalb kürzester Zeit über 200.000 Reposts – alle von einem Server aus Afrika und meistens unterzeichnet mit Namen, die aus zwei oder drei Buchstaben bestanden. Ganz klar: Die Nutzerschaft sollte über die Relevanz des geposteten Inhalts getäuscht werden. Im Fachjargon heißt das „coordinated inauthentic behaviour“. „Wir stellen fest, dass ‚coordinated inauthentic behaviour‘ immer häufiger zu beobachten ist“ berichtet der Direktor.

KI als Treiber für Desinformation

Auch die Geschäftswelt beschäftigt sich intensiv mit der Erkennung und Abwehr solcher Aktivitäten. Das bestätigte die stellvertretende Vorsitzende für Immersive Experiences im Bundesverband Digitale Wirtschaft (BVDW), Lea Horn, während der Digitalmesse Dmexco.  Zu den technischen Lösungsmöglichkeiten erklärt sie: „Man kann maschinelles Lernen nutzen, um in Quelldaten jeglicher Form – sei es Bild, Text, Video oder Ton – Unstimmigkeiten oder auffällige Modifikationen aufzudecken.”

Dieses Vorgehen ist nicht neu. Denn soziale Netzwerke hatten schon in der Vergangenheit mit der Problematik zu kämpfen, dass durch ihre Viralität Falschinformationen schnell und ungeprüft verbreitet werden konnten. „Wirklich akut wurde das Problem in den letzten zehn Jahren mit der Entwicklung der sozialen Medien“, beschreibt die Expertin vom BVDW die Entwicklung.

Neu ist, dass das Volumen manipulierter und manipulativer Inhalte durch generative KI stark zugenommen hat, und dies die eigentliche Herausforderung zu sein scheint. Um Manipulationen zu erkennen, werden spezialisierte Technologien eingesetzt, die auf die verschiedenen Medientypen abgestimmt sind.

Zwar gibt es bereits einige für Endnutzer zugängliche Tools, die Manipulationen in Text, Bild, Video und Ton erkennen können, doch seien diese Lösungen fragmentiert und meist auf einzelne Medientypen beschränkt. Eine universelle, leicht zugängliche Plattform, die alle Medientypen abdeckt und somit konsistente und zuverlässige Ergebnisse liefert, fehlt bislang.

Erster und wichtigster Schritt: Juristische Grundlagen

Neben dem Erkennen von Deepfakes und Desinformation ist aus Sicht der stellvertretenden Vorsitzenden deren Prävention ein wichtiger Aspekt möglicher Lösungsansätze: „Es braucht unveränderliche und nachvollziehbare Methoden, um die Glaubwürdigkeit und Authentizität digitaler Inhalte zu verifizieren und damit präventiv gegen Deepfakes und Desinformation vorzugehen.  Schon heute könne man die bestehenden Technologien nutzen, um Herkunft und Quelle von digitalen Inhalten festzustellen. Ob dann zum Beispiel Beweismaterialien an zuständigen Stellen weitergegeben werden dürfen oder müssen ist juristisch noch nicht geklärt.

Und genau hier knüpft auch Schmid an: „Die neue Richtline der EU, der Digital Service Act (DSA), fordert code of conducts ein, die verpflichtend sind, das ist aber noch in der Vorbereitung.“ Plattformen müssen bestimmte Sicherheitssysteme einführen. Was damit gemeint sei, definiere der DSA nicht. Die Plattformen jedenfalls verfügten über die technologischen Werkzeuge, um gegen Auswüchse in der digitalen Welt vorzugehen und sind auch eine entsprechende Selbstverpflichtung, einen code of practice, eingegangen. Problem: Elon Musk ist mit seinem Netzwerk X ist von den Selbstverpflichtungen wieder zurückgetreten.

Klare gesetzliche Grundlagen wären aus Sicht des promovierten Juristen der erste wichtigste Schritt, um etwa technische Manipulation der Reichweite und Relevanz zu ahnden: „Wir könnten dann sofort loslegen und hätten auch direkt einen Adressaten, das wären die Plattformen. Damit würden wir sofort eine große Spitze der Desinformation brechen.“ Die gesetzlichen Grundlagen dafür, so der LFM-Chef weiter, könnten „,wenn wir Glück haben“, auch mit Blick auf die EU, in drei bis sechs Monaten vorliegen, „wenn wir Pech haben, in drei bis sechs Jahren.“

 

 

nach oben

Weitere aktuelle Beiträge

Verhandlungen sind keine Selbstbedienung

Leider funktionieren Tarifverhandlungen nicht nach dem Supermarktprinzip, man kann nicht einfach ins Regal greifen und sich herausholen, was man sich wünscht. Am ehesten stimmt der hinkende Vergleich noch, wenn es ans Zahlen geht: Umsonst bekommt man nämlich auch bei Tarifverhandlungen nichts. Was auf der anderen Seite allerdings auch bedeutet: Hängt man sich richtig rein, dann lohnt sich das meistens.
mehr »

Tarifeinigung bei Tageszeitungen 

In der zehnten Verhandlungsrunde haben sich die Vereinte Dienstleistungsgewerkschaft ver.di und der Bundesverband Digitalpublisher und Zeitungsverleger (BDZV) in Hamburg auf einen neuen Tarifvertrag für Redakteur*innen bei Tageszeitungen geeinigt. Der Tarifeinigung waren bundesweit in 36 Verlagen und Redaktionen Streiks vorausgegangen, die zuletzt bis zu sechs Tage angedauert haben.
mehr »

Proteste bei TiKTok in Berlin

Rund 150 Beschäftigten der Trust and Safety-Abteilung (Content-Moderation) von TiKTok und einem Teil der Beschäftigten aus dem Bereich TikTok-Live (rund 15 Beschäftigte) in Berlin droht die Kündigung. Das  chinesische Unternehmen plant die Content-Moderation künftig verstärkt durch Large-Language-Models (Künstliche Intelligenz) ausführen zu lassen und die Arbeit an andere Dienstleister auszulagern. Dagegen protestierten heute vor der TikTok-Zentrale in Berlin Beschäftigte und Unterstützer*innen.
mehr »

Drei Fragen zum Streik der SZ

In den beiden Wochen vor der zehnten Tarifrunde mit dem Bundesverband Digitalpublisher und Zeitungsverleger (BDZV) am 18. Juli erhöht die Vereinte Dienstleistungsgewerkschaft (ver.di) mit den Redakteur*innen in den Zeitungsredaktionen bundesweit den Streikdruck. Besonders im Süden der Republik kommt es zu mehrtägigen, spürbaren Streiks. Auch bei der Süddeutschen Zeitung (SZ) wird seit gestern wieder gestreikt. Wir sprachen mit Ertunç Eren, ver.di-Fachsekretär Medien, Bezirk im München.
mehr »