Mit Recht und Technik gegen Fake News

Frau mit großer Lupe

Foto: 123rf

Als „vielleicht größte Gefahr“ in der digitalen Welt sieht die Landesanstalt für Medien NRW (LFM) die Verbreitung von Desinformationen. Insbesondere gilt das für die Demokratische Willensbildung. Daher wird die Aufsichtsbehörde ihren Scherpunkt im kommenden Jahr genau auf dieses Thema richten. Aber wie kann man der Flut an Fake News und Deep Fakes Herr werden?

„Das Thema Desinformation ist in der Auseinandersetzung von demokratischen und weniger demokratischen Staaten eine neue Dimension“, sagt LFM-Direktor Tobias Schmid eine Lage, die für seine Behörde immer mehr zu einem Handlungsfeld wird. „Ein Gefühl der Demokratiegefährdung macht sich breit“, ist sich der oberste Medienwächter im bevölkerungsreichsten Bundesland sicher.

Was den Kampf gegen Falschnachrichten so schwierig macht, ist die rechtliche Bewertung, ab wann es etwas wahr oder unwahr ist. Was besser zu bewerten sei, so Schmid, seien objektive Kriterien wie technische Manipulationen: „Das ist relativ einfach festzustellen.“

Ein Beispiel: An die Landesanstalt wurde von einem Wissenschaftler schon vor drei Jahren folgender Fall herangetragen: Auf den ausländerfeindlichen Post einer Partei hin gab es innerhalb kürzester Zeit über 200.000 Reposts – alle von einem Server aus Afrika und meistens unterzeichnet mit Namen, die aus zwei oder drei Buchstaben bestanden. Ganz klar: Die Nutzerschaft sollte über die Relevanz des geposteten Inhalts getäuscht werden. Im Fachjargon heißt das „coordinated inauthentic behaviour“. „Wir stellen fest, dass ‚coordinated inauthentic behaviour‘ immer häufiger zu beobachten ist“ berichtet der Direktor.

KI als Treiber für Desinformation

Auch die Geschäftswelt beschäftigt sich intensiv mit der Erkennung und Abwehr solcher Aktivitäten. Das bestätigte die stellvertretende Vorsitzende für Immersive Experiences im Bundesverband Digitale Wirtschaft (BVDW), Lea Horn, während der Digitalmesse Dmexco.  Zu den technischen Lösungsmöglichkeiten erklärt sie: „Man kann maschinelles Lernen nutzen, um in Quelldaten jeglicher Form – sei es Bild, Text, Video oder Ton – Unstimmigkeiten oder auffällige Modifikationen aufzudecken.”

Dieses Vorgehen ist nicht neu. Denn soziale Netzwerke hatten schon in der Vergangenheit mit der Problematik zu kämpfen, dass durch ihre Viralität Falschinformationen schnell und ungeprüft verbreitet werden konnten. „Wirklich akut wurde das Problem in den letzten zehn Jahren mit der Entwicklung der sozialen Medien“, beschreibt die Expertin vom BVDW die Entwicklung.

Neu ist, dass das Volumen manipulierter und manipulativer Inhalte durch generative KI stark zugenommen hat, und dies die eigentliche Herausforderung zu sein scheint. Um Manipulationen zu erkennen, werden spezialisierte Technologien eingesetzt, die auf die verschiedenen Medientypen abgestimmt sind.

Zwar gibt es bereits einige für Endnutzer zugängliche Tools, die Manipulationen in Text, Bild, Video und Ton erkennen können, doch seien diese Lösungen fragmentiert und meist auf einzelne Medientypen beschränkt. Eine universelle, leicht zugängliche Plattform, die alle Medientypen abdeckt und somit konsistente und zuverlässige Ergebnisse liefert, fehlt bislang.

Erster und wichtigster Schritt: Juristische Grundlagen

Neben dem Erkennen von Deepfakes und Desinformation ist aus Sicht der stellvertretenden Vorsitzenden deren Prävention ein wichtiger Aspekt möglicher Lösungsansätze: „Es braucht unveränderliche und nachvollziehbare Methoden, um die Glaubwürdigkeit und Authentizität digitaler Inhalte zu verifizieren und damit präventiv gegen Deepfakes und Desinformation vorzugehen.  Schon heute könne man die bestehenden Technologien nutzen, um Herkunft und Quelle von digitalen Inhalten festzustellen. Ob dann zum Beispiel Beweismaterialien an zuständigen Stellen weitergegeben werden dürfen oder müssen ist juristisch noch nicht geklärt.

Und genau hier knüpft auch Schmid an: „Die neue Richtline der EU, der Digital Service Act (DSA), fordert code of conducts ein, die verpflichtend sind, das ist aber noch in der Vorbereitung.“ Plattformen müssen bestimmte Sicherheitssysteme einführen. Was damit gemeint sei, definiere der DSA nicht. Die Plattformen jedenfalls verfügten über die technologischen Werkzeuge, um gegen Auswüchse in der digitalen Welt vorzugehen und sind auch eine entsprechende Selbstverpflichtung, einen code of practice, eingegangen. Problem: Elon Musk ist mit seinem Netzwerk X ist von den Selbstverpflichtungen wieder zurückgetreten.

Klare gesetzliche Grundlagen wären aus Sicht des promovierten Juristen der erste wichtigste Schritt, um etwa technische Manipulation der Reichweite und Relevanz zu ahnden: „Wir könnten dann sofort loslegen und hätten auch direkt einen Adressaten, das wären die Plattformen. Damit würden wir sofort eine große Spitze der Desinformation brechen.“ Die gesetzlichen Grundlagen dafür, so der LFM-Chef weiter, könnten „,wenn wir Glück haben“, auch mit Blick auf die EU, in drei bis sechs Monaten vorliegen, „wenn wir Pech haben, in drei bis sechs Jahren.“

 

 

nach oben

Weitere aktuelle Beiträge

Gemeinsame Standards für Medienfreiheit

In Brüssel wird der European Media Freedom Act (EMFA) bereits als "Beginn einer neuen Ära" zelebriert. Ziel der Verordnung ist es, die Unabhängigkeit und Vielfalt journalistischer Medien in der EU in vielfacher Hinsicht zu stärken. Doch wie er von den Mitgliedsstaaten  - vor allem dort, wo etwa die Pressefreiheit gefährdet ist wie Ungarn und der Slowakei - umgesetzt wird, zeigt sich erst im kommenden Sommer.
mehr »

Filmtipp: Die Saat des Heiligen Feigenbaums

Die Alten hüten die Asche, die Jungen schüren das Feuer. Konflikte zwischen den Generationen sind vermutlich so alt wie die Geschichte der Menschheit. Zumindest im Westen haben die im Rückblick als „68er-Bewegung“ zusammengefassten Proteste für tiefgreifende gesellschaftliche Umwälzungen gesorgt. Angesichts des Klimawandels könnte sich das Phänomen wiederholen. Mohammad Rasoulofs Familiendrama, deutscher „Oscar“-Kandidat, beschreibt anhand der Demonstrationen im Iran, wie sich die Alten wehren.
mehr »

Die Zukunft der Filmförderung

In der morgigen Plenarsitzung des Bundestages wird über die Zukunft der deutschen Filmwirtschaft entschieden, der vom Bundestagsausschuss für Kultur und Medien beschlossene Gesetzentwurf zum Filmfördergesetz (FFG) steht zur Abstimmung auf der Tagesordnung. ver.di begrüßt eine Reform der Filmförderung, denn in Zukunft müssen Filmproduktionen Tarif- und Urheber-Vergütungen verbindlich einhalten.
mehr »

KI-Lösungen: Heise macht es selbst

Das Medienhaus „Heise Medien“ hat kürzlich das auf generative Künstliche Intelligenz (KI) spezialisierte Medienhaus „Deep Content“ (digitale Magazine „Mixed“ und „The Decoder“) aus Leipzig gekauft. Damit will Heise die Zukunft generativer KI mitgestalten. „Deep Content“ entwickelte mit „DC I/O“ ein professionelles KI-gestütztes Workflow-Framework für Content-Teams und Redaktionen. Bereits seit Juni dieses Jahres kooperiert Heise mit „Deep Content“ bei der Produktion des Podcasts „KI-Update“. Hinter der Übernahme steckt die Idee, den neuen Markt weiter zu erschließen und hohe Gewinne einzufahren.
mehr »