Die weltweit strengsten Regeln für die großen digitalen Player sollen Nutzer*innen schützen, Desinformation bekämpfen und Transparenz schaffen. So sieht das Internetregulierungsgesetz eine europaweit einheitliche Verpflichtung vor, illegale Inhalte zu entfernen und über Content-Moderation Rechenschaft abzulegen. Außerdem schränkt der DSA personalisierte Werbung teilweise ein und verbietet Cookie-Design, welches darauf abzielt, Nutzerverhalten zu manipulieren. Entscheidend ist dabei: Die Selbstkontrolle der mächtigen Internet-Konzerne soll durch neue Kontrollinstanzen ersetzt werden und bei Gesetzesverstößen drohen harte Sanktionen. Der finale Gesetzestext mit allen Details wird in den kommenden Wochen erwartet, bevor es zur Bestätigung durch EU-Parlament und Rat kommen kann.

Als „historisch“ bezeichnete Ursula von der Leyen die Einigung, die im vergleichsweise kurzen Aushandlungsprozess von anderthalb Jahren unter ihrer EU-Kommissionpräsidentschaft zustande gekommen ist. „Es verleiht dem Grundsatz, dass das, was offline illegal ist, online illegal sein sollte, praktische Wirkung“, wird sie nach Ende der letzten 17-stündigen Trilog-Verhandlungen am 23. April in einer Mitteilung der EU-Kommission zitiert. Das DSA werde „Überwachungswerbung und manipulative Praktiken von Online-Plattformen in die Schranken weisen“, begeisterte sich Alexandra Geese, die als Digitalexpertin der europäischen Grünen das Gesetz mitverhandelt hatte, im Pressestatement auf ihrer Abgeordnetenseite. Es werde „Hass, Hetze und Desinformation ausbremsen, die Rechte der Nutzer*innen stärken und Online-Plattformen in die Pflicht nehmen wie noch nie“.

Verbraucherschutz und demokratische Kontrolle sind also die Versprechen des neuen Gesetzes, das praktisch vor allem die großen Tech-Giganten aus den USA betrifft. Bereits der im März 2022 beschlossene Digital Markets Act (DMA) gibt Marktregeln für die IT-Monopolisten vor, um so einen offeneren Wettbewerb der Online-Dienste im europäischen Binnenmarkt zu ermöglichen. Ebenso sieht der DSA besondere Anforderungen für die als „Gatekeeper“ definierten Unternehmen mit mehr als 45 Millionen Nutzer*innen innerhalb der EU vor. Hierzu zählen Meta (mit Facebook, WhatsApp und Instagram), Amazon, Google, Apple, Microsoft, Twitter und noch rund ein Dutzend weiterer Unternehmen.

Auf Augenhöhe mit Tech-Giganten

Nach zwei Jahrzehnten der unregulierten Expansion sozialer Medien und anderer Online-Dienste mit all ihren politischen und ökonomischen Nebenwirkungen – wozu die Krise der klassischen Medien und völlig neue Möglichkeiten für die Fake News-Verbreitung und für rechtspopulistische Bewegungen gehören – versucht die EU nun, auf Augenhöhe mit den Unternehmen von Zuckerberg, Bezos & Co. zu gelangen. Bei Gesetzesverstößen drohen diesen nun Strafen von bis zu sechs Prozent ihres weltweiten Jahresumsatzes. Laut Reuters könnten das bei Facebook gemessen am letzten Jahresumsatz von 118 Milliarden bis zu sieben Milliarden Dollar sein.

Was genau sieht das Gesetz also vor? Um effektiver die Verbreitung illegaler Inhalte zu verhindern, müssen künftig Meldeprozesse geschaffen werden. Diese bestehen bereits bei Plattformen wie TikTok und Instagram. Nun sollen diese jedoch transparent gemacht und die Konzerne verpflichtet werden, jährlich Rechenschaft darüber abzulegen, wie viele Inhalte gelöscht und welche personellen Ressourcen hierfür zur Verfügung gestellt werden. Die Entfernung illegaler Inhalte soll in Zukunft unverzüglich auf Anordnung von Behörden geschehen. Unternehmen müssen Verdachtsfälle melden. Behörden können aber auch unabhängige Verbraucherorganisationen als „Trusted Flaggers“ ernennen, die erweiterte Melderechte erhalten und Plattformen zur sofortigen Bearbeitung von strafbaren Inhalten auffordern können. Dies betrifft in Deutschland etwa die Straftatbestände Beleidigung, Volksverhetzung, Verbreitung von Kennzeichen terroristischer Organisationen oder von Feindeslisten.

Mehr Rechte für Nutzer

Gleichzeitig sollen die Plattformen Beschwerdemöglichkeiten schaffen, um es Nutzer*innen zu ermöglichen, gegen unberechtiges Sperren oder Löschen von Inhalten vorzugehen. Hatten die gewinnorientierten Plattformen bisher ein Interesse daran, im Zweifelsfall eher zu viel Inhalte zu löschen, bekommen Nutzer*-innen nun mehr Rechte, sich gegen unrechtmäßige Account-Sperren bei einer externen Schlichtungsstelle zu wehren. Creator, also Produzent*innen von Content in sozialen Medien, die ihr Einkommen beispielsweise über das Produzieren von YouTube-Videos beziehen, können in Zukunft darauf setzen, dass ihnen nicht mehr einfach ohne Erklärung und ohne die Möglichkeit einer Stellungnahme die Einkommensgrundlage entzogen wird. Gegen diese bisherige Praxis hatte u.a. die YouTubers Union als internationaler Zusammenschluss von Creators seit ihrer Gründung im Jahr 2018 protestiert.

Der DSA verpflichtet Gatekeeper darüber hinaus zur regelmäßigen Veröffentlichung von Risikoeinschätzungen über Fake News-Kampagnen und systematische Grundrechtsverletzungen sowie mögliche Gegenmaßnahmen, wozu die EU-Kommission Algorithmenveränderungen und Werbeeinschränkungen zählt. Werden keine Gegenmaßnahmen ergriffen, kann die EU solche einfordern und im weiteren Schritt Strafen verhängen. Behörden steht zudem das Recht zu, Datenzugang für Wissenschaftler*innen anzuordnen, um Erkenntnisse über die Ausbreitung illegaler Inhalte und Desinformation zu erhalten.

Datenzugang auch für NGO gefordert

Den Datenzugang für „zugelassene zivilgesellschaftliche Organisationen“ hatte auch die NGO AlgorithmWatch wiederholt gefordert – zuletzt in einem offenen Brief mit rund 50 weiteren Zivilorganisationen und Wissenschaftler*innen: „Private Tech-Unternehmen verfügen über riesigen Einfluss auf unsere Gesellschaften und den öffentlichen Diskurs (…), wir verstehen aber viel zu wenig wie die Unternehmen funktionieren“. Wie wichtig es für die Öffentlichkeit sei, an die Daten zu gelangen, die Facebook bisher geheim hält, hatte auch die ehemalige Facebook-Managerin und Whistleblowerin Frances Haugen im November letzten Jahres vor dem EU-Parlament in Brüssel betont. Sie hatte im Oktober 2021 die geleakten „Facebook Papers“ im „Wall Street Journal“ veröffentlicht, was zu einer Anhörung Zuckerbergs im US-Kongress führte. Haugen wirft dem Konzern von Mark Zuckerberg vor, bewusst Desinformation, Hetzkampagnen und organisierte Kriminalität zugelassen zu haben und Profitinteressen über die Sicherheit von Menschenleben zu stellen. Vor dem EU-Parlament hatte Haugen auch den besseren Schutz von Minderjährigen und das Verbot von Dark Patterns gefordert.

Als Dark Patterns wird Benutzerschnittstellen-Design bezeichnet, das darauf ausgelegt ist, Nutzer*innen auszutricksen und Auswahlmöglichkeiten nicht neutral darstellt oder Informationen schwer auffindbar macht. Beispielsweise ist die Cookie-Zustimmungspflicht häufig in einer Weise gestaltet, die den Nutzer*innen auf den ersten Blick nur die Möglichkeit anzeigt, dem Erfassen der eigenen Daten zuzustimmen. So werden sie zur Einwilligung gedrängt, während sie sich bei neutralem Design womöglich anders entscheiden würden.

Der besondere Schutz von Minderjährigen wird ebenfalls Teil des neuen Gesetzes: Künftig wird das Sammeln personenbezogener Daten von minderjährigen Personen untersagt. Allerdings bleibt fraglich, wie die Konzerne feststellen wollen, wie alt die Person ist, die vor dem Computer sitzt. Insgesamt zeigen sich vor allem Grüne, Linke und Piraten enttäuscht, dass hier nicht mehr erreicht werden konnte. Zwar wird die Profilbildung auf Grundlage sensibler Daten verboten, wozu sexuelle Orientierung, Religion, Gewerkschaftszugehörigkeit oder politische Überzeugungen zählen. Personalisierte Werbung bleibt aber grundsätzlich erlaubt. Als „großen Erfolg“, bezeichnete Martin Schirdewahn, Vorsitzender der Linksfraktion im EU-Parlament, den verbesserten Schutz von Nutzer*innen, „auch wenn ein komplettes Verbot von personalisierter Werbung wünschenswert wäre“.

Das Verbot der Profilbildung, „hört sich erstmal gut an“, bilanziert DSA-Verhandlerin Alexandra Geese von den europäischen Grünen in der Online-Gesprächsreihe „Europe Calling“. „Das weicht aber ganz stark von dem ab, was das Parlament eigentlich gefordert hatte. Wir hatten gefordert, dass jegliche Form von Targeting auf Grundlage dieser sensiblen Daten verboten wird. Die komplexe Formulierung ist ein Kompromiss, bei dem aber im Moment nicht klar wird, welche Auswirkungen er auf die wirklichen Praktiken der Plattformen haben wird“. Insbesondere der EU-Rat habe im Verhandlungsprozess Industrieinteressen vertreten und geplante Regelungen aufgeweicht, so Geese.

Zu viel personalisierte Werbung

Dass das Geschäftsmodell des „Überwachungskapitalismus“ nicht angetastet werde, und Nutzer*innen statt kontextbasierter Werbung weiterhin personalisierte Werbung angezeigt bekommen, beklagt der Piraten-Abgeordnete Patrick Breyer in der April-Ausgabe der #heiseshow. Er war als Berichterstatter des Ausschusses für bürgerliche Freiheiten bei den Verhandlungen anwesend und kritisiert das Trilog-Verfahren unter weitgehendem Ausschluss der Öffentlichkeit als intransparent. Der DSA setze ihm zufolge immer noch zu sehr auf Selbstregulierung: „Das ist industriefreundlich, deswegen hat da auch keine große Plattform protestiert, als dieser Gesetzentwurf kam“. Breyer hatte sich nicht nur dafür eingesetzt, die Erfassung von Nutzerdaten auf „das zur Bereitstellung der Dienste notwendige Maß“ zu beschränken, sondern den Nutzer*innen auch Interoperabilität – also plattformübergreifende Kommunikation – zu ermöglichen sowie die eigenständige Auswahl von Algorithmen externer Anbieter.

Gleichzeitig sieht Breyer im DSA die Gefahr stärkerer Zensur durch staatliche Stellen: So könnten künftig autoritäre Regierungen auch Inhalte im europäischen Ausland verbieten und damit die Meinungs- und Pressefreiheit einschränken. In eine ähnliche Kerbe schlägt auch die Kritik des Bundesverband Digitalpublisher und Zeitungsverleger (BDZV) am EU-Gesetz in einer Meldung vom 25. April: „Die EU verpflichtet Online-Plattformen nicht nur zur Sperrung von rechtswidrigen Inhalten, sondern will diesen auch erlauben, rechtmäßige Veröffentlichungen zu sperren.“ Damit bestehe die Gefahr, dass auch legale journalistische und redaktionelle Inhalte gesperrt würden, was gegen die Pressefreiheit verstoße.

Noch genügend Spielräume

Diese Widersprüche zeigen, dass die Auseinandersetzung um Nutzer*innenrechte und die Kontrolle der mächtigen IT-Konzerne durch das neue EU-Gesetz mitnichten beendet ist, sondern vielmehr in eine neue Phase eintritt. Auch wenn die EU künftig stärker eingreifen und harte Strafen verhängen kann, erlauben die Kompromisse beim DSA den Tech-Unternehmen wohl noch genügend Spielräume, um ihre Monopolstellung zu verteidigen. Elon Musk, der aktuell mit seinem Vorhaben polarisiert, den digitalen Nachrichtendienst Twitter zu kaufen, um „Free Speech“ zu ermöglichen und Donald Trump wieder freizuschalten, veröffentlichte zusammen mit EU-Kommissar Thierry Breton am 9. Mai ein Twitter-Video, in dem er seine Unterstützung für das neue EU-Gesetz beteuert: „Ich stimme wirklich allem zu, was Sie gesagt haben“, versichert Musk. Der DSA entspreche exakt seinem Denken. Diese Zustimmung von Musk mag die Kritik bestätigen, das neue Gesetz gehe nicht weit genug. Gleichwohl ließe sich entgegen: Hat er denn überhaupt eine andere Wahl? Twitter, Meta, Google & Co. brauchen den europäischen Markt.