Inhalte brauchen Moderation

Foto:123rf

Theresa Lehmann ist Tiktok-Expertin bei der Amadeu Antonio Stiftung. Sie leitete das Modellprojekt pre:bunk, das zum Ziel hatte, Jugendliche mit Videoformaten zu Desinformation auf TikTok zu sensibilisieren. Mit M sprach sie über Regulierung, Verbote und Gefahren von Social Media.

In Deutschland nutzen über 20 Millionen Menschen Tiktok, bei Jugendlichen zwischen 12 und 19 Jahren ist es die drittwichtigste App. Welche Rolle spielt TikTok für die politische Meinungsbildung?

Theresa Lehmann | In den letzten zwei Jahren wurde sehr viel über Tiktok berichtet, auch darüber, wie erfolgreich z.B. die AfD dort ist. Die Aufmerksamkeit für die Plattform ist gut, aber es darf nicht der Eindruck entstehen, dass Tiktok für die Wahlergebnisse bei jungen Menschen verantwortlich ist. Wir haben es aktuell mit mehreren Krisen zu tun, unter denen besonders junge Menschen leiden. Auf Tiktok und anderen sozialen Medien nutzen rechte Akteur*innen diese Situation aus und bieten scheinbar einfache Lösungen für komplexe Probleme an.

Mit ihrem Projekt pre:bunk haben Sie Digital Streetwork im Videoformat gemacht. Prebunking klärt Menschen präventiv darüber auf, wie Desinformation funktioniert. Welche Strategien sind besonders verbreitet?

Typische Desinformationsstrategien setzen stark auf Emotionen, das funktioniert auf Social Media immer. Wenn wir starke Angst verspüren oder wütend sind, sind wir weniger geneigt, noch einen Quellencheck zu machen. Die Leute teilen dann Informationen, ohne zu überprüfen, ob sie wirklich stimmen. Viele rechtsextreme Kanäle gehen sehr subtil vor. Wie können Nutzer*innen  insbesondere junge Menschen lernen, Desinformation und manipulative Inhalte auf TikTok zu erkennen?

Auf TikTok werden wir sehr schnell mit vielen Inhalten konfrontiert. In der Medienbildung ist der wichtigste Schritt erstmal einen gesunden Abstand zu gewinnen und den eigenen Medienkonsum zu hinterfragen: Wie nutze ich TikTok? Mache ich Pausen?

Wir haben ein Content-Check-Poster entwickelt, das bei der Analyse von Videos hilft: Was tragen die Leute für ein T-Shirt, was steht auf dem Poster im Hintergrund? Was für ein Sound läuft? Manchmal ergeben sich z.B. rechte Codes erst durch das Zusammenspiel. Es ist au§erdem sinnvoll, sich den ganzen Account anzuschauen und nicht nur einzelne Videos. Bei einzelnen Behauptungen gilt immer: Gegenchecken! Wird darŸber in mehreren gro§en Medien berichtet? Wenn ich nichts finde, kann ich damit z.B. zu Correctiv gehen und das checken lassen.

Das sind aber hohe Hürden für normale Konsument*innen.

Das stimmt, aber wir reden auch nicht über Fast Food, sondern über Informationsbeschaffung. Die Leute können auch seriöse journalistische Inhalte konsumieren. In dem Moment, wo sie sich entscheiden, das nicht mehr zu tun, obliegt ihnen selbst die Verantwortung, diesen journalistischen Check zu machen.

Ihr Projekt pre:bunk wird nicht mehr gefšrdert. Wie geht es auf diesem Gebiet weiter?

Es gibt weiterhin Digital Streetwork, zum Beispiel in Bayern mit einem plattformügreifenden Team der Landesregierung. Unser Ziel ist, dass es Digital Streetwork künftig flächendeckend mit Expert*innen zu unterschiedlichen Themen gibt. Das Thema Essstörung und Körperlichkeit ist ein großes Thema, aber auch Konsum.

Die Organisation HateAid kritisierte zuletzt die Meldefunktion bei Tiktok für Hatespeech. Was müsste die Plattform aus Ihrer Sicht tun, um demokratiegefährdenden Tendenzen entgegenzuwirken?

Ich sehe das vor allem beim Thema Sounds. Es ist zum Beispiel nicht schwer, Hitlerreden auf Techno zu finden. Das ist sehr plump, aber Hass, der über Sounds transportiert wird, wird kaum geahndet. Gleichzeitig protestieren Tiktok-Beschäftigte in Berlin gerade gegen drohende Kündigungen im Bereich Content-Moderation, weil das Unternehmen verstärkt auf KI setzen will. Es ist eine schöne Vorstellung, dass verstörende Inhalten künftig nicht mehr von Menschen angeschaut werden müssen. Aber aktuell mache ich mir Sorgen, dass es dazu führt, dass noch mehr Hass auf der Plattform sein wird. Es braucht auch menschliche Content Moderator*innen die die technische Moderation betreuen und auf ihre Effizienz hin überprüfen.

Was sind Ihre wichtigsten Empfehlungen für Eltern, Lehrkräfte und Gesellschaft, um Jugendliche im digitalen Raum zu stärken?

Das Wichtigste ist, jungen Menschen auf Augenhöhe zu begegnen und nicht in eine Abwehrhaltung zu kommen, nach dem Motto: Social Media, ganz schlimm! Dann machen junge Menschen dicht. Man muss nicht jeden Influencer oder aktuellen Trend kennen. Was Erwachsene mitbringen ist Lebenserfahrung. Junge Menschen sehen einen komischen Inhalt und wollen von der Lehrperson oder dem Elternteil eine Einschätzung. Dann ist es wichtig, da zu sein und in den Austausch zu gehen. Man kann so mehr über die Plattform lernen und junge Menschen unterstützen.


Die Handreichung der Amadeo-Antonio Stiftung gibt einen Einblick, wie sich Desinformation/Misinformation auf TikTok verbreitet und wie unser Digital Streetwork-Ansatz und prebunking Methoden hier präventiv entgegenwirken können. Sie bietet außerdem Handlungsempfehlungen und Impulse für die medienbildnerische und medienpädagogische Arbeit.

nach oben

Weitere aktuelle Beiträge

Kulturförderung unter rechten Bedingungen

Die Kritik an Kulturstaatsminister Wolfram Weimer reißt auch auf der Leipziger Buchmesse nicht ab. Zum Festakt gab es „Rote Karten“ vom Börsenverein, Buhrufe und vor der Tür eine Demo zu „Gegen Zensur & Autoritarismus“. Auch der Verband deutscher Schriftsteller*innen (VS in ver.di) hinterfragt Weimers Vorgehen in der Kulturförderung.
mehr »

Ganztägiger Warnstreik bei der dpa

Die Vereinte Dienstleistungsgewerkschaft (ver.di) hat die rund 800 Beschäftigten der Deutsche Presse Agentur (dpa) für heute zum ganztätigen Streik aufgerufen. Der Streik startete um Mitternacht und dauert den ganzen Tag bis 24 Uhr.
mehr »

Neues KI-Tool zur Medienaufsicht

Seit 2022 nutzen alle Landesmedienanstalten bei der Aufsicht KI, um im Internet nach rechtswidrigen Inhalten zu suchen, etwa nach Hassrede, Gewaltdarstellungen oder frei zugänglicher Pornografie. Im Juni 2025 kündigten die Bundesländer an, dafür eine klare Rechtsgrundlage zu schaffen.
mehr »

Möglicher Foto-Fake der Wrights

Fake News scheinen ein Phänomen unserer Zeit. Doch glaubt man John Brown, dann hielt sich eine Fälschung sage und schreibe 118 Jahre lang. An der Hochschule München präsentierte der diplomierte Fotograf, Flughistoriker und Pilot im Januar ein schier unglaubliches Foto.
mehr »