Wie kann man KI sinn- und verantwortungsvoll nutzen? Die Abschlussdiskussion zum Thema „Steter Wandel der Öffentlichkeit – Aktuelle Herausforderungen und Verantwortung von Journalist*innen“ betonte einen großen Bedarf an Austausch und Qualifizierung.
Pegah Maham, Projektleiterin für Künstliche Intelligenz und Data Science bei der „Stiftung Neue Verantwortung“ verwies zum Einstieg auf die „bitter lesson“ der KI-Entwicklung, die auch die derzeitige Lage prägt. Als „bittere Lektion“ hatte Richard Sutton, Informatikprofessor an der Universität von Alberta und leitender Forscher im Labor für Verstärkungslernen und künstliche Intelligenz, in einem Artikel von 2019 die Lehre aus 70 Jahren KI-Forschung bezeichnet. Danach seien die größten Fortschritte vor allem auf die enorm gestiegene Rechenleistung zurückzuführen, die Nutzung menschlichen Wissens habe hingegen weniger zu Effizienzsteigerungen beigetragen – langfristig zählten nur Berechnungen. Und zwar nicht nur bei Schach oder Go spielenden Maschinen, die schließlich Menschen überlegen waren. Deep-Learning-Methoden stützten sich Sutton zufolge noch weniger auf menschliches Wissen, sondern verwendeten enorme Rechenleistung und riesige Trainingssätze, um deutlich bessere Spracherkennungssysteme zu schaffen.
Die Konsequenz aus jener bitteren Lektion sei laut Maham, dass KI-Programme derzeit „nur noch mit Geld und Daten beworfen“ würden. Was wiederum dazu führt, dass die Entwicklung sich verlagere, weg von Universitäten hin zur Privatwirtschaft, zu zentralisierten, wirtschaftlich starken Organisationen. Damit einher gehe auch eine Zentralisierung der Kontrolle. Neben den Chancen der KI-Nutzung – etwa eine schnellere und einfachere Erstellung von Zusammenfassungen und Präsentationen oder deren Einsatz im Bildungsbereich mittels Tutorenprogrammen und Assistenten – benannte Maham auch die Risiken. In die erste Kategorie fielen Fehler wie Unzuverlässigkeit und Bias-Reproduktion, in die zweite Missbrauch, etwa Wahlmanipulation und Überwachung, in die dritte systemische Risiken wie die bereits genannte Zentralisierung, Jobverlust und/oder schlechtere Bezahlung von Arbeitnehmer*innen sowie die Kontrolle über die Werte, mit denen KI trainiert wird.
Rege diskutierten die Teilnehmenden der Fish-Bowl die sozialen Folgen der KI-Nutzung und die Konsequenzen für den eigenen Beruf. Manfred Kloiber, Bundesvorsitzender der Fachgruppe Medien, Journalismus, Film in ver.di betonte, die kritische Schwelle der KI-Entwicklung sei mit den enormen Datenmengen und Cloud-Rechnern bereits überschritten. Er sieht ein großes Problem darin, dass von Menschen erbrachte Dienstleistungen immer teurer und unerschwinglicher würden. Das mache ihm große Angst.
Peter Freitag, erster stellvertretender Vorsitzender des dju-Bundesvorstands wies darauf hin, dass das Thema bei vielen Betriebsräten noch nicht angekommen sei. Da bestehe ein „massiver Qualifizierungsbedarf“. Insbesondere Freie müssten sich Fortbildung aber auch leisten können. Einer kurzfristigen Entlastung mittels KI stehe zudem längerfristig eine Arbeitsverdichtung gegenüber. Beide betonten den Handlungsbedarf der Gewerkschaften – auch bei den Bildungsangeboten.
Eine Betriebsrätin berichtete, ihr Verlag habe ein KI-Programm eingeführt, ohne alles über Funktion und Folgen zu wissen – nach der Devise „Wir probieren es trotzdem“. „Da hatten wir das Gefühl, es entgleitet uns, wir kommen nicht hinterher“, beschrieb die Betriebsrätin das Problem.
Maham verwies auf die doppelte Rolle von Journalist*innen. Sie müssten sich einerseits selbst ausreichend über KI informieren und ihren Beruf schützen, andererseits aber die Gesellschaft über KI aufklären. Man müsse die Entwicklung der nächsten zwei, drei Jahre mitdenken, dabei die Vielseitigkeit und Unsicherheit zur Kenntnis nehmen und auch ertragen können (Ambiguitätstoleranz). Wichtig ist, sich frühestmöglich verschiedene Szenarien zu überlegen und dabei Risiken zu erkennen. Schließlich brauchten auch politische Entscheidungen meist einen langen Vorlauf.
Kloiber plädierte dafür, viel selbst auszuprobieren und dafür „Schutzräume“ zu generieren, etwa über Betriebsvereinbarungen. Ein Kollege forderte „journalistische Thinktanks“ zum Thema. Vielen Redaktionen sei noch nicht klar, welche Transformation gerade vor sich gehe. Mit Gesetzen käme man nicht hinterher, schließlich seien auch die sozialen Medien anfangs unterschätzt worden.
Weitere Forderungen der Diskutant*innen betrafen Transparenzregelungen, die Einführung eines Gütesiegels für von Menschen erstellte Beiträge, die demokratische Regulierung über Gesetze wie den AI Act und das Pochen auf die gesetzlich fixierte betriebliche Mitbestimmung bei der Einführung neuer Technologien. Inwieweit dies alles helfen kann, die erwarteten negativen sozialen Folgen abzufedern, blieb umstritten. Fest stand zumindest, dass es großen Bedarf an Austausch und Qualifizierung zum Thema KI gibt und dass Menschen in Medienberufen ihrer doppelten Rolle als Betroffene und Aufklärende des KI-Einsatzes gerecht werden müssen.
Hier ein „Werkzeugkasten“ mit allen in diesem Fokus genannten Tools und deren Links.