Maßnahmen gegen Hass und Desinfo im Netz: Das Wichtigste aus dem Frühling/Sommer 2025

Mit TikToks gegen Antisemitismus: Das Projekt shift & tell der Amadeu Antonio Stiftung klärt mit einer Kurzvideoreihe über Antisemitismus auf und zeigt Handlungsmöglichkeiten im Umgang mit antisemitischen Narrativen. Über TikToks erhalten junge Menschen Einblicke in Erfahrungen von alltäglichen Antisemitismus aus der Perspektive der Protagonistin Rosa Jellinek. Die Videos thematisieren Antisemitismus in sozialen Medien, Clubs oder Universitäten und regen Diskussionen an, begleitet von Fachkräften in Livestreams und Kommentarspalten. Ziel ist es, durch Empathie und kritische Reflexion Lernräume zu schaffen und Betroffene zu empowern. Mit Hilfe von Storytelling, Hintergrundexpertisen und medienpädagogischen Tipps sollen antisemitische Stereotype erkannt und Gegenstrategien gestärkt werden. shift & tell begegnet der viralen Verbreitung antisemitischer Inhalte auf TikTok mit aufklärenden, emotionalen und experimentellen Formaten und bietet pädagogische Ansätze, Argumentationshilfen für solidarisches Handeln.

Up to Date dank Desinformationsbriefing: Im April 2025 ging das polisphere Desinformationsbriefing online und versorgt AbonnentInnen wöchentlich mit den neuesten Informationen rund um das Thema Desinformation.⁶ Es fasst aktuelle Debatten und Themen übersichtlich zusammen, bietet einen Ticker mit aktuellen Studien und ordnet sie ein. Anhand von Kurzmeldungen kann auch ein guter Überblick über relevante Debatten verschafft werden. Zudem werden Veranstaltungshinweise geteilt und auf die viralsten Desinformationsposts hingewiesen. Polisphere verknüpft diesen Service mit einem eigenen Desinformations-Monitoring, das die reichweitenstärksten Posts der vergangenen Woche ausgewählter Accounts auf Telegram schlaglichtartig aufzeigt. Vertieft kann man sich für das Desinformation Dashboard anmelden, um genauere Informationen zu den Akteuren und den metrischen Kennwerten zu erhalten.⁷

Kampagne gegen bildbasierte Übergriffe: Die Petition #NotYourBusiness von HateAid fordert eine Gesetzgebung, die vor bildbasierter sexualisierter Gewalt schützt:⁸ Sowohl vor der Erstellung, als auch vor der nicht zugestimmten Weiterverbreitung durch Plattformen und Suchmaschinen sowie durch Apps und Zahlungsdienste. Unter den Begriff der “digitalen Gewalt” fassen manche vielfältige Formen der missbräuchlichen Verbreitung, Verwendung oder Beschaffung von fremden Bildmaterial mit Hilfe von digitalen Technologien. Hierzu gehört beispielsweise die Verbreitung von Deepfakes, Deepnudes oder auch Revenge Porn. Im Zentrum der Kampagne steht ein Rechtsstreit mit Google, da Bilder von Betroffenen, auch wenn sie einmalig gelöscht wurden, immer wieder unter veränderter Adresse hochgeladen werden. In diesem Kontext soll daher geklärt werden, welche Mitverantwortung Plattformen an der Weiterverbreitung solcher Materialien haben. Außerdem wird betont, dass diese Übergriffe zu Angst, Scham, Erniedrigung, Diskriminierung sowie Gefühle der Machtlosigkeit und Unsicherheit unter den Betroffenen bildbasierter sexualisierter Gewalt führen. Sexualisierte bildbasierte Gewalt trifft besonders häufig Frauen und queere Menschen und reproduziert Mechanismen patriarchaler Unterdrückung.

Umstrittene Kampagne gegen Hass im Netz: Die Petition „Schluss mit anonymen Internet-Hass!“⁹ fordert härteres Vorgehen gegen digitale Hetze: schnellere Strafverfolgung, bessere Ausstattung der Behörden, Meldepflicht für Plattformen – und einen verpflichtenden Identifikationsnachweis für Social-Media-Accounts. Bei letzterem regte sich auch ein deutlicher Widerspruch aus der Zivilgesellschaft. So heißt es beispielsweise auf dem Social Media Watch Blog, dass eine verpflichtende Identifikation mindestens bedenklich, wenn nicht sogar bedrohlich für manche UserInnen wäre.¹⁰ Eine Ausweispflicht könnte Privatsphäre, Meinungsfreiheit und Sicherheit sensibler Daten gefährdend. Erfahrungen aus Südkorea würden zudem zeigen, dass Klarnamenpflichten verfassungsrechtlich fragwürdig seien, heißt es weiter. Einige Studien deuten zudem darauf hin, dass Hassrede meist von Personen mit Klarnamen stammt.¹¹ Auch in Kommentaren aus der Netzcommunity wird betont, dass Anonymität AktivistInnen, Minderheiten und Betroffene von Gewalt schütze und Strafverfolgung selten an fehlenden Identitätsnachweisen, sondern an überlasteten Behörden scheitere. Eine Klarnamenpflicht würde eher Freiheit einschränken als Hass bekämpfen, heißt es.¹²

TikTok setzt auf KI-Moderation: Seitdem Modelle generativer KI komplexere Aufgaben lösen können, fürchteten viele, bald auf dem Arbeitsmarkt obsolet zu sein. Laut einer Umfrage gehen beispielsweise über die Hälfte der befragten KünstlerInnen davon aus, dass durch den Einsatz generativer KI, ihnen finanzieller Schaden entsteht und dass ihnen möglicherweise die Lebensgrundlage entzogen werden könne.¹³ Für Angestellte von TikTok in Deutschland könnten diese Befürchtungen bald Realität werden. So plant der Konzern, 150 Beschäftigte aus der Abteilung “Trust and Safety” zu kündigen und ihre Aufgaben von einer KI oder externen Dienstleistern erledigen zu lassen, so die Gewerkschaft Verdi.¹⁴ In erster Linie betrifft es Content-ModeratorInnen, die über die Zulässigkeit geflaggter Inhalte entscheiden. Die Belegschaft wehrt sich gegen die geplanten Entlassungen¹⁵ und es wird befürchtet, dass TikTok zum Vorreiter werden könne.¹⁶ Ob die Entlassungen rechtens sind, wird derweil vor Gericht ausgefochten.¹⁷

Google schafft Fact-Checking ab: Google stellt das ClaimReview-Programm ein, durch das Faktenchecks in den Suchergebnissen prominent markiert wurden.  Diese visuelle Hervorhebung sollte NutzerIinnen helfen, geprüfte Informationen leichter zu erkennen. Das Unternehmen begründet die Änderung damit, dass diese Snippets „nicht häufig in der Suche verwendet“ würden und keinen „signifikanten Mehrwert“ mehr böten – zugrundeliegende Daten oder Analysen legte Google bislang nicht offen. KritikerInnen warnen, dass damit vertrauenswürdige Quellen im Wettbewerb mit unzuverlässigen Inhalten benachteiligt werden könnten, insbesondere da KI-basierte Übersichten zunehmend prominenter eingesetzt werden.  ClaimReview hatte laut Berichten über 120 Millionen EU-NutzerInnen im ersten Halbjahr 2024 erreicht und wurde von zahlreichen Fact-Checking-Organisationen genutzt. Die Entscheidung erfolgte offenbar ohne vorherige Konsultation mit diesen Partnern.

Rückkehr der Gebannten auf YouTube: Google/YouTube hebt Bannmaßnahmen gegen Content-CreatorInnen auf, die wegen Falschinformationen zu COVID-19 oder US-Wahlen gesperrt worden waren – sie dürfen wieder Videos veröffentlichen.¹⁸ Dabei wirft Google dem Einfluss der Biden-Regierung vor, die Plattform zu zwingen, Inhalte zu löschen, auch wenn sie nicht gegen eigene Regeln verstoßen hätten. Während der Pandemie hatte YouTube über eine Million Videos zu COVID-Falschinformationen entfernt und Richtlinien zu Wahlintegrität durchgesetzt. Google begründet die Rücknahme damit, dass sich Themenlage und Richtlinien z. B. zu COVID verändert hätten und frühere Sperren auf inzwischen veralteten Regeln beruhten.  Zugleich warnt das Unternehmen vor möglichen Eingriffen durch neue EU-Gesetze wie DSA und DMA, die seiner Ansicht nach Innovationen behindern und Meinungsfreiheit gefährden könnten. YouTube will künftig ausgewählten gesperrten Accounts die Rückkehr ermöglichen – Details zu Monetarisierung oder Voraussetzungen bleiben offen.

EU schafft Wahlwerbung ab: 2023 hat die EU eine Verordnung über Transparenz und das Targeting politischer Werbung verabschiedet – seit dem 10. Oktober 2025 ist die Verordnung mit dem Ziel, demokratische Wahlen und die politische Öffentlichkeit vor Manipulation zu schützen, in Kraft getreten.¹⁹ Plattformen müssen seitdem mehr Transparenz über ihre Finanzierung und das Targeting zielgerichteter politischer Werbung schaffen, zudem will die EU in den kommenden Jahren eine Transparenzdatenbank errichten, in der Werbeanzeigen dokumentiert werden. Die Verordnung verpflichtet Plattformen wie Google oder Meta jedoch auch dazu, eine ausdrückliche Einwilligung Ihrer NutzerInnen einzuholen, bevor ihre Daten für das Targeting verwendet werden dürfen. Beide Plattformen positionierten sich gegen die Verordnung und kündigten bereits an, ab Oktober 2025 keine politische Werbung mehr auf ihren Plattformen zu erlauben.²⁰ Anfang Oktober löschte Google zudem seine Bibliothek, in der nachverfolgt werden konnte, welche politischen Anzeigen seit 2018 über die Plattform geschaltet wurden. Mit der Abschaltung verwehrt der Konzern den Zugang zu einem zentralen Instrument, welches die Erforschung politischer Werbekampagnen ermöglichte.²¹

US-Justizministerium unterstellt DSA Zensur: Aus einem internen Schreiben aus dem August, das von US-Außenminister Marco Rubio unterzeichnet wurde,geht hervor, dass die US-Regierung ihre DiplomatInnen in der EU dazu anhält, gegen den DSA zu lobbyieren. Sie versteht den DSA als einen unzulässigen Eingriff in die Meinungsfreiheit und als Möglichkeit, Zensur zu betreiben. Das Dokument beauftragt die MitarbeiterInnen in europäischen US-Botschaften als „Aktionsaufforderung“, in Gesprächen mit EU-Regierungen und Behörden die Bedenken der USA hinsichtlich des DSAs und den (finanziellen) Folgen für US-Unternehmen zu vermitteln.²² Dieses Vorgehen sei jedoch in einem Gesamtkontext zu verorten, denn erst im Februar warf US-Vize J.D Vance im Rahmen der Münchner Sicherheitskonferenz auf großer Bühne europäischen PolitikerInnen Zensur vor, heißt es beispielsweise im Handelsblatt.²³

UK Online Safety Law: Großbritannien verabschiedete 2023 den Online Safety Act. Seit September 2025 beginnt das Vereinigte Königreich mit der Umsetzung des Gesetzes.²⁴ Das Gesetz soll überwiegend Kinder im digitalen Raum vor illegalen und schädlichen Inhalten schützen. Es erlegt AnbieterInnen Pflichten auf, Systeme zu evaluieren und implementieren, die das Risiko, dass ihre Dienste für illegale Aktivitäten genutzt werden verringern sollen. Zudem werden sie dazu verpflichtet, illegale Inhalte zu entfernen, wenn diese auftreten. Mit dem Gesetz müssen Plattformen verhindern, dass Kinder Zugang zu schädlichen und altersunangemessenen Inhalten erhalten und Eltern die Möglichkeit geben, Vorfälle online zu melden. Es soll aber auch Erwachsene NutzerInnen schützen, da Plattformen dazu verpflichtet werden, ihre NutzerInnen über alle möglichen Arten von potenziell schädlichen Inhalten zu informieren. Für die Umsetzung wurde die Regulierungsbehörde Ofcom beauftragt. Sie legt beispielsweise Verhaltenskodizes fest, denen AnbieterInnen nachkommen müssen, um ihre Sicherheitspflichten zu erfüllen.²⁵

“Digitale Gewalt” und politisches Engagement: In der Studie „Angegriffen & alleingelassen: Wie sich digitale Gewalt auf politisches Engagement auswirkt. Ein Lagebild.“²⁶ untersuchte die Technische Universität München gemeinsam mit HateAid, in welchem Ausmaß und in welcher Form politisch engagierte Menschen in Deutschland digitale Gewalt erleben. Die Studie zeigt, dass digitale Gewalt erheblich das politische Engagement in Deutschland beeinflusst. Betroffene Politiker*innen, Journalist*innen oder Influencer*innen erleben sie regelmäßig, oft wöchentlich, und fühlen sich dauerhaft unsicher: Ein Zustand, der als Grundrauschen in der Arbeit beschrieben werden kann. Häufig verlagern sich Anfeindungen aus dem Netz auch in analoge Räume. Viele schränken daher ihre Kommunikation ein, reduzieren öffentliche Auftritte oder ziehen sich zeitweise zurück, wodurch ihr Wirkungskreis schrumpft. Besonders stark betroffen sind Frauen, die häufiger sexualisierte und misogyne Gewalt erfahren. Dies führt dazu, dass zahlreiche engagierte Frauen überlegen, keine Ämter zu übernehmen oder ihr Engagement aufzugeben. Digitale Gewalt wirkt somit als Barriere für politische Teilhabe.

Künstliche Intelligenz in politischen Kampagnen: Die von der Otto-Brenner-Stiftung durchgeführte Studie „Künstliche Intelligenz in politischen Kampagnen“ untersucht die Akzeptanz, Wahrnehmung und Wirkung von KI-Inhalten in der Politik. Methodisch basiert sie auf einer repräsentativen Befragung von 1.991 Personen sowie einem Online-Experiment mit 2.081 Teilnehmenden, die entweder echte oder KI-generierte Kampagnenbilder sahen.²⁷ Die zentrale Ergebnisse: Das Wissen über KI in Kampagnen ist gering, die Haltung mehrheitlich skeptisch. KI-Inhalte werden oft nicht erkannt, ihre Wirkung hängt primär vom Botschaftsinhalt, nicht vom Ursprung ab. Positive Darstellungen steigern dabei die Zustimmung und Glaubwürdigkeit, negative verstärken Angst und Ablehnung. Insgesamt verstärkt KI bestehende Kommunikationsstrategien, schafft aber keine völlig neuen Wirkungsmechanismen. Gefordert werden klare Kennzeichnungspflichten und Maßnahmen zur Medienkompetenzförderung.

KI-generierte Fehlinformationen auf X: Die Studie von Drolsbach und Pröllochs untersucht in großem Maßstab AI-generierte Fehlinformationen auf X.²⁸ Grundlage ist ein Datensatz von 91.452 durch Community Notes als irreführend gekennzeichneten Beiträgen. Ihre zentralen Ergebnisse: (1.) AI-generierte Fehlinformationen enthalten häufiger unterhaltende Inhalte und weisen insgesamt positivere Stimmungen auf. (2.) Sie stammen eher von kleineren Accounts, erreichen jedoch eine deutlich höhere Viralität, mehr Reichweite, Likes und Retweets als klassische Desinformation. (3.) Politisch neigen die UrheberInnen stärker zu konservativen Positionen. (4.) AI-generierte Inhalte werden als leicht weniger glaubwürdig und schädlich bewertet, bleiben aber wirksam in der Verbreitung. AI-generierte Fehlinformationen unterscheiden sich demnach strukturell von herkömmlicher Desinformation und erfordern angepasste Gegenstrategien von Plattformen und Politik.

DSA-Meldeverfahren selten genutzt: Gemeinsam mit KommunikationswisserInnen der Uni München und Mainz führte Das NETTZ eine Studie durch, in der ermittelt werden sollte, wie und ob UserInnen sozialer Medien die Meldewege des DSA’s verwenden. Seit dem Frühjahr letzten Jahres verpflichtet jene Verordnung auf Ebene der Europäischen Union besonders große Plattformen dazu, ihren NutzerInnen leicht zugängliche Meldungen zur Verfügung zu stellen, um illegale Inhalte zu melden. Sowohl in einer Online-Befragung von über 3.500 TeilnehmerInnen, als auch in 20 durchgeführten Interviews, haben die Befragten simulierte Meldewege verschiedener Plattformen getestet und wurden hinsichtlich ihrer Erfahrung befragt. Es zeigte sich, dass die Meldewege insgesamt positiv bewertet wurden, aber insbesondere Meldungs-Optionen nach dem DSA nur schwer auffindbar sind.²⁹