
Maßnahmen gegen Hass im Netz: Das Wichtigste aus dem Herbst 2023
Aktuelle, kommentierte Ereignisse im Kampf gegen digitalen Hass und ausgewählte Publikationen zum Thema. Diesmal im Rückblick auf das letzte Quartal: Ausgabesperre für zivilgesellschaftliche Projekte +++ Deepfake von Olaf Scholz für AfD-Parteiverbot +++ Neue Webdoku zu TikTok und Antisemitismus +++ Threads jetzt auch in der EU +++ Exodus auf X hält weiter an +++ Konkurrenzkampf um Chatbots +++ Mangelhafte Umsetzung des DSA +++ Pornowebseiten als VLOPs +++ EU bringt AI Act auf den Weg +++ Diskussion über Desinformation und persönliche Überzeugung +++ Neue Studien zum Zusammenhang von Kollektivität und Hass sowie zu Gegenmaßnahmen und Persönlichkeitsmerkmalen im Kontext von Desinformation.
Kurz vor Jahresende 2023 hat sich die Bundesregierung auf einen Entwurf für das Digitale-Dienste-Gesetz (DDG) geeinigt: die nationale Umsetzung der EU-weiten Verordnung über digitale Dienste.1 Doch auch wenn nun festgelegt ist, wie die Bundesnetzagentur (BNetzA) als nationale Koordinierungsbehörde für digitale Dienste und Beschwerdestelle mit anderen Behörden beim Daten-, Kinder- und Jugendschutz und bei rechtswidrigen Inhalten zusammenarbeiten soll, ist eine finale Verabschiedung des DDG in Deutschland wohl erst im März/April realisierbar. In Gänze in Kraft treten werden die Regeln des Digital Services Act (DSA) in den EU-Mitgliedstaaten jedoch bereits ab Mitte Februar. Behördliche Hürden und verschobene Zeitpläne haben in Deutschland zum Verzug geführt.2 Was bedeutet das für die nationale Umsetzung der EU-Verordnung? Eine Beteiligung vieler Behörden benötigt immerhin extra viel Abstimmung.
Der DSA soll europaweit einheitliche Regeln für das Entfernen und Einschränken von Online-Inhalten einführen, die gegen rechtswidrige und plattforminterne Richtlinien verstoßen. Zudem müssen die Betreiber proaktiv deren Entstehungs- und Verbreitungsrisiko abmildern, aber auch transparent begründen, wie ihre Inhalte moderiert werden. Die Effektivität des DSA steht und fällt jedoch mit der nationalen Umsetzung. Zwar liegt die Verantwortung für die Beaufsichtigung der Very Large Online Platforms (VLOPs) bei der Europäischen Kommission;3 doch bei kleineren Anbietern, darunter momentan auch der Messenger-Dienst Telegram, kommt in Deutschland in etwa der BNetzA eine tragende Rolle zu: als Koordinierungs- und Aufsichtsbehörde, aber auch als Beschwerdestelle für Nutzer*innen.4 Fraglich ist dabei, was es für die Durchsetzung von Nutzer*innenrechten bedeutet, dass es nun doch keinen nationalen Ansprechpartner pro Dienstanbieter mit Sitz in der EU geben soll. Im aktuellen DDG-Entwurf wurde dieser Mechanismus aufgrund eines EuGH-Urteils gestrichen.5
Für die Zivilgesellschaft von Interesse ist, dass der DSA einheitliche Meldeverfahren und mehr Klarheit über die Moderationspraxen bringen soll, aber auch besseren Datenzugang zu VLOPs, mit dem sich die Plattformen mit großer Verantwortung kritisch begleiten lassen. Das DDG sieht außerdem vor, einen Beirat für die nationale Koordinierungsstelle einzurichten, zur Hälfte aus zivilgesellschaftlichen Akteur*innen bestehend. Offen bleibt beim Thema Datenzugang, welche Daten genau zur Verfügung stehen sollen, ob es ein einheitliches Antragsverfahren gibt, nach welchen Kriterien Anfragen von Forscher*innen bewertet werden und wie deren Akkreditierung gestaltet wird. Ein delegierter Rechtsakt soll hier 2024 Klarheit bringen. Forscher*innen, die systemische Risiken in der EU untersuchen wollen, können – zumindest formal – seit Ende November schon Zugang bei X beantragen.6 Mit 2024 als Superwahljahr steht der DSA vor einer Zerreißprobe: Wie effektiv der Gesetzesakt etwa zur Integrität der EU-Wahlen beitragen kann, wird sich noch zeigen. Denn auch der Umgang mit Löschanordnungen aus Mitgliedstaaten, deren Rechtstaatlichkeit zweifelhaft ist, könnte zu Herausforderungen führen. Generell besteht auch das Problem, dass Plattformen wie Instagram, TikTok und X problematische Inhalte noch immer zögerlich löschen.7
Zitationsvorschlag: Forschungsstelle BAG »Gegen Hass im Netz«, »Maßnahmen gegen Hass im Netz: Das Wichtigste aus dem Herbst 2023«, in: Machine Against the Rage, Nr. 5, Winter 2024, DOI: 10.58668/matr/05.4.
Verantwortlich: Wyn Brodersen, Lena-Maria Böswald, Maik Fielitz, Holger Marcks, Harald Sick, Christian Donner.
- Der Entwurf: Bundesministerium für Digitales und Verkehr, »Bundesregierung verabschiedet Digitale-Dienste-Gesetz«, Pressemitteilung vom 20. Dez. 2023, online hier.
- Siehe Eduard Müller, »Digitale-Dienste-Gesetz steht«, auf: Tagesspiegel Background, 6. Dez. 2023, online hier.
- Also solche gelten Online-Anbieter mit mind. 45 Mio. Nutzer*innen innerhalb der EU.
- Siehe Anna Biselli, »Digitale-Dienste-Gesetz: Bei der Bundesnetzagentur laufen die Fäden zusammen«, auf: Netzpolitik, 22. Dez. 2023, online hier.
- Siehe Anna Biselli, »Hatespeech: EuGH sägt österreichisches Plattformgesetz ab«, auf: Tagesspiegel Background, 10. Nov. 2023, online hier.
- Siehe Natasha Lomas, »Elon Musk is Now Taking Applications for Data to Study X — But only EU Risk Researchers Need Apply…«, auf: TechChurch, 29. Nov. 2023, online hier.
- Siehe Svea Eckert, »Social-Media-Plattformen: Nachlässige Moderation, geringer Schutz«, auf: Tagesschau, 6. Dez. 2023, online hier.
- Wir berichteten in der letzten Rundschau ausführlicher darüber: Forschungsstelle BAG »Gegen Hass im Netz«, »Maßnahmen gegen Hass im Netz: Das Wichtigste aus dem Sommer 2023«, in: Machine Against the Rage, Nr. 4, Herbst 2023, online hier.
- Siehe Das NETTZ, »Offener Brief: Eine unterfinanzierte Zivilgesellschaft gefährdet die Demokratie«, auf: Das NETTZ, 11. Dez. 2023, online hier.
- Siehe Bundesarbeitsgemeinschaft Demokratieentwicklung, »Hunderten Demokratieprojekten droht das Aus zum 1. Januar – tausende Entlassungen sind zu befürchten«, Pressemitteilung vom 8. Dez. 2023, auf: Amadeu Antonio Stiftung, online hier.
- Siehe Junge Freiheit, »Interne Daten: Davor warnt der AfD-Bundesvorstand jetzt alle Mitglieder«, 25. Nov. 2023, online hier.
- Siehe Anika Schlünz & Kevin Gensheimer, »Satire-Aktion in Berlin: AfD landet vor Bundeskanzleramt hinter Gittern«, in: Berliner Zeitung, 27. Nov. 2023, online hier.
- Zentrum für Politische Schönheit, »Endlich: Bundesregierung verbietet die AfD«, auf: YouTube, 29. Nov. 2023, online hier.
- Siehe @RegSprecher | 27. Nov. 2023 | 14:00; sowie »›Schüren Verunsicherung und sind manipulativ‹: Sprecher der Bundesregierung äußert sich verärgert über gefälschtes Scholz-Video«, in: Tagesspiegel, 27. Nov. 2023, online hier.
- Siehe Lisa Berins, »Die Deepfake-Apokalypse«, in: Frankfurter Rundschau, 28. Dez. 2023, online hier.
- Siehe Markus Reuter, »Markenrecht: Bundesregierung lässt Video von Künstlerkollektiv sperren«, auf: Netzpolitik, 29. Nov. 2023, online hier.
- Siehe online hier.
- Online hier.
- Bereits dabei waren u.a. die Ko-Leiter unserer Forschungsstelle, Holger Marcks und Maik Fielitz, sowie die beratende Expertin der Forschungsstelle, Karolin Schwarz.
- Siehe Clothilde Goujard, Edith Hancock & Pieter Haeck, »Why Europeans Don’t Have Threads yet«, auf: Politico, 6. Juli 2023, online hier.
- Siehe Sarah Perez, »Instagram Will Shut Down Its Companion App Threads by Year End«, auf: TechChurch, 17. 2021, online hier.
- Erst in der letzten Rundschau behandelten wir, ob Bluesky das Zeug zur X-Alternative hat.
- Siehe z.B. Martin Fehrensen & Simon Hurtz, »30 Prognosen für 2024 – von realistisch bis utopisch«, auf: Social Media Watchblog, 19. Dez. 2023, online hier.
- Siehe hier.
- Siehe dazu Yair Rosenberg, »Elon Musk’s Disturbing ›Truth‹«, auf: The Atlantic, 15. Nov. 2023, online hier; sowie David Goldman, »Elon Musk Agrees with Antisemitic X post That Claims Jews ›Push Hatred‹ against White People«, auf: CNN Business, 17. 2023, online hier.
- Ziel der Brand Saftey ist es, zu gewährleisten, dass sich die Werbung einer Marke sowohl in einem rechtlich sicheren Umfeld (»Legal Safety«) bewegt als auch dass das Umfeld zur Marke passt (»Brand Suitability«). Sie stellt sicher, dass der Ruf der Marke nicht durch den Kontext, in dem sich ihre Werbung bewegt, geschädigt wird.
- Markus Reuter, »X-Odus: Immer mehr Medien machen Schluss mit Twitter«, auf: Netzpolitik, 27. 2023, online hier.
- Siehe Nicole Goodkind, »Elon Musk Apologizes for Antisemitic Tweet But Tells Advertisers ›go f**k yourself‹«, auf: CNN Business, 30. Nov. 2023, online hier.
- Siehe Tobias Gürtler, »Exodus der Werbekunden: ›Twitter passt nicht mehr zu unserer Unternehmenskultur‹«, in: Wirtschaftswoche, 26. Nov. 2023, online hier.
- Siehe Torsten Kleinz, »Illegale Inhalte und mangelnde Transparenz. EU-Kommission eröffnet Verfahren gegen X«, in: Spiegel, 18. Dez. 2023, online hier.
- Lars Wienand, »NetzDG greift nicht. Deutsche Bußgeldverfahren gegen Plattform X sind geplatzt«, auf: t-online, 28. 2023, online hier.
- Siehe Kate Conger, »Elon Musk Brings Conspiracy Theorist Alex Jones Back to X«, in: New York Times, 9. Dez. 2023, online hier.
- Siehe Kate Conger & Jack Nicas, »Twitter Bars Alex Jones and Infowars, Citing Harassing Messages«, in: New York Times, 6. Sept. 2018, online hier.
- Siehe @elonmusk | 9. Dez 2023 | 17:48.
- Vor einem Jahr haben wir über den engen Konkurrenzkampf berichtet; siehe Forschungsstelle BAG »Gegen Hass im Netz«, »Maßnahmen gegen Hass im Netz: Das Wichtigste aus dem Winter 2023«, in: Machine Against the Rage, Nr. 2 (Frühling 2023), online hier.
- Siehe »OpenAI Announces Leadership Transition«, Pressemitteilung vom 17. Nov, 2023, auf: OpenAI, online hier.
- Siehe dazu Justin Sullivan, »OpenAI Staff Threaten to Quit Unless Board Resigns«, auf: Wired, 20. Nov. 2023, online hier; sowie »Sam Altman Returns as CEO, OpenAI Has a New Initial Board«, Pressemitteilung vom 29. Nov,. 2023, auf: OpenAI, online hier.
- Siehe Henrik Oerding, »Darum musste Sam Altman gehen«, in: Zeit, 19. Nov. 2023, online hier.
- Siehe Chris Köver, »10 Milliarden für Start-up. Wofür braucht OpenAI so viel Geld?«, auf: Netzpolitik, 25. Jan. 2023, online hier.
- Siehe »Partnership With Axel Springer to Deepen Beneficial Use of AI in Journalism«, Pressemitteilung vom 13. Dez. 2023, auf: OpenAI, online hier.
- Siehe Michael M. Grynbaum & Ryan Mac, »The Times Sues OpenAI and Microsoft Over A.I. Use of Copyrighted Work«, in: New York Times, 27. 2023, online hier.
- Siehe Sundar Pichai & Demis Hassabis, »Introducing Gemini: Our Largest and Most Capable AI Model«, auf: Google Blog, 6. Dez. 2023, online hier.
- Siehe Devin Coldewey, »Google’s Best Gemini Demo Was Faked«, auf: TechChurch, 7. 2023, online hier.
- Siehe Paul J. Davies, »The Fed Is Boosting Small-Bank Profits, But Dangers Lurk«, auf: Bloomberg, 11. Jan. 2024, online hier.
- Siehe Zeynep Yirmibesoglu, »Nach 100 Tagen: Große Internetkonzerne ignorieren Digital Services Act«, auf: Netzpolitik, 4. Dez. 2023, online hier.
- Siehe Bundesministerium für Digitales und Verkehr, »Bundesregierung verabschiedet Digitale-Dienste-Gesetz«, Pressemitteilung vom 20. Dez. 2023, auf: BMDV, online hier.
- Siehe Bundesamt für Sicherheit und Informationstechnik, »Digital Cluster Bonn: Sechs Bundesbehörden arbeiten bei der Digitalisierung enger zusammen«, auf: BSI, online hier.
- Siehe Julia Tar, »Gesetz über digitale Dienste: Drei Pornoseiten kommen auf die Liste«, auf: Euractiv, 21. Dez. 2023, online hier.
- Siehe Julia Tar, »NGOs fordern Einstufung von Porno-Webseiten als ›systemisches Risiko‹«, Euractiv, 31. Okt. 2023, online hier.
- Siehe Europäischer Rat der Europäischen Union, »Gesetz über künstliche Intelligenz: Rat und Parlament einigen sich über weltweit erste Regelung von KI«, Pressemitteilung vom 9. Dez. 2023, auf: Europa, online hier.
- Siehe @BertuzLuca | 22. Jan 2024 | 08:00.
- Abkürzung für Emotional Misinformation – The Interplay of Emotion and Misinformation Spreading on Social Media.
- Jula Lühring et al., »Emotions in Misinformation Studies. Distinguishing Affective State from Emotional Response and Misinformation Recognition from Acceptance«, Preprint auf: PsyArXiv, Apr. 2023, abrufbar hier.
- Es handelt sich dabei um eine Verzerrung im Denken, die Gegenstand der Kognitionspsychologie ist. Sie schafft die Tendenz, Dinge selektiv wahrzunehmen, so dass sie sich kongruent zu den eigenen Erwartungen verhalten und diese bestätigen. Geschehnisse, die sich konträr zur eigenen Meinung verhalten, werden unbewusst übersehen und ausgeblendet. Im Deutschen wird dieser Effekt daher auch Bestätigungsfehler oder Bestätigungsverzerrung genannt.
- Siehe Dan Williams, »Misinformation Is Not a Virus, and You Cannot Be Vaccinated against It«, 4. 2023, auf: Dan Williams Philosophy, online hier. Vor einem Jahr haben wir bereits auf die Erscheinung von Foolsproof hingewiesen. In seiner Monografie kommt der Sozialpsychologe Sander van der Linden mitunter zu dem Schluss, dass der confirmation bias unsere Informationsauswahl erheblich beeinflusst; siehe hier. Dass sich Effekte auch im Umgang mit Falsch- und Desinformationen zeigen, scheint daher nur logisch.
- Auf eine mögliche Faktenskepsis als Nebeneffekt bei der Bekämpfung von Desinformation haben wir bereits im Sommer hingewiesen; Forschungsstelle BAG »Gegen Hass im Netz«, »Maßnahmen gegen Hass im Netz: Das Wichtigste aus dem Frühling 2023«, in: Machine Against the Rage, Nr. 3 (Sommer 2023), online hier.
- Julie Jiang et al., »Social Approval and Network Homophily as Motivators of Online Toxicity«, auf: ArXiv, 11. Okt. 2023, online abrufbar hier.
- Siehe z.B. Federico Bianchi et al.»›It’s Not Just Hate‹. A Multi-Dimensional Perspective on Detecting Harmful Speech Online«, in: Yoav Goldberg, Zornitsa Kozareva & Yue Zhang (Hg.), Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing (Abu Dhabi: Association for Computational Linguistics. 2022), S. 8093–8099, online abrufbar hier.
- Zu finden online hier.
- Robert A. Blair et al., »Interventions to Counter Misinformation. Lessons from the Global North and Applications to the Global South«, in: Current Opinion in Psychology, Bd. 55 (2024), id. 101732, online abrufbar hier.
- Ethan Porter & Thomas J. Wood, »Factual Corrections. Concerns and Current Evidence«, in: Current Opinion in Psychology, Bd. 55 (2024), id. 101715, online abrufbar hier.
- Dustin P. Calvillo, Alex León & Abraham M. Rutchick, »Personality and Misinformation«, in: Current Opinion in Psychology, Bd. 55 (2024), id. 101752, online abrufbar hier.