Der Kampf gegen Desinformation steckt in einer chronischen Krise. Nicht nur ist es schwer, sich in Wissenschaft, Politik und Zivilgesellschaft auf ein grundlegendes Verständnis des Phänomens zu einigen.¹ Auch zeigen Studien, dass verschiedene Maßnahmen gegen Desinformation (im weitesten Sinne) kaum eine lindernde Wirkung versprechen.² Faktenchecks, Inhaltsmoderation und Gegenrede kommen an ihre Grenzen, wenn es darum geht, Informationen richtig zu stellen, zu kontextualisieren oder deren Reichweite zu begrenzen. Initiativen zur Bekämpfung von Desinformation sind daher stets auch politisch umstritten, insbesondere weil Fragen von Informationsgewinnung, Meinungsformierung und Identitätsbildung sich vermischen.³

Der politische Streit um Wahrheit birgt Sprengstoff für tiefgreifende Konflikte, die sich aus dem Digitalen nicht nur in gesellschaftliche Debatten rund um Meinungsfreiheit und »Cancel Culture« übertragen, sondern auch in Misstrauen und zunehmenden Lagerkampf.⁴ Während Plattformen wie Facebook, Twitter und YouTube sich in der Vergangenheit ausgedehnte Regelkataloge für den Umgang mit Hass und Desinformation auferlegten,⁵ beschränkten die Plattform-CEOs ihre Anstrengungen mit der zweiten Amtszeit von Präsident Donald Trump auf ein Minimum. Anfang des Jahres verkündete beispielsweise Mark Zuckerberg, er werde das Fact-Checking auf seinen Plattformen abschaffen und dafür auf Community Notes setzen: ergänzende Informationen, die neben einem Posting veröffentlicht werden und Kontext zu den Inhalten bereitstellen sollen.⁶

Die Idee hinter Community Notes ist, dass die NutzerInnen einer Plattform nach bestem Wissen und Gewissen Inhalte auf ihre Richtigkeit prüfen und so effektiver zum Abbau von Befangenheit in der Moderation oder der Prüfung von Fakten beitragen sollen.⁷ Sie wurden 2021 zum ersten Mal auf der Plattform Twitter getestet, ursprünglich unter dem Namen »Birdwatch«. Das Prinzip dahinter war, ein Abstimmungssystem zu etablieren, das eine manipulative Nutzung zu politischen Zwecken unmöglich machen sollte.⁸ Mit der Übernahme der Plattform durch Elon Musk 2023 weitete dieser das Programm zu einer Alternative zum Fact-Checking aus. Community Notes sollten eine Ergänzung zur Moderation und eine kollaborative Form der Richtigstellung von Falschinformationen sein.⁹

Mit der Ankündigung Zuckerbergs im Januar 2025, dieses Modell übernehmen zu wollen, und der Umsetzung von Testläufen mit ähnlichen Mechanismen auf YouTube¹⁰ und TikTok¹¹ verstetigte sich der Trend von einer Professionalisierung hin zu einer Amateurisierung¹² bei der Moderierung von Plattforminhalten – mit Konsequenzen für den Umgang mit Mis- und Desinformation. Ob mit dieser Methode systemische Risiken durch Desinformation im Sinne des Digital Services Act vermindert werden, prüft beispielsweise die Europäische Kommission aktuell.¹³ Um zu verstehen, ob und inwiefern Community Notes ein probates Mittel gegen Desinformation sein können, muss allerdings zunächst bestimmt werden, wie sie funktionieren, wie sie sich über die Zeit entwickelt haben und welche Inhalte und Akteure wie betroffen sind.

^{Schritte der Datenerhebung und -verarbeitung für die Auswertungen in der vorliegenden Untersuchung.}

Studien zu englischsprachigen Community Notes heben hervor, dass sie das Vertrauen in Inhaltsprüfungen stärken¹⁴ und zur Reduktion von Falschinformationen beitragen könnten.¹⁵ Was bisher weit weniger im Fokus stand, ist, wen sie konkret betreffen, wann und warum sie veröffentlicht werden und welche Themen in einem konkreten regionalen Kontext verhandelt werden.¹⁶ Mit dieser Studie untersuchen wir auf Basis aller Community Notes seit 2021, ob und inwiefern sie im deutschsprachigen Kontext als Instrumente gegen irreführende Inhalte bzw. Desinformation taugen.¹⁷ Wie (gut) funktioniert also das System Community Notes? Wo findet es Anwendung? Wie wird es angenommen? Hierzu werteten wir 35.508 deutschsprachige Community Notes aus, von denen 2.228 veröffentlicht wurden.¹⁸

Das Backend der Community Notes

»Nicht X entscheidet, was angezeigt wird, sondern die Mitwirkenden.«¹⁹ So verspricht es das Community-Note-Programm seinen Beitragenden. Die Idee klingt zunächst überzeugend: X-NutzerInnen können Notizen zu Posts verfassen, die zusätzliche Informationen, Kontext oder Korrekturen liefern, um den Austausch auf der Plattform konstruktiver zu gestalten. Andere NutzerInnen bewerten wiederum diese Notizen danach, ob sie hilfreich sind, und ein Algorithmus sorgt dafür, dass nur jene veröffentlicht werden, die von Menschen mit unterschiedlichen Ansichten als hilfreich bewertet wurden. Ursprünglich startete Twitter 2021 ein Programm mit wenigen tausend Freiwilligen, um Inhalte auf ihre Korrektheit zu prüfen, ihnen Kontext zu geben und so zur Depolarisierung von Debatten beizutragen. Ziel war es, kollaborativ Wissen zu generieren, das zur besseren Informiertheit auf der Plattform beitrage.²⁰ Mittlerweile können sich X-NutzerInnen vorbehaltlich weniger Bedingungen für das Programm anmelden, nach einer Überprüfung über Community Notes abstimmen und später auch selbst welche verfassen.

^{Visualisierung des Verfahrens zur Veröffentlichung von Community Notes.}

Der Zeitpunkt der Einführung von Community Notes war nicht zufällig gewählt. Die Corona-Pandemie und die polarisierten Debatten hatten nachhaltig negative Auswirkungen auf das Vertrauen der BürgerInnen in Informationen und Institutionen.²¹ Zugleich wurden über digitale Plattformen massenhaft Falschinformationen verbreitet, gegen die die BetreiberInnen zum Teil restriktiv vorgingen. Das Richtigstellen von Informationen entwickelte sich sodann zu einem Triggerpunkt. Da, wo Fact-Checking als Methode der Eindämmung von Falschinformation von den Plattformen integriert wurde – beispielsweise anhand von Hinweiskästen und Content-Warnings –,²² kam es zunehmend zur Kritik, es solle eine bestimmte Sicht auf die Dinge vorgeschrieben werden.²³

Mitunter im rechtskonservativen Spektrum standen Factchecking-Akteure in der Kritik, dass sie durch ein zu linkes Framing von Informationen verzerrend in den öffentlichen Diskurs eingreifen würden.²⁴ Ein Grund dafür mag auch die übermäßig häufige Betroffenheit von konservativen und rechtspopulistischen Akteuren durch Fact-Checks sein.²⁵ Mit der Aussicht auf eine zweite Amtszeit Trumps wurde deutlich, dass Plattformen ihre Richtlinien mit Bezug auf das Prüfen von polarisierenden Inhalten und Accounts nach und nach zurückzogen.²⁶ Die Ursprünge des Community-Notes-Gedanken sind daher auch darauf zurückzuführen, einen Modus zu entwickeln, um Informationskontrolle partizipativer zu gestalten. Hierbei stand weniger das Debunking von Falschinformationen im Fokus, sondern das Prinzip, Wissen zu erweitern und zu kontextualisieren. Das System Community Notes steht – nach außen hin zumindest – für die Einbeziehung verschiedener Gruppen, für transparente Veröffentlichungskriterien und für eine schnelle Umsetzung korrektiver Maßnahmen.

^{Wegmarken der Entstehung und Evolution von Community Notes.}

Nach der Übernahme von Twitter – schon bald X – skalierte Musk die Funktion der Community Notes zu einem Masseninstrument und ersetzte damit zunehmend die plattformeigene Moderation von Inhalten.²⁷ Zugleich äußerte er sich wiederholt unzufrieden über das Funktionieren dieses Tools, insbesondere wenn die Notes ihn selbst betrafen.²⁸ Wurden zu den Höchstzeiten im Januar 2025 global knapp 120.000 Community Notes verfasst, so waren es im Juni desselben Jahres nur noch gut die Hälfte. Angesichts von rund 500 Millionen Posts pro Tag ist dies kein besonders hoher Wert.²⁹ Die Zeitreihe zeigt, dass wir es mit einer abnehmenden Tendenz beim Verfassen von Community Notes zu tun haben.

Deutschsprachige Community Notes machen durchschnittlich ein bis zwei Prozent am Gesamtaufkommen aus. Mit im Durchschnitt gerade einmal einer veröffentlichten deutschsprachigen Community Note pro Tag im Mai 2025 kann dieses System der freien Selbstkontrolle im deutschsprachigen Kontext kaum als Masseninstrument gelten. Gleichwohl unterliegt es großen Schwankungen in seiner Nutzung. So erhielten während der politisch kontroversen Debatten rund um die sogenannte Brandmauer im Kontext der Bundestagswahl (Januar 2025) über 1.400 Posts ein oder mehrere Community Notes; hingegen pendelte sich jüngst der Stand bei unter 600 beanstandeten Posts pro Monat ein. Die prozentuale Zahl der Community Notes, die letztlich auch veröffentlicht wurden, veränderte sich dabei stark. Die folgenden Beispiele zeigen Community Notes, wie sie aus Sicht der TeilnehmerInnen am Programm zu sehen sind.³⁰

Ob eine Community Note verfasst wird, hängt einerseits davon ab, ob NutzerInnen der Plattform einen bestimmten Post zur Prüfung vorschlagen oder registrierte NutzerInnen selbst einen Check initiieren. Im ersten Fall lässt sich nachvollziehen, dass durchschnittlich ungefähr ein Zehntel der angeforderten Community Notes dann auch tatsächlich verfasst werden. Damit eine Community Note veröffentlicht wird, müssen verschiedene Gruppen diese hilfreich finden und zahlreich darüber abstimmen.³¹ In den Daten zeigt sich, dass durchschnittlich nur gut sechs Prozent (2.228) der abgegebenen deutschsprachigen Community Notes (35.508) veröffentlicht wurden. Alle anderen bleiben nur für jene sichtbar, die sich im Community-Notes-Programm angemeldet haben.

Die Kunst des Community Notings

Community Notes sind in der Funktionsweise komplex, unterliegen Konjunkturen und sind in der Außenwahrnehmung umstritten. Ihr Anspruch ist nicht – wie im Falle professioneller Faktenchecks –, entlang fixer Regeln und abgestimmter Verfahren zu arbeiten.³² Vielmehr entwickeln die TeilnehmerInnen eigene Stile beim Verfassen der Community Notes und legen Maßstäbe von Wahrheit nach ihren eigenen Kriterien an. Stilistisch gilt es, sich kurz und neutral zu einer Aussage in einem Post zu verhalten und sie mit Sachverstand und Quellen zu widerlegen oder zu kontextualisieren. Um aktiv Community Notes schreiben zu dürfen, müssen NutzerInnen jedoch zunächst eine bestimmte Anzahl an Bewertungen für Community Notes abgegeben haben, die sich später als hilfreich herausstellen. Dieser relativ langfristige Prozess, von der Anmeldung bis hin zum aktiven Schreiben, soll Manipulationen und koordinierte Kampagnen verhindern.

Möchte ein User einen Post beanstanden, muss zunächst ausgewählt werden, wogegen der Post verstößt. Die Auswahl reicht von fehlendem Kontext, faktischen Fehlern und ungeprüften Behauptungen bis hin zu überholten Informationsständen, manipulierten Medien und (missverständliche bzw. ungekennzeichnete) Satire. Am häufigsten werden Posts markiert und berichtigt, denen (vermeintlich) wichtiger Kontext fehlt, gefolgt von solchen mit (vermeintlich) faktischen Fehlern. Der Anteil der veröffentlichten Community Notes ist wiederum am höchsten bei manipulierten Medien³³ (18,3 Prozent) und am niedrigsten bei unbestätigten Tatsachenbehauptungen (7,1 Prozent).

Die Auswertung der Community Notes zeigt, dass die NutzerInnen ihre Richtigstellungen und Aussagen in der Regel mit Quellen belegen. In mehr als einem Viertel der Anmerkungen (28 Prozent) wird sogar mehr als eine Quelle verlinkt, in nur zwei Prozent der Fälle wird keine Quelle genannt. Am häufigsten verwendet werden – bei 61 Prozent der Fälle – Quellen aus dem Bereich Nachrichten und Medien, also journalistische Angebote. Danach folgen Social-Media-Quellen (23 Prozent), mit X selbst an der Spitze, und Verweise auf Behörden, Verwaltung und internationale Institutionen (20 Prozent). In absoluten Zahlen der einzelnen Domains liegt Wikipedia auf dem ersten Platz, gefolgt von X selbst und dem Account der Tagesschau. Auch Faktencheck-Organisationen spielen eine Rolle. So liegt Correctiv auf Platz 14 der am häufigsten verlinkten Seiten. Insgesamt ist der Anteil an Community Notes, die auf eine Faktencheck-Organisation verweisen, mit etwa zwei Prozent dennoch gering. 

Dass Wikipedia die mit Abstand am häufigsten verlinkte Seite in den Community Notes ist, ist auch X-Chef Musk nicht verborgen geblieben – und das nicht gerade zu seiner Freude. Im August dieses Jahres forderte Wikipedia-Mitbegründer Larry Sanger, der bekannterweise der Online-Enzyklopädie Einseitigkeit und einen ideologisch linken Bias vorwirft,³⁴ Musk auf X auf, NutzerInnen darüber abstimmen zu lassen, ob Wikipedia als Quelle in Community Notes verboten werden sollte.³⁵ Musk stimmte daraufhin Sanger zu, dass die Seite nicht als Quelle verwendet werden sollte.

Ein Kontrollmechanismus, der für die Qualität der veröffentlichten Community Notes sorgen soll, ist die schon genannte kollektive Bewertung von Community Notes. Dieses Verfahren der Bewertung führt dazu, dass Community Notes in der Regel erst deutlich später als die beanstandeten Posts veröffentlicht und für alle Plattform-NutzerInnen sichtbar werden. Wie die Abbildung unten zeigt, vergehen oft viele Stunden, bis eine Anmerkung den Status »hilfreich« erreicht. Nur jede vierte hilfreiche Community Note wird innerhalb der ersten elf Stunden seit Veröffentlichung des betroffenen Posts sichtbar; 50 Prozent brauchen mehr als 19 Stunden, bis sie die benötigte Einschätzung als hilfreich bekommen. Zum Vergleich: Schätzungen gehen davon aus, dass Posts bereits innerhalb der ersten 80 Minuten die Hälfte ihrer Impressions erzielen. Die Anzahl an Posts, die nach 24 Stunden noch nicht den größten Teil ihrer Aufmerksamkeit auf sich gezogen haben, ist mit weniger als fünf Prozent vernachlässigbar.³⁶

Es zeigt sich aber auch: Ein erheblicher Teil der geschriebenen Community Notes auf X wird gar nicht erst der Öffentlichkeit angezeigt. Um die Gründe hierfür zu beleuchten, haben wir eine Teilmenge der Community Notes einer statistischen Auswertung unterzogen. Zunächst einmal zeigte sich, dass der zeitliche Abstand zwischen der Veröffentlichung des Posts und dem Erstellen einer Community Note eine entscheidende Rolle dafür spielt, wie viele Stimmen eine Community Note erhält. Gleiches gilt für die Viralität des adressierten Tweets und die Anzahl der FollowerInnen der Post-AutorInnen. Diese Faktoren beeinflussen, wie häufig potentielle Abstimmende die zu bewertende Community Note überhaupt erst zu Gesicht bekommen.

Die Anzahl der abgegebenen Stimmen hat wiederum einen signifikanten Einfluss darauf, ob eine Community Note überhaupt angezeigt werden kann, denn viele Community Notes erhalten dafür zu wenige Stimmen. 4,8 Prozent der untersuchten Community Notes haben sogar keine einzige Stimme erhalten. Gleichwohl ist eine große Zahl zustimmender Bewertungen keine Garantie dafür, dass eine Community Note angezeigt wird, denn es müssen NutzerInnen mit verschiedenen Perspektiven ihre Zustimmung geben.

Akteure und Themen der Community Notes

Teil unserer Analyse war es zudem, genauer zu untersuchen, wessen Posts mit Community Notes versehen wurden und zu welchen Themen besonders viele Anmerkungen verfasst bzw. veröffentlicht wurden.³⁷ Untersucht haben wir jene Accounts, die zehn oder mehr Posts verfasst haben, welche mit einer Community Note (veröffentlichte wie unveröffentlichte) versehen wurden. Von diesen Accounts stammen mehr als 60 Prozent der Posts, über die diskutiert wurden. Dabei zeigt unsere Auswertung hinsichtlich Akteurstypen, dass unter diesen X-Accounts jene den größten Anteil ausmachen, die aus dem Bereich Medien und Journalismus kommen – mit ca. 29 Prozent. Die zweitgrößte Gruppe machen mit ca. 27 Prozent politische Akteure aus, also vor allem PolitikerInnen und Mitglieder der Regierung. Kurz darauf folgen mit 24 Prozent Accounts, die sich der Gruppe von BürgerInnen ohne erkennbare Merkmale wie ein politisches Mandat oder eine entsprechende Affiliation zuordnen lassen. 

Deutlich seltener sind unter den Accounts mit den meisten kommentierten Posts Akteure aus den Bereichen Recht und Sicherheit (z.B. Polizei), Wirtschaft (z.B. Unternehmen), zivilgesellschaftliche Akteure (z.B. NGOs oder politische Organisationen), Forschung und Fachwissen sowie kulturelle Einrichtungen bzw. KünstlerInnen. Sie machen jeweils nur zwischen ein und sieben Prozent der Accounts aus. 

Es fällt auf, dass fast alle Accounts, die mehrfach Community Notes bekommen haben, auch eine überdurchschnittlich hohe Anzahl an FollowerInnen aufweisen (durchschnittlich 159.550). Die große Sichtbarkeit der Inhalte dieser Accounts dürfte eine Rolle dabei spielen, dass sich zum einen die Wahrscheinlichkeit erhöht, dass eine Person, die bei Community Notes mitwirkt, damit in Kontakt kommt und eine Community Note verfasst. Zum anderen erhöht aber vermutlich die große Sichtbarkeit der Inhalte auch die Motivation, wahrgenommene Desinformationen zu korrigieren beziehungsweise mit Kontext zu versehen. 

Dass vor der Richtigstellung einer (vermutlichen) Desinformation auch ihre gesellschaftliche Relevanz herangezogen wird, ist aus dem Fact-Checking bekannt.³⁸ Allein aufgrund der schier unüberschaubaren Menge neuer Inhalte, die jede Minute, ja sekündlich in sozialen Netzwerken veröffentlicht werden, wäre es unmöglich, sämtliche Informationen zu überprüfen. Der Fokus auf besonders reichweitenstarke Akteure, deren Inhalte viele NutzerInnen erreichen, liegt also nahe. Trotzdem zeichnen sich hier Grenzen des Verfahrens der Community Notes ab: Auch die Verlagerung der Prüfung von wenigen professionellen Fact-Checkern hin zu einem Verfahren mit einer größeren Beteiligung von Laien hat offenbar nicht dazu geführt, dass auch die weniger prominenten Nischen der Plattform erreicht werden.

Interessant ist es dennoch, dass insbesondere Posts von Accounts aus dem Bereich Medien und Journalismus – also Akteure der Informationsvermittlung – oft mit Community Notes versehen werden. Ein genauerer Blick in diese Gruppe zeigt, dass fast die Hälfte dieser Gruppe einzelne JournalistInnen sind. Etwa ein weiteres Viertel sind Akteure, die sich der Gruppe Blogger/Vlogger und Podcaster zuordnen lassen. Unter den häufig in Community Notes erwähnten Accounts finden sich deutlich seltener öffentlich-rechtliche Medien sowie traditionelle Angebote aus Rundfunk und Print (ca. 18 Prozent). Die Community Notes konzentrieren sich im Bereich Medien auf einige wenige Akteure. Tagesschau, ZDFheute und Der Spiegel sind neben den Accounts von Julian Reichelt und seinem Online-Portal Nius die medialen Accounts mit den meisten annotierten Posts. 

Bei den politischen Akteuren führen Markus Söder (CSU), Alice Weidel (AfD), Ruprecht Polenz (CDU), Karl Lauterbach (SPD) und Hubert Aiwanger (Freie Wähler) die Spitze der Accounts mit den jeweils meisten Posts, für welche Community Notes geschrieben wurden, an. Sieht man sich hingegen nur jene Community Notes an, die auch veröffentlicht wurden, ändert sich das Bild etwas: Die politischen Akteure mit den meisten veröffentlichten Community Notes sind Markus Söder (CSU) mit 30, Fabio De Masi (BSW) mit 13, der Account der CSU mit zwölf, Ralf Stegner (SPD) mit zwölf sowie Arno Gottschalk (SPD) mit zehn veröffentlichten Community Notes.

In einem weiteren Analyse-Schritt haben wir uns zudem angesehen, inwiefern die häufig mit einer Community Note versehenen Accounts eine Parteizugehörigkeit bzw. ideologische Ausrichtung aufweisen. Klar hervor treten hier mit 27 Prozent Akteure, die sich nationalistischen Parteien und deren Ideologien zuordnen lassen (darunter vor allem mediale und politische Akteure sowie BürgerInnen). Bei etwa jedem fünften Account ist keine eindeutige parteipolitische bzw. ideologische Zuordnung erkennbar, meist weil sie sich mit unterschiedlichen Standpunkten zu verschiedenen Themen äußern und von selbst keine Parteizugehörigkeit oder -präferenz preisgeben (darunter vor allem mediale Akteure sowie BürgerInnen). Auch verfolgen etwa zehn Prozent der Accounts keine politische Agenda, etwa weil sie sich gar nicht politisch äußern oder einer neutralen Berichterstattung verpflichtet sind (z.B. öffentlich-rechtliche Medien). Ökologische, sozialistische/linke und Ein-Themen-Akteure³⁹ liegen mit neun bis zehn Prozent im Mittelfeld. 

Die Aufstellung zeigt, dass Akteure aus dem rechten bis rechtsextremen Spektrum besonders häufig von Community Notes betroffen sind. Allerdings lässt sich aus diesen absoluten Zahlen noch keine Aussage darüber ableiten, welche ideologischen Fraktionen auf der Plattform mit welcher Wahrscheinlichkeit von Community Notes adressiert werden, weil wir die Grundgesamtheit der jeweiligen Gruppen nicht kennen. Nach dem sogenannten X-odus vieler linker und liberaler Accounts von der Plattform liegt nahe, dass auf X weit weniger Inhalte aus diesen Milieus gepostet, verbreitet und daher auch gecheckt werden. Zugleich ließe sich dann auch vermuten, dass heterogene Kräfte die Inhalte aus dem rechtsalternativen Lager hinterfragen bzw. Community Notes als hilfreich bewerten. Genauer lässt sich dieser Zusammenhang bestimmen, indem wir zumindest untersuchen, wie hoch die Wahrscheinlichkeit ist, dass eine Community Note zu Posts eines politischen Accounts als hilfreich bewertet wird. Hierbei wird deutlich, dass Community Notes weniger als hilfreich bewertet werden, wenn sie ökologische, liberale und christdemokratische Akteure adressieren. Umgekehrt lässt sich jedoch nicht sagen, dass andere Akteursgruppen signifikant häufiger hilfreiche Community Notes erhalten.

Neben der Frage, wessen Posts häufig mit Community Notes versehen werden, haben wir zudem untersucht, welche Themen diese Posts behandeln.⁴⁰ In zwölf Prozent der Posts bzw. der dazugehörigen Community Notes geht es um Themen aus dem Bereich Klima und Energie. Dazu zählen Posts zu Klimawandel, Klimaschutz und Klimaaktivismus, Energiepolitik und Verkehrswende oder ähnliches. Danach folgt mit acht Prozent der Posts der Themenbereich Politik in Deutschland, welcher beispielsweise Posts zu einzelnen politischen Ereignissen (Wahlen und Wahlprognosen, Staatsbesuche usw), zu Aussagen und Handlungen von PolitikerInnen oder zu allgemeineren Themen wie Demokratie in Deutschland beinhaltet. Anschließend sind ähnlich oft die Themen Krieg in der Ukraine (sechs Prozent), Krieg in Gaza und Israel (fünf Prozent) sowie (deutsche) Wirtschafts- und Sozialpolitik (fünf Prozent) zu finden. Danach folgen Posts aus den Themenbereichen Kriminalität und Sicherheit sowie Migration mit jeweils etwa vier Prozent. Die Ergebnisse ähneln denen anderer Studien, die die Themen von Community Notes im niederländischen Raum untersucht haben.⁴¹ Ähnlich wie bei den Akteuren lässt sich aber auch bei den Themen keine Aussage darüber treffen, ob Posts zu diesen Themen mit höherer Wahrscheinlichkeit (also im Verhältnis zu ihrem Aufkommen) eine Community Note erhalten – oder doch eher generell widerspiegeln, welche Themen auf X besonders viel diskutiert werden. 

Die Community hinter den Notes

Die Idee, dass sich Communitys jenseits externer Kontrolle selbst verwalten sollten, um mit problematischen Inhalten umzugehen, knüpft an bekannte Silicon-Valley-Verheißungen an. Diese gehen davon aus, dass eine Gemeinschaft von NutzerInnen am besten funktioniert, wenn sie nicht von außen reguliert wird. Im Falle der Community Notes deutet schon der Name an, dass das gemeinsame Fact-Checking eine Verbindung zwischen den NutzerInnen schaffen soll. Ob das wirklich klappt, ist aber fraglich. Die TeilnehmerInnen des Community-Note-Programms haben aufgrund ihrer Anonymität erstmal keine Chance, dauerhaft mit anderen NutzerInnen in Kontakt zu treten, da es keine etablierten Foren gibt, in denen sich über bestimmte Inhalte ausgetauscht werden kann. Hinzu kommt, dass X die Arbeit der »Community« kaum anerkennt. Zwar können Punkte⁴² gesammelt werden, wenn Community Notes als hilfreich eingestuft werden. Allerdings gibt es im Vergleich zu anderen Plattformen nur wenige Anreize, sich dauerhaft im Community-Note-Programm zu engagieren.⁴³

Über die Gründe, warum die Noting-Aktivitäten der NutzerInnen seit einiger Zeit stark abnehmen, lässt sich aktuell nur spekulieren. Eine Rolle könnte es spielen, dass sie zunehmend auf Grok, den KI-Chatbot von X, zurückgreifen, in der Absicht, Informationen zu prüfen oder um schnell weitere Informationen zu erhalten. Denkbar ist aber auch, dass der geringe Anteil an Veröffentlichungen im Verhältnis zur Menge verfasster Community Notes – bedingt sowohl durch die allgemeine Bereitschaft über diese abzustimmen, als auch durch den Bridging-Algorithmus⁴⁴ – die Motivation der Mitwirkenden beeinflusst. Wer (wiederholt) Community Notes schreibt, die es nicht zur Veröffentlichung schaffen, dürfte schnell das Interesse am Programm verlieren.⁴⁵ Der Anteil der NutzerInnen, der mehr als eine (deutschsprachige) Note geschrieben hat, ist im Zeitverlauf der letzten gut drei Jahre ähnlich (gering) geblieben. Knapp die Hälfte aller AutorInnen in unserem deutschsprachigen Sample hat nur eine einzige Community Note verfasst, während über 50 Prozent von nur sieben Prozent der Teilnehmenden verfasst wurden. Aktuell geht gar die Anzahl neuer TeilnehmerInnen an den Community Notes zurück, während auch die Abbrecherquote steigt, also mehr NutzerInnen aufhören, Community Notes zu verfassen.

Ein anderes Modell der kollaborativen Wissensproduktion stellt Wikipedia dar, deren Funktion wiederholt mit dem System der Community Notes verglichen wird.⁴⁶ Die Grundsätze der beiden Ansätze scheinen auf den ersten Blick eng beieinander zu liegen: unter Verwendung externer Quellen und mit der Expertise einer breit aufgestellten Community neutral formuliertes und faktenbasiertes Wissen bereitstellen. Gleichwohl sind die Prozesse von Community Notes in vielen Bereichen grundsätzlich anders gestaltet. Statt auf Diskurs und Kompromissen beruht die Veröffentlichung von Community Notes auf Abstimmungen. Diskussionen werden nicht nur ersetzt durch Algorithmen, diese sollen darüber hinaus als vermeintlich bessere Schiedsrichter fungieren, indem sie die ideologischen Neigungen der NutzerInnen neutralisieren. 

Diskussionen sind im Konzept des Community-Note-Programms nicht vorgesehen. Das führt auch dazu, dass NutzerInnen das Tool selbst dazu verwenden, für andere Programm-TeilnehmerInnen Hinweise zu schreiben oder sie von ihren Ansichten zu überzeugen. Zum Beispiel davon, dass ein Post keine Community Note benötige oder dass die Notes nicht dafür missbraucht werden sollen, Meinungen zu veröffentlichen. Bei Wikipedia sind Diskussionen auf den entsprechenden Diskussionsseiten eines jeden Artikels explizit gewünscht. Hinzu kommt, dass dort alle Bearbeitungen nachvollziehbar sind; frühere Artikel-Versionen sind dauerhaft gespeichert und einsehbar. Darüber hinaus gibt es Mechanismen, die Manipulationen eingrenzen sollen, beispielsweise indem Artikel zu besonders kontroversen Themen für öffentliche Bearbeitungen gesperrt werden oder auch NutzerInnen bei missbräuchlichem Verhalten gesperrt werden können.

Das System von Wikipedia funktioniert über weite Strecken deshalb, weil sich über Zeit Hierarchien zwischen den NutzerInnen herausgebildet haben, in deren Rahmen langjähriges und konstruktives Engagement den Aufstieg zu AdministratorInnen mit erweiterten Rechten ermöglicht. So argumentiert José van Dijck: »the real wisdom of Wikipedia can be found not in its crowds but in its crowd management.«⁴⁷ Eben jene Hierarchien werden auch kritisiert, etwa weil es neue NutzerInnen oft schwer haben, sich im mittlerweile umfangreichen Regelwerk der Enzyklopädie zurechtzufinden. Gleichzeitig dürften die Hierarchien aber auch einen wesentlichen Teil dazu beitragen, NutzerInnen zu motivieren, sich langfristig bei Wikipedia zu engagieren. Darüber hinaus zeigen weitere Studien, dass sich das langfristige Engagement der Menschen daraus ergibt, dass sie Beziehungen zu anderen Freiwilligen aufbauen und sich über die formelle und informelle Anerkennung freuen, die sie für ihre Beiträge erhalten.⁴⁸

Community Notes: Ein Mittel gegen Desinformation?

Abschließend kommen wir zu der Frage, inwieweit Community Notes ein Mittel gegen Desinformation sein können. In öffentlichen Statements vermitteln Plattformen wie X den Eindruck, dass Community Notes zur besseren Einordnung von Informationen beitragen.⁴⁹ Dabei wird davon ausgegangen, dass die verfassten Community Notes stets sachdienlich sind und einen Mehrwert für das Verständnis von Informationen bieten.⁵⁰ Dass viele allerdings nicht annähernd in die Richtung eines Faktenchecks oder einer Kontextualisierung gehen, wird schnell deutlich, wenn Community Notes mit Blick auf ihre Zweckmäßigkeit bewertet werden. Nur 1.066 der deutschsprachigen Community Notes wurden als nicht hilfreich eingeordnet. Inwiefern die weiteren 32.214 nicht veröffentlichten Community Notes hingegen potenziell hilfreich sind oder nicht, lässt sich zunächst nicht sagen. Um einschätzen zu können, inwiefern Community Notes überhaupt den Anspruch haben Falschinformation zu widerlegen, haben wir daher eine Stichprobe aus den deutschsprachigen Community Notes gezogen und fünf Idealtypen unterschieden:⁵¹

Sofern Community Notes nützlich im Umgang mit fehlerhaften oder irreführenden Informationen sein sollten, müssten sie demnach entweder versuchen, Behauptungen zu widerlegen oder einen wichtigen Kontext hinzuzufügen. Allerdings fällt in unserer Untersuchung auf, dass eine Mehrheit der Community Notes gar nicht dem Anspruch standhält, Aussagen richtigzustellen, sondern am häufigsten Community Notes selbst kommentieren und auf deren eigentliche Funktion hinweisen. Diese Housekeeping Notes werden oft mit dem Hinweis NNN (Note Not Needed) versehen und sollen eine vorherige Community Note als überflüssig oder illegitim kennzeichnen.⁵² Fact Notes und Context Notes kombiniert machen zwar fast die Hälfte aller Post aus (44,4 Prozent). Allerdings steht jenen potenziell hilfreichen Community Notes eine Mehrheit (55,5 Prozent) gegenüber, die nicht nur gegen die eigenen Standards von Community Notes verstoßen; sie haben auch prinzipiell nichts mit der Informationsprüfung zu tun.⁵³

Hinzu kommt, dass viele potenziell hilfreiche Fact und Context Notes nicht veröffentlicht werden, weil sie nicht genug oder zu widersprüchlich bewertet werden. Viele kollaborativen Checks versanden intern oder erscheinen zu spät. Dass Community Notes also systemische Risiken wie Desinformation auf digitalen Plattformen im großen Stil minimieren würden, darf im Falle von X also bezweifelt werden: Kontext zu misleading Posts hinzuzufügen, ist weit weniger präsent als man es vermuten würde. Community Notes – in der Form wie sie auf X umgesetzt werden – tragen daher kaum zur nachhaltigen Minimierung von systemischen Risiken bei, wie sie der DSA beschreibt.

Eine andere Frage ist, ob Community Notes zur Minderung von Polarisierungsdynamiken beitragen können. Immerhin ist die Idee hinter dem Bridging-Algorithmus, dass auch die politische Gegenseite eine Community Note als hilfreich bewerten muss; man schafft so eine Grundlage für verschiedene Nutzergruppen, um gemeinsam Informationen zu beurteilen. Insbesondere das rege Kommentieren in den Housekeeping Notes zeigt, dass es einen Bedarf gibt, sich über die Einschätzung von Tatsachen und Behauptungen auszutauschen. Hier liegt durchaus Potenzial für eine deliberative Debattenkultur. So könnte etwa die intrinsische Motivation der Community-Note-TeilnehmerInnen zum Meinungsstreit durch Strukturen gestärkt werden, die Dialog und Diskussion fördern, anstatt ausschließlich auf eine algorithmische Lösung zu setzen. Ob das allerdings die Idee des Eigentümers von X ist, darf bezweifelt werden.

Auch vor diesem Hintergrund sind Community Notes als Teil eines größeren geopolitischen Spannungsfeldes zu sehen. Im Streit zwischen der EU und den USA über die Regulierung von (US-amerikanischen) Tech-Unternehmen rücken die Community Notes ins Zentrum der Auseinandersetzung. Während die US-Administration den DSA als Zensurgesetz brandmarkt, hebt sie zugleich die vermeintlich positive Wirkung von Community Notes hervor. Damit bleibt die Maßnahme ein regulativer Zankapfel, an dem sich größere Konflikte entzünden könnten – nicht zuletzt, weil moderative Eingriffe dadurch minimiert werden. Das Laissez-Faire-Prinzip der Community Notes fügt sich weitaus besser in die strategische Aufstellung der Trump-Administration als in den Anspruch der EU, BürgerInnen mit konkreten Maßnahmen vor Manipulation und Desinformation schützen zu wollen.

Ohne auf ein Ergebnis zu warten, ziehen nun – wie bereits erwähnt – auch andere Plattformen bei den Community Notes nach. Auch für sie gilt: Ob diese als funktionierende Alternativen zum Fact-Checking betrachtet werden können, hängt davon ab, wie das Community-Notizsystem des jeweiligen Anbieters funktioniert. Dies kann sich von Plattform zu Plattform durchaus unterscheiden. Für X zumindest lässt sich festhalten, dass KI zunehmend menschliche Interaktionen zur Einschätzung von Inhalten ersetzen soll. Über kurz oder lang dürften User-basierte Formen der Interaktion daher eine geringere Rolle spielen. Es zeigt auch, dass dieser Community-basierte Austausch und der offene Streit um Fakten nie wirklich im Wertezentrum der rechtslibertären Tech-Eliten standen.