Desinformation und KI

Erster Schwerpunkt des MATR-Atlas erschienen

In den vergangenen Wochen häuften sich die Medienberichte über das merkwürdige Verhalten von Grok. So heißt der KI-Chatbot, der auf der Plattform X integriert ist. Er kann unter anderem (visuelle) Inhalte des Mikroblogging-Dienstes direkt in seinen Antworten weiterverarbeiten und zur Generierung neuer Inhalte nutzen. Im Zentrum jener Diskussionen stand die Bildfunktion von Grok, die kürzlich massenhaft genutzt wurde, um reale Personen digital bis auf die Unterwäsche zu entkleiden. Zielscheibe der sogenannten Nudification waren vor allem Frauen, Prominente und mit zunehmender politischer Zuspitzung des Konflikts um diese Vorfälle auch das Regierungspersonal der involvierten Staaten.^[1]

Der Fall nahm in kurzer Zeit eine größere politische Dimension an. Plattformbetreiber und Tech-Milliardär Elon Musk bezeichnete die Kritik am Verhalten von Grok als Zensur und warf der britischen Regierung faschistische Methoden vor.^[2] Zuvor hatte die britische Medienaufsichtsbehörde Ofcom angekündigt, zu prüfen, ob Grok gegen geltende Standards verstoße. Technologieministerin Liz Kendall schloss auch eine Sperrung nicht aus. In Malaysia und Indonesien wurde Grok bereits gesperrt.^[3] Der Fall kurbelte so wieder mal die Debatten über die Probleme von KI im Kontext von Desinformation an. In der Öffentlichkeit herrscht hier nach wie vor Unklarheit in wichtigen Fragen. Zum Beispiel:

Um solche und weitere Fragen zu beantworten, hat das MATR-Team ein neues Format ins Leben gerufen. Unser Atlas zu Wahrheit und Wissen im digitalen Wandel verfolgt das Ziel, praxisrelevante Fragen der digitalen Konfliktforschung kompakt, verständlich und basierend auf zentralen Forschungsergebnissen aufzubereiten. Er soll vor allem Orientierung für diejenigen bieten, die zu diesen Themen arbeiten und informiert sein möchten, aber nur wenig Zeit zur Verfügung haben, um die sehr umfangreiche Studienlage auszuwerten. Für den ersten Schwerpunkt unseres Atlas zum Zusammenhang von Desinformationen und KI haben wir mit der Gesellschaft für Medienpädagogik und Kommunikationskultur (GMK) zusammengearbeitet.

Für die Erstellung des Schwerpunkts haben wir in einem ersten Schritt eine umfangreiche Bedarfsabfrage unter 37 zivilgesellschaftlichen Organisationen durchgeführt und aufbauend auf den Ergebnissen mit unserer Arbeit begonnen: Nach umfangreichen Recherchen und reichlich Schreibarbeit können wir nun einen Katalog von insgesamt 19 Fragen präsentieren, der über 100 wissenschaftliche Forschungsarbeiten, Metastudien und systematische Überblicksarbeiten mit nationaler und außeruniversitärer Umfrageforschung verbindet.

Der Atlas mit dem Schwerpunkt »Desinformation und KI« befasst sich mit viel diskutierten Annahmen in diesem Themenfeld, die in der Forschung kritisch hinterfragt werden, sowie mit Erkenntnissen zu medienpädagogischen Ansätzen, um diese Themen zu adressieren und ihnen kompetent zu begegnen. Die Fragen beschäftigen sich mit der Verbreitung und Wahrnehmung von Desinformationen und KI sowie mit der Einordnung von Kompetenzen, die im Umgang mit diesen Phänomenen relevant sind. Damit soll zu einer stärkeren Evidenzbasierung der Arbeit in der Praxis beigetragen und die Anwendung wissenschaftlicher Erkenntnisse vorangebracht werden. Wir freuen uns auf Ihr Feedback!

Fußnoten

^{[1] Siehe Amelia Gentleman & Helena Horton, »›Add Blood, Forced Smile‹: How Grok’s Nudification Tool Went Viral«, in: Guardian, 11. Jan. 2026, online hier.}

^{[2] Siehe »Musk attackiert britische Regierung im KI-Streit«, auf: Tagesschau, 12. Jan. 2026, online hier.}

^{[3] Siehe Osmond Chia & Silvano Hajid, »Malaysia and Indonesia Block Musk’s Grok Over Explicit Deepfakes«, auf: BBC, 12. Jan. 2026, online hier.}