Artificial Intolerance
Künstliche Intelligenz im Bildermarkt des Hasses

Die eigentümliche Kamera im Kopf

Seitdem Bild-Generatoren als Anwendung generativer Künstlicher Intelligenz auf den Markt gekommen sind, gehen viele davon aus, dass Bilder quasi nur noch damit produziert würden – und zum anderen, dass all diese Bilder einen bleibenden Eindruck hinterließen. Obgleich generative KI zweifellos eine disruptive Wirkung darauf hat, wie Inhalte in der Informationsgesellschaft produziert und verarbeitet werden, sind Vermutungen über ihre Erstellung, Verbreitung und Wirkung (bislang) größtenteils nur Thesen. Welche Bilder tatsächlich eine Spur hinterlassen, hängt von vielen Faktoren ab, nicht nur davon, ob sie täuschend (echt) aussehen. Zumal KI-generierte Bilder heute noch vielfach Fehler aufweisen.

In der Diskussion rund um das Manipulationspotential solcher Bilder wird ihre technische Raffinesse oftmals mit Wirkungskraft verwechselt. Und so beweisen die Worte der Schriftstellerin Bertha von Suttner ihre Zeitlosigkeit, wenn es darum geht, was Menschen wirklich beeinflusst: »Man trägt doch eine eigentümliche Kamera im Kopfe, in die sich manche Bilder so tief und deutlich einätzen, während andere keine Spur zurücklassen.« Die aktuelle Ausgabe von Machine Against the Rage widmet sich solchen Spuren im digitalen Bildermarkt der rechtsalternativen Milieus.

Der Fokus zeigt ein differenziertes Bild der (schädlichen) Nutzung von generativer KI auf. Eine Rückschau auf die letzten zwei Jahre seit dem Release von ChatGPT zeichnet die Entwicklungen der Technologie und der damit einhergehenden Gefahrenpotentiale bzw. Befürchtungen nach. Tatsächlich bedienen sich rechtsextreme Akteure gerne neuer technologischer Tools. Die Analyse der Nutzung generativer KI in rechtsalternativen Netzwerken zeigt allerdings, dass sie bei ihnen gar nicht so oft und aus unterschiedlichen Motiven zum Einsatz kommt. Beleuchtet wird auch die Frage, welche rechtlichen Konsequenzen auf der Grundlage des DSA folgen können – und wo der weite Schutzbereich der Meinungsfreiheit auch unbequeme Äußerungen schützt.

Ein konkreter Fall, in dem das Manipulationspotential via Telegram eventuell überschätzt wurde, sind die diesjährigen Landtagswahlen in Sachsen, Thüringen und Brandenburg. Der Radar betrachtet die teilweise nachlassende Nutzung von Telegram durch Rechtsaußenakteure – in einer Zeit, in der man eine Steigerung hätte erwarten können.

In der Rundschau geht es um Plattformen, Daten und die Durchsetzung des geltenden Rechts. In Europa bzw. in Deutschland entstehen neue Strukturen (Trusted Flagger, Streitbeilegungsstellen), um den Digital Services Act wirksam anzuwenden und durchzusetzen. Währenddessen hat der Fall der X-Sperre in Brasilien gezeigt, dass Gerichte durchaus wirksame Maßnahmen verhängen können, wenn Online-Dienste die Einhaltung der Regeln nicht ernst nehmen.

Mit dieser Ausgabe schließt ein zweijähriger Beobachtungszyklus. Für die Forscher*innen hinter dem Monitoring heißt es nun, die Ergebnisse aus einer Langzeitperspektive zu bewerten, die Analysesystematik zu überprüfen und zu verbessern.

Amélie Hennemann-Heldt, Beraterin vom Dienst für diese Ausgabe

^{Dieses Editorial gibt ausschließlich die persönliche Auffassung
der Autorin als Mitglied des Wissenschaftlichen Beirats wieder.}