Desinformation ist ein viel diskutiertes Thema. Meinungsumfragen zeigen, dass große Teile der Bevölkerung es als relevantes Problem wahrnehmen, auch wenn Desinformation nach aktuellem Forschungsstand weniger weit verbreitet ist, als viele vermuten. Die damit verbundenen Sorgen sind jedoch nahezu allgegenwärtig. Und sie nehmen zu – gerade mit Blick auf KI und die rasanten technologischen Entwicklungen. Immer häufiger werden KI-Systeme für die Erzeugung und Verbreitung von Desinformation eingesetzt. Mit ihnen lassen sich in Sekunden überzeugend wirkende Texte, Bilder und Videos produzieren. Solche Inhalte werden nicht nur dafür genutzt, Einzelpersonen zu schaden oder sie zu täuschen, sondern auch, um politische Debatten zu beeinflussen. Gerade der Einsatz von KI in der politischen Kommunikation wird von vielen als Risiko gesehen oder schmälert das Vertrauen der Menschen in solche Inhalte. Zuletzt zeigten sexualisierte Deepfakes auf X, wie manipulierte Bilder auf politische Öffentlichkeiten einwirken und das Vertrauen in die Authentizität von Inhalten im Netz beeinflussen können.
Doch wie weit sind solche Inhalte nun eigentlich verbreitet? Wer kann sie als solche erkennen – und wer nicht? Wie wirken sie und wie können Mediennutzer*innen ihnen kompetent, kritisch und reflektiert begegnen? Welche politischen und medienpädagogischen Konsequenzen ergeben sich daraus?
Um diese und weitere praxisrelevante Fragen zu beantworten und den wachsenden Herausforderungen in den Themenbereichen Desinformation und Künstliche Intelligenz zu begegnen, haben das Institut für Demokratie und Zivilgesellschaft (IDZ) und die GMK im Frühling 2025 eine Bedarfserhebung unter 37 zivilgesellschaftlichen Organisationen durchgeführt.
Daraus entstanden ist ein neues Wissensformat, das praxisrelevante Fragen aus der Forschung kompakt und verständlich anhand zentraler Ergebnisse aufbereitet. Der Atlas: Wahrheit und Wissen im digitalen Wandel ist ein neues Format des Online-Magazins Machine Against the Rage am IDZ. Er soll denjenigen Orientierung bieten, die an wissenschaftlichen Erkenntnissen zu diesen Themen interessiert sind und diese in die Praxis tragen möchten.
Der erste Schwerpunkt des Atlas behandelt das Thema »Desinformation und KI« und wurde vom IDZ und der GMK im Rahmen von toneshift – Netzwerk gegen Hass im Netz und Desinformation zusammen gestaltet. Der Schwerpunkt bündelt den interdisziplinären Forschungsstand in insgesamt 19 Fragen und Antworten entlang viel diskutierter Annahmen zum Themenfeld.
Neben Definitionen, Einordnungen zu Verbreitung und Wahrnehmung von Desinformation und Deepfakes bietet der Atlas Einblicke in pädagogische Ansätze, mit denen sich Desinformation und Deepfakes gezielt adressieren lassen. Viele Studien zu Wahrnehmung, Einstellung und Befähigung der Menschen im Umgang mit Medienphänomenen wie Desinformation und KI beziehen sich auf Erwachsene. Für die pädagogische Arbeit sind jedoch insbesondere Erkenntnisse zu jungen Menschen relevant. Daher wurden explizit auch Studien einbezogen, die Auskunft über Kinder, Jugendliche und junge Erwachsene geben. Sie gelten in diesem Kontext als besonders vulnerable Gruppe, da sie sich flächig in digitalen Öffentlichkeiten bewegen, täglich mit visuellen und KI-generierten Inhalten konfrontiert sind und im Kompetenzerwerb für den Umgang damit unterstützt werden müssen. Erwachsene sind nicht notwendigerweise kompetenter, sondern vor allem schwieriger durch Bildungsangebote zu erreichen. Für die medienpädagogische und politische Bildungsarbeit bedeutet all das anhaltend neue Herausforderungen, für die die erste Ausgabe des Atlas Überblick und Orientierung bietet.
Zum Atlas: Wahrheit und Wissen im digitalen Wandel: https://atlas.machine-vs-rage.net/
Mehr über die GMK in toneshift: https://hass-im-netz.gmk-net.de/
