Desinformation und KI

Aktualisiert am 15.01.2026

Immer häufiger werden KI-Systeme für die Erzeugung und Verbreitung von Desinformation eingesetzt – nicht nur in Form von Texten, sondern auch in Form von Bildern und Videos. Wie weit sind solche Inhalte verbreitet? Wie wirken sie? Wer kann sie als solche erkennen – und wer nicht? Fragen wie diese werden in der Forschung empirisch bearbeitet und beantwortet. In diesem ersten thematischen Schwerpunkt des Atlas kondensieren wir aktuelle Forschungsergebnisse.

Um praxisrelevante und offene Fragen zum Gegenstandsbereich zu erfassen, wurde im Frühling 2025 eine Bedarfserhebung unter 37 zivilgesellschaftlichen Organisationen durchgeführt. Die Ergebnisse sind der Ausgangspunkt für die Recherchen, die im Frühjahr und Sommer 2025 durchgeführt wurden. Diese umfassten den nationalen wie auch internationalen Forschungsstand – und zwar interdisziplinär.

Viele Studien zu Wahrnehmung, Einstellung und Befähigung der Menschen im Umgang mit Medienphänomenen wie Desinformation und KI beziehen sich auf Erwachsene. Für die pädagogische Arbeit sind Erkenntnisse zu jungen Menschen als besonders vulnerabler Gruppe jedoch mindestens genauso relevant. Daher wurden explizit auch Studien einbezogen, die Auskunft über Kinder, Jugendliche und junge Erwachsene geben. Die entsprechenden Abschnitte sind gesondert ausgewiesen.

Zentrale Begriffe

Desinformation: Der Begriff Desinformation ist nicht einheitlich definiert. In der Forschung versteht man darunter meist nachweislich falsche Informationen. Ob dabei andere Aspekte wie eine Täuschungsabsicht, der entstandene Schaden oder das Format relevant sind, ist Gegenstand laufender Debatten. Diese Dimensionen mögen theoretisch einleuchten, in der Praxis sind sie allerdings nur schwer zu bestimmen, da Intentionen und Folgen nur selten abzuschätzen sind und die Grenzen zwischen Meinungsäußerung, Tatsachenbehauptungen, Unterhaltung und Ironie fließend sind.

Künstliche Intelligenz: Unter dem Begriff Künstliche Intelligenz (KI) werden technologische Methoden zusammengefasst, die Aufgaben übernehmen, für die üblicherweise menschliche Fähigkeiten notwendig gewesen wären, wie beispielsweise bei komplexen Entscheidungen oder beim Erkennen von Objekten. Computer-Systeme, die diese Fähigkeiten menschlicher Informationsverarbeitung mittels statistischer und algorithmischer Verfahren imitieren, werden als Künstliche Intelligenz bezeichnet.

Generative Künstliche Intelligenz: Unter generativer künstlicher Intelligenz (GenAI) versteht man Systeme und Programme, die auf Verfahren des maschinellen Lernens basieren und auf Basis großer Datenmengen trainiert wurden, um darin Muster, Strukturen und statistische Häufigkeiten zu erkennen und nachzubilden. Durch einfache Sprach- oder Texteingaben (Prompts) können diese Modelle mittels Wahrscheinlichkeitsberechnungen und statistischer Mustererkennung selbstständig neue Inhalte erzeugen, zum Beispiel Texte, Bilder, Videos oder Audiodateien.

Deepfakes: Unter sogenannten Deepfakes wird eine spezielle Form synthetisch generierter Inhalte verstanden, bei denen mit Hilfe von Deep-Learning-Verfahren realistisch wirkende Manipulationen erzeugt werden – meistens von Gesichtern, Stimmen oder Handlungen echter Menschen. Diese künstlichen Nachahmungen werden unter anderem dafür eingesetzt, um andere Menschen zu täuschen oder den imitierten Personen Schaden zuzufügen.

Zum Inhalt

Desinformation und KI Verbreitung

Desinformation und KI Wahrnehmung

Desinformation und KI Kompetenzen

Einschränkend und der Transparenz halber sei betont, dass für die Auswahl der folgenden Studien keine der für Metastudien oder systematische Übersichtsarbeiten obligatorischen, methodisch standardisierten Verfahren zum Einsatz kamen. Entsprechend wurden auch keine Ausschlusskriterien oder formalen Gewichtungen vorgenommen. Wo solche Übersichtsarbeiten jedoch vorlagen, wurde nach Möglichkeit an sie angeknüpft. Aufgrund der hohen technologischen Dynamik sowie der fortlaufenden regulatorischen Entwicklungen müssen die vorliegenden Erkenntnisse stets im zeitlichen Kontext gelesen werden. Eine kontinuierliche Aktualisierung auf Basis neuer Studien ist vorgesehen und wird entsprechend mit Zeitstempeln kenntlich gemacht.

Dieser Atlas entstand im Rahmen von toneshift – Netzwerk gegen Hass im Netz und Desinformation. toneshift wird im Rahmen des Bundesprogramms »Demokratie Leben!« durch das Bundesministerium für Bildung, Familie, Senioren, Frauen und Jugend gefördert. Die Inhalte wurden durch das Institut für Demokratie und Zivilgesellschaft (IDZ) und die Gesellschaft für Medienpädagogik und Kommunikationskultur (GMK) erstellt. Für inhaltliche Aussagen und Meinungsäußerungen tragen die Publizierenden dieser Veröffentlichung die Verantwortung.