Transparenz ist nicht gleich Wahrheit: was Plattformen bei der Kennzeichnung von KI-Bildern beachten müssen
KI-generierte Bilder sind in den sozialen Medien weitverbreitet. Spätestens ab August 2026 sind Plattformen durch den EU-AI Act dazu verpflichtet, einige dieser Inhalte zu kennzeichnen. Wie Nutzende sogenannte KI-Labels wahrnehmen und welchen Einfluss diese auf die Glaubwürdigkeit von Informationen haben, untersucht eine Studie von CISPA-Forscherin Sandra Höltervennhoff. Ihr Paper „‚That’s another doom I haven’t thought about’: A User Study on AI Labels as a Safeguard Against Image-Based Misinformation“ wurde auf der Conference on Human Factors in Computing Systems (CHI 2026) veröffentlicht und dort mit einer Honorable Mention ausgezeichnet.
Bei der Verbreitung von Desinformation in den sozialen Medien spielen KI-Bilder eine immer größere Rolle. Regulierungsbehörden und Unternehmen weltweit setzen daher auf sogenannte KI-Labels, die Inhalte als „KI-generiert“ kennzeichnen sollen. Eine aktuelle Studie von Forschenden des CISPA Helmholtz-Zentrums für Informationssicherheit, der Ruhr-Universität Bochum (RUB) und des MPI Bochum hat nun erstmals umfassend untersucht, wie Nutzende auf KI-Labels reagieren. Dazu haben die Forschenden qualitative Fokusgruppengespräche mit einer groß angelegten Online-Umfrage mit über 1.300 Teilnehmenden aus den USA und Europa kombiniert.
Während in den Fokusgruppen nach der grundsätzlichen Wahrnehmung und dem geschätzten Nutzen von KI-Labels gefragt wurde, hatte die Online-Umfrage zum Ziel, die tatsächliche Wirkung von KI-Labels auf die Bewertung von Informationen zu messen. „Dafür haben wir Social-Media-Posts mit Nachrichten simuliert“, erklärt Sandra Höltervennhoff, zusammen mit Jonas Ricker von der RUB Erst-Autorin der Studie. „Die Teilnehmenden sahen jeweils eine Textbotschaft zusammen mit einem Bild. Das Bild war entweder KI-generiert oder echt, und die Textbotschaften waren entweder wahr oder falsch. Die KI-Bilder waren mit Labels versehen. So ergaben sich vier Kombinationen, anhand derer wir untersuchen konnten, wie KI-Labels die Wahrnehmung beeinflussen.“
KI-Labels: große Erwartungen, überschaubarer Nutzen
In den Fokusgruppen hat sich gezeigt, dass viele Teilnehmende KI-Labels grundsätzlich als hilfreiches Instrument wahrnehmen, um KI-generierte Bilder zu erkennen und Täuschungen zu vermeiden. Gleichzeitig äußern sie jedoch deutliche Bedenken hinsichtlich der praktischen Umsetzung. Besonders kritisch sehen sie die fehlende Standardisierung, eine mögliche Machtkonzentration bei den Plattformen sowie die Zuverlässigkeit technischer Lösungen. Ein zentrales Thema ist zudem das Mislabeling: Falsche oder fehlende Labels werden als ernsthafte Gefahr gesehen, da sie das Vertrauen in das gesamte Kennzeichnungssystem untergraben könnten. Trotz dieser Vorbehalte befürworten viele Teilnehmende die Einführung von Labels.
Die Ergebnisse der Online-Umfrage zeigen hingegen ein ambivalentes Bild: KI-Labels können zwar dazu beitragen, dass Nutzende falschen Inhalten mit KI-generierten Bildern seltener glauben. Gleichzeitig führen sie jedoch zu problematischen Nebenwirkungen. Viele Teilnehmende haben sich stark auf die Kennzeichnung selbst verlassen. In der Folge sind ungekennzeichnete Inhalte eher als wahr eingeschätzt worden, obwohl sie falsch waren. Umgekehrt sind wahre Inhalte mit KI-Label häufiger angezweifelt worden. Insgesamt hat sich dadurch sogar die Fähigkeit verschlechtert, zuverlässig zwischen wahren und falschen Informationen zu unterscheiden.
Transparenz ist nur ein Baustein im Kampf gegen Desinformation
Die Studie zeigt damit, dass Kennzeichnungen nicht einfach zu „mehr Wahrheit“ führen, sondern die Art und Weise menschlicher Informationsbewertung verändern. Labels wirken wie mentale Abkürzungen: Sie lenken Aufmerksamkeit und beeinflussen Vertrauen, und zwar oft stärker als der Inhalt selbst. Damit verbunden ist das Risiko, dass sich die Beurteilung weg vom Inhalt hin zur Kennzeichnung verschiebt. „Eine mögliche Erklärung ist, dass KI-Labels generell Skepsis auslösen“, so Höltervennhoff. „Menschen werden vorsichtiger, aber nicht unbedingt differenzierter. Außerdem wird aktuell sehr stark vor KI gewarnt, sodass andere Formen von Desinformation vielleicht weniger beachtet werden. Dabei gab es Desinformation ja schon lange vor KI.“ Transparenz schafft damit zwar Orientierung, ersetzt aber nicht die kritische Auseinandersetzung mit Informationen.
Zielführende Weiterentwicklung: ein Maßnahmenmix
Für Plattformen ergibt sich daraus eine klare Herausforderung: Sie müssen Kennzeichnungssysteme nicht nur technisch zuverlässig umsetzen, sondern auch so gestalten, dass sie nicht zu Fehlinterpretationen führen. „Transparenz allein genügt nicht“, führt Höltervennhoff aus. „Entscheidend ist, wie Nutzende diese Informationen verstehen und nutzen. Deswegen können Labels nur ein Baustein im Umgang mit KI-generierten Inhalten sein.“ Um ihre Wirkung zu entfalten, sollten sie mit weiteren Maßnahmen wie Aufklärungskampagnen, Kontextinformationen oder ergänzenden Prüfmechanismen kombiniert werden. Mit Blick auf die bevorstehenden regulatorischen Umsetzungen des EU-AI Acts liefert die Studie wichtige Hinweise für die Praxis: Wer KI-Inhalte kennzeichnet, beeinflusst nicht nur die Transparenz, sondern auch die Wahrnehmung von Wahrheit.
Originalpublikation:
Sandra Höltervennhoff, Jonas Ricker, Maike M. Raphael, Charlotte Schwedes, Rebecca Weil, Asja Fischer, Thorsten Holz, Lea Schönherr, and Sascha Fahl. 2026. "That's another doom I haven't thought about": A User Study on AI Labels as a Safeguard Against Image-Based Misinformation. In Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (CHI '26). Association for Computing Machinery, New York, NY, USA, Article 38, 1–32. https://doi.org/10.1145/3772318.3791006
Ähnliche Pressemitteilungen im idw
