Seit 2. August 2026 gelten in der Europäischen Union neue Transparenzpflichten für KI-generierte Inhalte. Während die großen KI-Anbieter technische Lösungen entwickeln, mit denen sich Herkunft und Entstehung digitaler Inhalte nachvollziehen lassen, nimmt eine neue Studie mit Beteiligung der Goethe-Universität eine bislang wenig beachtete Nebenwirkung dieser neuen Transparenz in den Blick und geht der Frage nach: Was macht die Kennzeichnung von KI eigentlich mit der menschlichen Kreativität?
Anbieter von Systemen, die bereits vor dem 2. August 2026 auf dem Markt waren, haben eine Übergangsfrist bis 2. Dezember, um die neuen Anforderungen zu erfüllen. Spätestens seit Anthropics Bekanntmachung eines neuen Wasserzeichens für KI-generierte Textinhalte (siehe Box) befindet sich die Branche erneut in Aufruhr und auf der Suche nach neuen technischen Lösungen. Eine Studie wirft derweil eine grundlegendere Frage auf: Schwächt die Sichtbarmachung der Nutzung generativer KI ausgerechnet jene kreative menschliche Eigenleistung, die durch die Transparenz besser erkennbar werden soll?
Mensch, Maschine – wessen Werk?
Bisherige Untersuchungen haben sich vor allem damit beschäftigt, wie verpflichtende KI-Hinweise die Bewertung durch ein Publikum verändern. Ein Forschungsteam unter Leitung von Professor Kevin Bauer von der Goethe-Universität und Professorin Ekaterina Jussupow von der TU Darmstadt und richtet den Blick auf die Produzierenden selbst: Wie verändert sich die kreative Zusammenarbeit zwischen Mensch und Maschine, wenn Menschen von vornherein wissen, dass der Einsatz generativer KI offengelegt wird? Die Studie „The Indirect Disclosure Effect: How Disclosing Generative AI Use Impacts Human Creative Collaboration with AI“ betrachtet die Thematik nun also aus einer anderen Perspektive.
Ausgehend von Erving Goffmans Konzept des Impression Management gehen die Forschenden davon aus, dass Kreative bei einer angekündigten Offenlegung befürchten könnten, das Publikum werde ihren eigenen Anteil am Ergebnis unterschätzen. Nicht erst das tatsächliche Label verändert demnach die Wahrnehmung des fertigen Produkts durch den Rezipienten. Die Erwartung dieses Labels kann auf der produzierenden Seite beeinflussen, wie viel menschliche Kreativität überhaupt einfließt. Diesen Mechanismus bezeichnen die Autor*innen als „indirect disclosure effect“ – indirekten Offenlegungseffekt.
Für ihre Untersuchung führten sie zwei miteinander verknüpfte Mixed-Methods-Experimente durch. Die Teilnehmenden erstellten mithilfe eines Text-zu-Bild-Generators Bilder unter unterschiedlichen Offenlegungsbedingungen. Entscheidend war, ob sie davon ausgehen mussten, dass die Leser*innen über ihren Einsatz generativer KI informiert werden würde. Darüber hinaus interessierte die Forschenden, ob es einen Unterschied macht, ob die Teilnehmenden mit einer Bewertung durch Laien oder durch Expert*innen rechneten.
Es zeigt sich ein bemerkenswerter Effekt: Rechnen die Kreativen damit, dass ein Laienpublikum von ihrem KI-Einsatz erfahren wird, ziehen sie sich stärker aus dem kreativen Prozess zurück und überlassen der generativen KI mehr Gestaltungsspielraum. Ihre Prompts enthielten im Experiment 31,9 Prozent weniger Wörter; zugleich sank der von ihnen selbst angegebene Aufwand um 13,9 Prozent. Als wesentlichen Grund dafür identifizieren die Forschenden die Sorge der Teilnehmenden, das Publikum werde ihren eigenen kreativen Anteil am Ergebnis ohnehin nicht ausreichend erkennen.
Nach Einschätzung der Forschenden ist nicht allein die Art der späteren Kennzeichnung entscheidend, sondern vielmehr die Erwartung der Kreativen, dass das Publikum ihre menschliche Leistung nicht angemessen erkennen oder würdigen wird. Interessanterweise verschwand der Effekt weitgehend, wenn die Teilnehmenden davon ausgingen, dass ihr Werk von einem fachkundigen Publikum beurteilt würde: Bei einer Expertenjury waren die beobachteten Effekte nur noch gering und statistisch nicht signifikant.
Die Veränderung des kreativen Prozesses schlägt sich auch im Ergebnis nieder. Die unter erwarteter Offenlegung entstandenen Bilder wurden zwar als neuartiger, zugleich aber als weniger visuell ansprechend bewertet. Die Kennzeichnung beeinflusst damit nicht nur, wie ein Publikum ein KI-unterstütztes Werk beurteilt (was in anderen Studien untersucht wurde). Sie kann bereits verändern, welches Werk überhaupt entsteht.
Damit macht die Studie auf ein besonderes Spannungsfeld aufmerksam: Transparenzregeln sollen menschliche Urheberschaft und Verantwortlichkeit nachvollziehbarer machen. Hinter der Kennzeichnung „KI-generiert“ können sich sehr unterschiedliche Formen der Mensch-KI-Zusammenarbeit verbergen – vom nahezu vollständig automatisiert erzeugten Bild bis zu einem Werk, an dessen Konzeption und Ausgestaltung ein Mensch intensiv beteiligt war, aufgrund von Rechtslage und Auslegungsmechanismen jedoch nichtsdestotrotz das Prädikat „KI-generiert“ erhält.
Die Autor*innen warnen deshalb vor einem paradoxen Effekt: Wird der Einsatz generativer KI lediglich durch ein einfaches Label offengelegt, könnte die Regulierung unbeabsichtigt jene menschliche kreative Eigenleistung schwächen, die sie eigentlich sichtbar machen und schützen möchte – und zwar noch bevor das Publikum das Label überhaupt zu Gesicht bekommt.
Leonie Schultens