von Anonym
„Vorsicht, dieses Buch ist KI-generiert und deshalb bei uns unverkäuflich, es entspricht nicht unseren Qualitätskriterien“ [1] heißt es im Schaufenster der Kinderbuchhandlung Nimmerland in Mainz. Verantwortlich für diese Aktion ist Inhaberin und Buchhändlerin Susanne Lux, die auf den zunehmenden Einsatz von KI-generiertem Text- und Bildmaterial im Bereich Kinderbuch aufmerksam machen möchte und deren Einsatz „ganz klar der Abschreckung dienen soll“ [2].
Seelenloser KI-Einzug ins Kinderbuch
Mit Blick auf aktuelle Entwicklungen innerhalb der Kinderbuchbranche, wundern Aktionen wie die der Buchhandlung nicht. Das Institut für angewandte Kindermedienforschung (IfaK) der Hochschule der Medien in Stuttgart berichtet, wie zunehmend KI-generierte Inhalte, sowohl auf inhaltlich textueller als auch auf bildlich-illustrativer Ebene, Einzug in den Kinderbuchmarkt finden [3]. Die Entwicklungen sorgen insbesondere innerhalb der Branche für Aufruhr: Ende 2024 veröffentlicht Illustratoren Organisation e.V., der Berufsverband für deutschsprachige Illustrator*innen, einen öffentlichen Appell an Verlage, zum Verzicht auf KI-generierte Bilder [4]. Neben arbeitsmarkt- und urheberrechtsbezogenen Bedenken wird in dem Aufruf insbesondere von vielschichtigen Sorgen gegenüber der aktuellen Verbreitung KI-generierter Inhalte im Bereich Kinderbuch berichtet:
„Der Einsatz KI-generierter Bilder bedroht nicht nur unseren Berufsstand, sondern gefährdet die gesamte Kreativwirtschaft sowie essenzielle Werte der Gesellschaft“ [5], denn „generative KI erzeugt wie am Fließband seelenlose Bilder, denen künstlerische Tiefe, emotionale Wirkung und unverwechselbarer Stil fehlen“ [6].
Mithilfe von drei ausgeführten Argumenten bekräftigt die Organisation ihren Appell: „Generative KI- Bilder sind leblos und berühren nicht“, „Generative KI-Bilder übernehmen keine Verantwortung“ und „Generative KI-Bilder sind unethische Produkte“ [7]. Neben Bedrohungen des Berufsstands, urheberrechtlichen Bedenken und Ähnlichem, werden hier insbesondere emotions- und wertebezogene Anliegen geäußert, um sich „klar gegen die drohende Zerstörung von Menschlichkeit und Kreativität zugunsten einer seelen- und verantwortungslosen Technologie“ [8] zu positionieren.
#buchbrauchtmensch
Reaktionen auf KI-generierte Kinderbüchern gab es jedoch nicht nur vom Berufsverband und Verlagen. Am 15. November 2024 wurde im Rahmen des Vorlesetags und in Hinblick auf die KI-bezogenen Entwicklungen ein Flashmob in den sozialen Medien unter dem Hashtag #buchbrauchtmensch realisiert, an dem sich etwa 200 Akteur*innen aus der Kinderbuchbranche online beteiligten [9]. Unter dem Hashtag äußerten Nutzer*innen auf Instagram ihre Gedanken und forderten zur Ablehnung von KI-generierten Inhalten im Kinderbuch auf. Beim Betrachten der Posts der Aktion treten schnell rhetorische Gemeinsamkeiten hervor, die sich auch im Appell des Berufsverbands wiederfinden. Immer wieder wird generative KI im Bereich Kinderbuch als „seelenlos“, „steril“, „verantwortungslos“, „herzlos“ oder ähnliches charakterisiert [10].
Kunst mit Herz und Seele versus verantwortungslose KI
Der mediale Diskurs fokussiert immer wieder die Dichotomie zwischen der von menschlichen Kinderbuchmacher*innen komplexen, verantwortungsbewusst hervorgebrachten Kunst mit Herz beziehungsweise Seele und dem gegenüber den herz- oder seelenlosen KI-generierten Inhalten [11]. Auf ähnliche Weise wie in den Nutzer*innenbeiträgen, heißt es auch im Appell des Illustratoren Organisation e.V., KI-generierte Inhalte seien „seelenlose Bilder“ [12], „austauschbar und inhaltsleer“ [13] und sorgten für „emotionale Distanz“ [14]. Betont wird ebenfalls oft die Unersetzlichkeit [15] Es wird von „Verantwortung“ [16] gegenüber einer „seelen- und verantwortungslosen Technologie“ [17] gesprochen.
Generative KI und Bias
Viele der Forderungen und Sorgen, die sich im Appell der Illustratoren Organisation E.V. sowie im medialen Diskurs in sozialen Netzwerken, Blogbeiträgen oder Artikeln herauskristallisieren, stehen im größeren Zusammenhang mit allgemeiner umfassenderer Kritik am Einsatz generativer KI insbesondere bezüglich ihres Potenzials, weiter zur Festigung soziokultureller Standards und Stereotype beizutragen [18]. Dies kann sich sowohl auf Bild- als auch Textebene äußern. In Bezug auf KI-generierte Texte für Kinderbücher, die auch einem pädagogischen Zweck folgen, kristallisieren sich insbesondere KI-generierte Schilderungen von Emotionen und Emotionserleben als interessant heraus. Sprachwissenschaftlerin Heike Ortner, die sich mit emotionalen Komponenten in Hinblick auf die Interaktion mit und Verwendung von generativer KI aus linguistischer Perspektive auseinandersetzt, hält im Rahmen einer Pilotstudie fest, „dass das Emotionswissen in LLMs bestimmte Emotionsstereotype reproduziert“ [19] und vermutet, dass „soziokulturelle Standards des Emotionserlebens durch generative KI weiter gefestigt werden“ [20]. Diese stereotype Reproduktion bleibt jedoch natürlich nicht nur im Bereich Emotionen und emotionales Erleben. Konkret am Beispiel der Geschlechterstereotype, verdeutlicht die UNESCO Studie Challenging systematic prejudices: an investigation into bias against women and girls in large language models, die Voreingenommenheit und Verzerrungen generativer KI untersucht, wie generative KI und insbesondere LLMs durch ihre Strukturiertheit und Trainingsvorgänge Bias reproduzieren [21]. In Hinblick auf die sich im Diskurs um KI-generierte Kinderbuchinhalte offenbarende Sorge um die seelen- und verantwortungslose Technologie [22] zeigen sich diese Erkenntnisse ambivalent: Generative KI reproduziert durch ihre Trainingsdaten gefährliche Vorurteile aufgrund von Berechnungen, die wir jedoch auch aus der Arbeit menschlicher Kinderbuchmacher*innen kennen, die ebenfalls oftmals Bias reproduzieren und im Rahmen dieses Diskurses, wenn auch in anderen Debatten bereits vertreten, nicht mit im Vordergrund stehen. Durch den Einbezug KI-generierter Elemente gewinnt die Frage nach der Verantwortung, nach dem richtigen Inhalt mit Herz und Seele, an Relevanz. Debatten zu einem kritischen Umgang mit tradierten Kinderbüchern kamen in den letzten Jahren zwar immer wieder auf [23], im Diskurs zum KI-generiertem Kinderbuch tritt dieser Bias jedoch in den Hintergrund und wird schnell vom Narrativ der verantwortungslosen KI überschattet. Dass Kinderbücher in ihrem pädagogischen Potenzial eine wichtige Funktion einnehmen, ist eindeutig: Sie vermitteln implizite oder explizite Botschaften über die soziale Bewertung verschiedenster Sachverhalte [24] und sind als Teil kultureller Bildung in ihrem Wirkungspotenzial nicht zu unterschätzen. Die zunehmende Integration KI-generierter Elemente in diesem Bereich ist also definitiv kritisch und verantwortungsbewusst zu betrachten. Der Diskurs um KI und Kinderbuch, der häufig durch die Dichotomie zwischen seelen-, herz- und verantwortungslosem KI-Material und menschgemachten Kinderbüchern mit Herz, Seele und Verantwortunggekennzeichnet ist, situiert Bias berechtigterweise im Bereich KI-generiertes Kinderbuch, vernachlässigt so potenziell jedoch auch die weitere kritische Auseinandersetzung mit von Menschen kreierten Kinderbüchern durch die Charakterisierung von menschgefertigter Kunst als gute, verantwortungsbewusste Kunst mit Herz.
Emotionale Dichotomie
Protest zu KI-generierter Kunst findet auch über den Kinderbuchmarkt hinaus in zahlreichen weiteren Bereichen statt. Die Kreativbranche wendet sich auch hier mit offenen Briefen und Appellen an Öffentlichkeit und Politik, so etwa die Initiative „Creators for Europe United“ im April 2025 mit einem Offenen Brief an die Exekutiv Vizepräsidentin der EU-Kommission für technologische Souveränität, Sicherheit und Demokratie [25]. In Kontexten wie diesem dominieren jedoch berufs- und urheberrechtsbezogene Fragen und Sorgen in Hinblick auf die technologischen Entwicklungen im Kreativbereich. Wenn auch in einen übergeordneten Diskurs zu KI und Kunst eingebettet, zeichnet sich die Debatte zu KI-generierten Kinderbüchern oftmals deutlicher durch die emotionalere, wertebetonte Rhetorik aus. Auch wenn dieser diskursive Fokus im Bereich Kindermedien nicht überrascht – schließlich nehmen diese in pädagogischen Kontexten nochmal eine gesonderte Stellung ein, bleibt es dennoch offen und belangreich weiterzuschauen, welche Wertungen die Dichotomie zwischen herz- beziehungsweise verantwortungsloser KI und verantwortungsvoller menschengemachter Kinderbuchkunst mit Herz aufmacht. Um auf den Einstieg dieses Essays zurückzukommen: Der Kontext dieses von emotionaler Sprache und Gegenüberstellungen geprägten Diskurses, der sich ganz spezifisch im Bereich Kinderbuch situiert, regt zur weiteren Auseinandersetzung an und so etwa auch, um auf den Einstieg dieses Essays zurückzukommen, zur weiterführenden Analyse davon, welche Qualitätskriterien im Bereich Kinderbuch bestehen und im Diskurs um die Bedrohung durch KI-Einsatz gemeint sind.
Referenzen und Anmerkungen
[1] Hannegret Kullmann, „Phantasieloser Mainstream: Mainzer Buchhändlerin klärt über KI-generierte Kinderbücher auf“ SWR Kultur, 11.06.2025, https://www.swr.de/swrkultur/literatur/kinderbuecher-ki-kuenstliche-intelligenz-mainzer-buchhandlung-nimmerland-aktion-100.html, 14.06.2025.
[2] Ebd.
[3] Institut für angewandte Kindermedienforschung (IfaK), „Künstliche Intelligenz in Kinderbüchern“, 22.05.2025, https://ifak-kindermedien.de/theorie-und-praxis/wissensvermittlung/kuenstliche-intelligenz-in-kinderbuechern/, 14.06.2025.
[4] Illustratoren Organisation e.V., „Appell an Verlage – Verzichten Sie auf KI-generierte Bilder“, https://illustratoren-organisation.de/wp-content/uploads/2020/06/000_IO-Offener-Brief_KI-Verzicht2024.pdf, 15.06.2025.
[5] Siehe [4].
[6] Siehe [4].
[7] Siehe [4].
[8] Siehe [4].
[9] Kindermann Verlag, „,Nein‘ zu künstlicher Intelligenz (KI) im Bilderbuch“, https://www.kindermannverlag.de/nein-zu-kuenstlicher-intelligenz-ki-im-bilderbuch/, 14.06.2025.
[10] Nutzer*innenbeiträge zu #buchbrauchtmensch auf Instagram, 13.06.2025.
[11] Ebd.
[12] Siehe [4].
[13] Siehe [4].
[14] Siehe [4].
[15] Siehe [4].
[16] Siehe [4].
[17] Siehe [4].
[18] Vgl. Heike Ortner (2024): „,Ein leises Flüstern meines Herzens‘: Die Komponente Emotion in der Interaktion mit generativer KI“, in: Theo Hug/Petra Missomelius/Heike Ortner (Hg.): Künstliche Intelligenz im Diskurs: Interdisziplinäre Perspektiven zur Gegenwart und Zukunft von AI-Anwendungen, Innsbruck UP, S. 79–94.
[19] Vgl. ebd.
[20] Vgl. ebd.
[21] UNESCO, IRCAI (2024). „Challenging systematic prejudices: an Investigation into Gender Bias in Large Language Models“.
[22] Siehe [4].
[23] Julia Brilling & Bahareh Sharifi, „Kinderliteratur jenseits von Vorurteilen und hegemonialer Weltbilder“ Heinrich Böll Stiftung, 24.02.2014, https://heimatkunde.boell.de/de/2014/02/24/ich-mache-mir-die-welt-wie-sie-mir-gefaellt-kinderliteratur-jenseits-von-vorurteilen-und, 15.06.2025.
[24] Annette Kübler [2013]: „Zum kritischen Umgang mit Kinderbüchern“, in: Zentralwohlfahrtsstelle der Juden in Deutschland e.V. (Hg.): Wenn Rassismus aus Worten spricht, Frankfurt am Main, S.62–69.
[25] Creators for Europe United, „Offener Brief an die Exekutiv Vizepräsidentin der EU-Kommission für technologische Souveränität, Sicherheit und Demokratie“, 25.04.2025.