Mindestens drei der fünf großen US-Verlage, darunter HarperCollins, Simon & Schuster und Hachette, haben heimlich generative KI-Tools in ihre Verlagsprozesse integriert, obwohl diese Praxis weder öffentlich offengelegt noch mit den Autoren abgestimmt wurde. Diese Anwendungen umfassen das Versenden von E-Mails an Literaturagenten, das Verfassen von Werbe- und Klappentexten, das Gestalten von Cover-Artworks sowie die Erstellung von Marketingmaterialien – oft auf Anweisung der Geschäftsleitung hin.
US-Verlage mangelt es an Transparenz beim Einsatz von KI-Tools
Laut mehreren Redakteuren sind die medial breit berichtete Fälle von Autoren, die verdächtigt werden, Bücher mithilfe großer Sprachmodelle (LLM) verfasst zu haben, lediglich die Spitze des Eisbergs. Ein Redakteur berichtet, dass jeder Verlags-Imprint seine Geschichte habe, wonach „eine durchaus angesehene Person wegen offenkundiger KI-Nutzung gestrichen wurde“ – nur sei nie darüber berichtet worden. Am Beispiel HarperCollins: Ein aktueller Mitarbeiter verriet, die Führungsebene habe vor einigen Monaten Lizenzen für Anthropics Claude erworben, habe aber „schnell realisiert, dass man nicht wusste, wie man das umsetzt“. Daraufhin seien Dutzende Mitarbeiter aller Hierarchieebenen „freiwillig bestimmt“ zu „KI-Champions“ gemacht worden, die in monatlichen firmenweiten Brainstormings nach Anwendungsfällen suchen sollten.
In diesem Frühjahr, als einige Mitarbeiter in diesen Sitzungen Bedenken hinsichtlich der rechtlichen, ethischen und ökologischen Auswirkungen von KI vortrugen, wies der Moderator diese Einwände als „Kosten des Geschäftsbetriebs“ zurück. Das Mitarbeiterportal fügte daraufhin eine Stellungnahme hinzu, wonach KI zwar Umweltauswirkungen habe, aber nur einen sehr kleinen Teil des digitalen CO2-Fußabdrucks der meisten Menschen ausmache. Ein Mitarbeiter sagte unverblümt, das Unternehmen habe jahrelang die betriebswirtschaftlichen Argumente gegen die Forderung der Belegschaft nach anständigen Gehältern angeführt, investiere nun aber in Software, die die meisten nicht wollten – 2023 lag das durchschnittliche Einstiegsgehalt bei den fünf großen New Yorker Verlagsgruppen sowie Scholastic bei US$47.583 (ca. HK$370.000).
Neben Claude erwarb HarperCollins auch Lizenzen für ChatGPT und die Marketingplattform Jasper.
KI-Einsatz in der Verlagsbranche löst breite Kontroversen aus
Nach Rückmeldungen aus verschiedenen Kreisen ist die derzeit häufigste Anwendung die Erstellung von Werbetexten – also jener Texte, die Leser auf Amazon, Goodreads und Klappentexten allenthalben vorfinden und die dazu dienen, Bücher an Buchhändler und Medien zu pitchen. Ein PR-Mitarbeiter eines der Big Five hält dies für kurzsichtig, da Medienschaffende eine sehr geringe Toleranz gegenüber KI-generierten Pitch-Texten hätten. Meg Reid, Verlegerin des Independent-Verlags Hub City Press, merkt an, dass der Einsatz von LLMs für Marketingtexte durch große Verlagskonzerne „praktisch unvermeidlich“ sei; dies werde zur Trennlinie zwischen effizienzgetriebenen Unternehmensverlagen und kleinen Verlagen, die auf „Menschen als Fokus“ setzen.
Zudem vermuteten Literaturagenten Anfang dieses Jahres, dass bestimmte Redakteure KI zur Verfassung von Absageschreiben nutzten, da mehrere E-Mails desselben Redakteurs typische KI-Schreibmerkmale aufwiesen – etwa die Formulierung „nicht dies, sondern jenes“ und eine Dreiteilung. Mitarbeiter dreier Verlage halten diese Vermutungen für begründet. Agenten sorgen sich zudem um die Sicherheit von Manuskripten und haben begonnen, KI-Klauseln in Verträge aufzunehmen, die die Eingabe von Manuskriptinhalten in große Sprachmodelle verbieten; auch das Rechtsteam von HarperCollins hatte Redakteuren untersagt, vollständige Manuskripte in offene Modelle hineinzukopieren.
Ein Sprecher von Hachette erklärte, das Unternehmen unterstütze operative KI-Anwendungen, die dazu beitrügen, Bücher mehr Lesern zugänglich zu machen, lehne jedoch kreative Anwendungen ab – einschließlich der Kommunikation mit Autoren und Partnern. Wibke Grütjen, globale Marketing- und Kommunikationschefin von Simon & Schuster, erklärte, Mitarbeiter dürften eine kleine Anzahl geprüfter Enterprise-KI-Tools nutzen, die Nutzung sei jedoch nicht verpflichtend. Auch der Widerstand auf Mitarbeiterebene eskaliert. Nachdem Simon-&-Schuster-Mitarbeiter erfuhren, dass der Eigentümer KKR das Unternehmen zur Erprobung der Überwachungssoftware Skan AI drängte, starteten sie einen offenen Brief an CEO Greg Greeley mit der Forderung, sich zu verpflichten, solche Tools niemals einzuführen.
Greeley bestätigte daraufhin in einem internen Memo, das Programm befinde sich lediglich in einer frühen Erkundungsphase, eine Einführungsentscheidung sei noch nicht gefallen; die KI-Erkennungsplattform Pangram zeigte jedoch an, dass zumindest Teile dieses Memos von KI verfasst worden waren.
Mehrere Branchenkenner, darunter die Agentin Emma Drayse, die früher bei HarperCollins und Penguin Random House tätig war, erklärten, sie erwarteten zumindest klare Richtlinien und Offenlegung seitens der Verlage zum KI-Einsatz. Ihre Haltung: Auch wenn ein Verbot nicht durchsetzbar sei, müsse die Kommunikation verstärkt werden.