KI-Produkte entwickeln sich rasant, künstlich generierte Inhalte wirken mittlerweile täuschend echt. Ein neues EU-Gesetz soll KI strenger regulieren. Was heißt das für die Buchbranche?
Text: Mona Saidi.
Zwei Jahre hat es gedauert. So lange ist der „Artificial Intelligence Act“ (AI-Act) von Vertreter:innen der EU-Staaten verhandelt worden. Im Februar haben sie sich geeinigt, im April soll das Gesetz verabschiedet werden. Denn der Einsatz von generativer KI nimmt in Schule, im Beruf und im Alltag stark zu.
Das weltweit erste umfassende KI-Gesetzeswerk wird den Einsatz von künstlicher Intelligenz regeln. Zum einen müssen künstlich generierte Inhalte in Zukunft als solche gekennzeichnet werden. Zum anderen kategorisiert ein mehrstufiges System das Risiko verschiedener KI-Produkte: Je mehr Risiko eine KI-Anwendung für Menschen darstellt, desto strenger soll sie reguliert werden. Urheberrechtsfragen stehen im Zentrum der Debatte.
Bislang hat das Urheberrecht der Europäischen Union „literarische, wissenschaftliche und künstlerische Werke wie Gedichte, Artikel, Filme, Musiktitel oder Skulpturen“ geschützt. „Niemand außer dem Urheber darf das Werk veröffentlichen oder reproduzieren“, heißt es dort. Doch wie kann nachgeprüft werden, ob ein Werk nicht doch genutzt wurde, um eine KI zu trainieren?
Das maschinelle Lernen von KI fand bislang in einer Blackbox statt. Urheber:innen konnten zwar einen entsprechenden Vorbehalt für ihre im Internet veröffentlichten Inhalte äußern, damit diese nicht als Trainingsdaten verwendet werden: ein sogenanntes „Opt-out“. Ob dieses auch respektiert wird, ist kaum zu überprüfen.
Was im Silicon Valley passiert, bleibt im Silicon Valley
Der AI Act soll das ändern. Das Silicon Valley in Kalifornien zählt zu den bedeutendsten Standorten der IT- und Hightech-Industrie weltweit. Dort tüfteln Informatiker:innen an den Basismodellen, den „Foundation Models“, auf denen die meisten unserer digitalen Anwendungen aufbauen: Chatbots, Suchtools und Programmierassistenten. Am bekanntetsen ist das Basismodell „OpenAI“, auf dem der Chatbot „ChatGPT“ basiert. Auch er stammt aus dem Silicon Valley. Hinter US-amerikanischen Anbietern folgen jene aus China, europäische Firmen haben nur einen geringen Marktanteil.
Basismodelle werden mit einer Unmenge an Daten gefüttert. Woher diese stammen, verraten die Techfirmen nicht. Bei Urheber:innen kommt das nicht gut an, der Unmut vieler Autor:innen ist groß. In den USA laufen Verhandlungen zu Urheberrechtsverletzungsklagen gegen Facebook-Mutter Meta und OpenAI. Der Guardian publizierte, dass die Komikerin Sarah Silverman und der Schriftsteller Paul Tremblay behaupteten, die Software für KI habe ihre Arbeit zum Trainieren von ChatGPT unrechtmäßig missbraucht.
Im Sommer 2023 veröffentlichte das US-amerikanische Magazin Atlantic eine Reportage zu einem ähnlichen Thema: Neben anderen Unternehmen hatte Meta den Datensatz „Books3“ mit mehr als 170.000 gestohlenen Werken verwendet, um seine generative KI „LLaMA“ zu trainieren. Unter den raubkopierten Autor:innen finden sich bekannte Namen wie Zadie Smith, Stephen King, Rachel Cusk and Elena Ferrante.
Die Lage in Österreich und Europa
„Der AI Act hat keine unmittelbaren Auswirkungen auf den Alltag des Verlagswesens“, sagt Alexander Potyka, Präsident des Österreichischen Verlegerverbands. „Die urheberrechtliche Dimension beim Einsatz einer künstlichen Intelligenz ist das Interessante für Verlage. Fragen wie ‚Wie dürfen die von einer KI generierten Inhalte verwendet werden?‘ sind nicht auf relevante Weise in diesem Act geregelt.“ Potyka würde sich von der Gesetzgebung eine Vergütungspflicht auf lokaler Basis wünschen. An Ort und Stelle, wo das Geschäft abgeschlossen wird, sollte es eine kollektive Abgabe für Rechtsinhaber:innen geben. Dies sei der Variante vorzuziehen, bei der einzelne Individuen im Alleingang ihr Recht gegen große Techfirmen durchsetzen müssen. Ein Ziel sei, Rechteinhaber:innen zumindest finanziell für den Einsatz ihrer Werke durch KI zu entschädigen. Gleichzeitig soll es ihnen möglich sein, die Verwendung ihrer Werke zu Trainingszwecken der KI zu untersagen.
Der Europäische Verlegerverband (FEP) in Brüssel ist zuversichtlich, dass der AI Act genau das bewirken kann. „Durch die neue Verordnung müssen Techunternehmen für generative KI, namentlich ihre KI-Modelle mit allgemeinem Verwendungszweck, den Dokumentationspflichten und Transparenzklauseln der EU nachkommen“, sagt FEP-Rechtsberater Quentin Deschandelliers. „Das bedeutet zum einen, dass sie die Regelungen des europäischen Urheberrechts in ihre Unternehmensstrategie einführen müssen. Zum anderen sind sie dazu verpflichtet, eine ausreichend detaillierte Zusammenfassung des verwendeten Trainingsmaterials zu erstellen und zu veröffentlichen.“
Im Gegensatz zu ihrer bisherigen Kennzeichnungspflicht, die nur eine Bekanntgabe erforderte, ob es sich um Audio, Text oder Videodaten handelt, müssen Techunternehmen nun auch veröffentlichen, woher sie die Inhalte für ihre KI beziehen. Dadurch ist es für Autor:innen sowie Verlage einfacher nachzuvollziehen, ob ihre Werke auf einem illegalen Datensatz liegen, etwa „Books3“. Deschandelliers schätzt, dass sich die Software-Giganten an die Regeln halten werden, da die Strafen hoch angesetzt sind. „Falls OpenAI oder Meta oder andere dagegen verstoßen, erwarten die Unternehmen je nach Risikograd Strafen im Ausmaß von bis zu zehn Prozent des weltweiten Jahresumsatzes“, sagt Deschandelliers.
Unabhängig vom AI Act reagiert die österreichische Branche auf die Entwicklungen bei KI. Laut Potyka gibt es zwischen dem HVB und der Interessengemeinschaft österreichischer Autorinnen und Autoren Gespräche über eine Präambel zum Mustervertrag, die sich auf den Einfluss von KI auf die Branche beziehen soll. „Die beiden Interessensvertretungen sind sich einig: Bevor sie die Paragrafen des Mustervertrags konkret anpassen, möchten sie weitere technische Entwicklungen von KI-Produkten abwarten.“
Nicht auszuschließen, wenn auch wenig wahrscheinlich sei dem Präsidenten des Österreichischen Verlegerverbands zufolge, dass Verlage für technische Übersetzungen von einfachen fremdsprachigen Texten oder zur Gestaltung von Umschlägen und Artwork auf KI zurückgreifen. Dass der nächste Bestseller von einer KI geschrieben werden könne, fürchtet er nicht. Der Einsatz von KI solle nicht Menschen ersetzen, sondern sie unterstützen – zum Beispiel in der Informationsbeschaffung. „Das sind alles nur Hilfsmittel. Ich kann mir nicht vorstellen, dass künstlerische Werke durch Programmierung entstehen“, sagt Potyka.
Verlage können kostensparende Werkzeuge wie ChatGPT nutzen, um sich schnell eine Leseprobe aus einem fremdsprachigen Sachbuch zu beschaffen. Doch sie seien weiterhin auf Übersetzer:innen angewiesen, die Lyrik oder Fiktion besser bearbeiten. Daher bleibt Potyka entspannt. „Ich sehe in der KI nicht die große Revolution des Verlagswesens. Genauso wenig befürchte ich, dass Stellen abgeschafft und menschliche Tätigkeit dadurch ersetzt werden.“
Künstliche Intelligenz kreativ nutzen
Obwohl das Thema nicht überall in der Buchbranche so entspannt gesehen wird, gelingt es manchen, eine Chance darin sehen. Für Autor und Poetry-Slammer Fabian Navarro ist nicht alles „doom and gloom“, was mit KI zu tun hat. Ein positives Beispiel: „Lukas Diestel hat mithilfe eines Sprachtools eine KI mit gemeinfreien Werken trainiert. Jetzt kann man auf falschegefuehle.de alle fünf Minuten ein Gedicht abrufen, das auf die eigene Stimmung je nach seinem Blut-zuckerwert abgestimmt ist. Dafür wurden keine Werke gestohlen oder Autor:innen ausgenutzt. So kann KI auch gehen.“
Er fügt hinzu: „Die Diskussion rund um Copyright und die Frage, was KI dürfen soll oder nicht, ist eine wirtschaftliche Diskussion, denn am Ende des Tages werden Kunstschaffende ersetzt. Wir leben in einem kapitalistischen System, in dem ChatGPT nicht einfach ein lustiges Spielzeug zum Herumprobieren ist“, sagt Navarro. Außerdem ginge es in der Diskussion zu wenig um den philosophischen Aspekt des „Brauchen wir das?“.
Bei dem Thema stoße man schnell auf ein Grundproblem: Philosophische Fragen sollen technische Antworten finden. Er nennt ein Beispiel: „Mit der Frage ,Was macht einen Text aus?‘ setzt sich die Literaturwissenschaft seit Beginn auseinander. Eine KI analysiert Text und generiert basierend darauf neue Textteile. Bei der Frage, welche Trainingsdaten verwendet werden dürfen, ohne Urherber:innenrechte zu verletzten, berufen sich viele Unternehmen darauf, dass ein Text zwar geschützt sei, nicht aber konkrete syntaktische Strukturen oder Fakten. So definieren Technologie-Unternehmen den Begriff ‚Text‘ auf eine Art, die ihnen am besten passt.“
Der Autor setzt sich mit dem Programmieren auseinander und versucht eigene Wege im Umgang mit KI-Tools zu finden. Derzeit besucht er den Lehrgang Digital Humanities an der Universität Wien. „Es geht nicht darum, das Thema KI zu verteufeln, sondern vielmehr das System dahinter zu hinterfragen und zu differenzieren: Wird das System rein wirtschaftlich genutzt? Wenn OpenAI wirklich so ,open‘ wäre, wäre sie eine großartige Ressource. Doch da sie wie eine Blackbox keine Transparenz zulässt, erkennt man schnell, welche wirtschaftlichen Interessen dahinterstecken“, sagt Navarro.
Navarro hält Workshops und erklärt Kolleg:innen aus der Branche, wie KI als kreatives Tool genutzt werden kann. Die Kurse finden auf Anfrage in Österreich und Deutschland statt. In Nordrhein-Westfalen werden seine KI-Workshops von der öffentlich-rechtlichen Kulturförderinitiative NRW KULTURsekretariat unterstützt. „Zunächst versuche ich bei den Teilnehmenden ein Grundverständnis aufzubauen, wie diese KI-Systeme funktionieren, wozu sie in der Lage sind und wo ihre Limitationen bzw. Probleme liegen. Anschließend wird in kleinen praktischen Übungen untersucht, für welche Teile des Schreibprozesses bestehende Tools eingesetzt werden können – Recherche, Ideenfindung, Textproduktion, Überarbeitung, Organisation von Material etc. –, jedoch immer mit einem kritischen Blick“, sagt Navarro.
Zusätzlich bietet er Kurse mit Programmieren als Schwerpunkt an. Bei diesen arbeitet er vorwiegend mit Konzepten für Texte. Die Teilnehmenden sollen die Konzepte so gestalten, dass der Computer dabei eine ausführende, transformierende oder randomisierende Rolle übernimmt. Wie das aussehen kann, zeigt er in seinem im Jahr 2020 herausgegebenen Band „poesie.exe“. Für diesen haben er und anderen Autor:innen Texte produziert – mit und ohne Hilfe eines Computers.
Einer von ihnen ist Jörg Piringer, der seinen Text „Künstliche Intelligenzen“ durch das Large Language Model GPT-2 erzeugt hat. Die gleichbleibenden Anfangswörter der Absätze lieferten Schreibimpulse, von denen ausgehend die Software den Befehl ausführte und den Text weiterschrieb.
Auch Berit Glanz hat an poesie.exe mitgearbeitet und sich für die Methode „filtern und arrangieren“ entschieden. Aus fünfzehn englischsprachigen Romance-Novels hat sie Sätze herausgefiltert, in denen die Wörter „smell“, „taste“, „skin“ und „lips“ vorkamen. Eine Auswahl der Sätze wurde zu zwei Gedichten arrangiert und übersetzt.
Ganz anders Julia Nakotte. Sie hat für ihren Text mit einem Zufallsgenerator gearbeitet. Dieser hat Nakotte randomisiert Wörter ausgespuckt, die sie nur in ihrer Wortart beeinflussen konnte. Eigene Wörter durfte sie nicht hinzufügen und auch keine der herausgegebenen streichen.
Das sind nur wenige der unendlich vielen Möglichkeiten, künstliche Intelligenz künstlerisch zu nutzen. Navarros Fazit: „Das größte Feedback aus den Workshops ist Staunen. Die meisten Menschen sind überrascht, was mit wenigen Zeilen Code oder kurzen Befehlen an ein bestehendes System möglich ist.“
KI im Buchhandel – wie Buchhändler:innen künstliche Intelligenz nutzen können:
• Der Textgenerator ChatGPT kann bei Buchzusammenfassungen, kurzen Texten für Social Media, Texten für Newsletter, Veranstaltungsankündigungen und vielem mehr helfen.
• Eigens dafür eingerichtete Chatbots können einen Teil der Kund:innen-Kommunikation übernehmen: Wiederkehrende Fragen müssen nicht mehr von den menschlichen Mitarbeiter:innen beantwortet werden.
• Routineaufgaben wie die Erstellung von Rechnungen können von KI übernommen werden. ChatGPT erstellt auch Excel-Tabellen, ebenso wie der neue Microsoft-KI-Begleiter Copilot
• Mit KI-Modellen zur Bilderzeugung, etwa Midjourney oder Discord, kann man z. B. Veranstaltungsplakate erstellen. Bildbearbeitung wird so auch viel einfacher: Mit dem richtigen Prompt stellt die KI z. B. Bilder frei oder generiert neue Hintergründe.
• Die kostenpflichtige Sonderfunktion GPT Books bietet aktuelle Informationen zu neuen und alten Titeln. Ein erweitertes Tool mit mehr buchspezifischen Inhalten.
Übung macht Meister:innen. Nur wer sich länger mit verschiedenen Tools auseinandersetzt, kann sie bestmöglich nutzen – und deren Grenzen erkennen.
Am 11. 9., 18. 9. und 25. 9. 2024 hält Fabian Navarro das HVB-mediakolleg „KI-Toolbox Marketing“ ab. Mehr Informationen finden Sie hier.
