Anwendungsszenarien und Rechtsrahmen für den Einsatz künstlicher Intelligenz im Journalismus (Schwartmann, AfP 2024, 1)

Das Aufkommen generativer Sprachmodelle hat die öffentliche Aufmerksamkeit auf den Fortschritt bei der Entwicklung künstlicher Intelligenz (KI) gelenkt. Auch im Journalismus existieren zahlreiche Anwendungsszenarien für die neue Technologie. Erforderlich ist ein Rechtsrahmen, der einen verantwortungsvollen KI-Einsatz in diesem demokratierelevanten Bereich erlaubt. Der vorliegende Beitrag untersucht, ob die geltenden Gesetze einen solchen Rechtsrahmen bilden, und kommt zu dem Schluss, dass gesetzgeberischer Handlungsbedarf besteht.

I. Ausgangssituation
II. Chancen und Risiken des KI-Einsatzes in der Medienbranche
III. Rechtsrahmen für den Einsatz von KI in der Medienproduktion
1. KI als Werkzeug des Journalisten
a) Gewährleistungsgehalt der Pressefreiheit
b) Anknüpfung an menschliches Handeln und Persönlichkeitsrechtsverletzungen
c) Ausführung rechtswidriger Befehle
2. KI-generierte Gesamtangebote
a) Verfassungsrechtliche Rahmenbedingungen
b) Urheberrecht
3. Individualjournalismus
a) Datenschutzrecht
b) Vielfaltsregulierung
IV. Fazit


I. Ausgangssituation
1
Als vor einigen Jahren die digitale Presse aufkam, befürchteten Journalisten wie Konsumenten den Niedergang der klassischen Zeitung. Das Rascheln am Frühstückstisch ist seither tatsächlich leiser geworden, das Medium besteht allerdings fort. Wir stehen heute wie damals vor der Frage, wie neue Technologien sinnvoll und verantwortungsbewusst in die Medienlandschaft integriert werden können. Mittlerweile geht es allerdings nicht mehr darum, ob Haptik und Papiergeruch eines Druckerzeugnisses elementare Bestandteile des Zeitungsgenusses sind. Es geht vielmehr um die Frage, welche Rolle Mensch und Gesellschaft in einer Medienlandschaft einnehmen, in der Anwendungen künstlicher Intelligenz Einzug in die Redaktionen halten.

2
Die Anwendungsszenarien sind mannigfaltig: Man kann KI-Anwendungen für die Recherche einsetzen oder sich gleich den ganzen Beitrag von einer KI schreiben lassen. Auch der erste vollautomatisierte Radiosender Deutschlands ist bereits auf Sendung: bigGPT verbreitet rund um die Uhr ein KI-generiertes Programm mittels KI-generierter Stimmen. Und mit dem von der Bild-Zeitung bereitgestellten Chatbot „Hey“ ist der erste Schritt in Richtung eines KI-gestützten Individualjournalimus gemacht.

II. Chancen und Risiken des KI-Einsatzes in der Medienbranche
3
Die Medienbranche ist auf den Einsatz innovativer Technologien angewiesen, will sie nicht am offenen Wasserhahn verdursten. Repetitive Aufgaben können auf generative KI-Systeme übertragen werden, so dass menschliche Ressourcen für originäre Kreativarbeit zur Verfügung stehen. So kann es der Branche gelingen, den Output und damit auch die publizistische Vielfalt zu erhöhen. Für den Journalismus existieren zahlreiche Anwendungsmöglichkeiten: Text- und bildgenerierende KI-Systeme sind mithilfe einer Vielzahl menschengemachter Inhalte darauf trainiert, eigene, neue Texte und Bilder zu erstellen, also zu generieren. Über einen Befehl, den sog. Prompt, kann der Nutzer dem System vorgeben, worin die Aufgabe im einzelnen Anwendungsfall besteht. Der Prompt muss nicht zwangsläufig darin bestehen, einen Text zu schreiben oder ein Bild zu zeichnen. Denkbar ist auch die Zusammenfassung eines Texts oder die Untersuchung großer Textmengen auf bestimmte Schlagworte.

4
Allerdings sind die genannten Technologien nicht so weit entwickelt, wie es für den unkontrollierten Einsatz in einem derart demokratierelevanten Sektor erforderlich wäre: KI-Systeme erfinden Buchpassagen und „halluzinieren“ über historische Ereignisse, um den Nutzeranfragen gerecht zu werden. Sie greifen auf vorhandene Verzerrungen in ihrer Datenbasis zurück und suggerieren dem Nutzer, mathematisch auf Grundlage ihrer Datenbasis korrekt, dass ein Doktor stets ein männlicher Arzt sei. Und sie reproduzieren Falschmeldungen, wenn diese nur oft genug geäußert wurden.

5
Soll sich die Medienbranche nicht an einer verunreinigten Quelle vergiften, ist eine Regulierung erforderlich. Allerdings weisen die hier in Rede stehenden Modelle und Systeme künstlicher Intelligenz Autonomie auf. Man darf autonome Systeme nicht mit beherrschbaren Systemen verwechseln, die automatisch menschliche Vorgaben umsetzen. Autonome Systeme sind so gesehen weniger mit einem Autopiloten als vielmehr mit einem nach festen Standards gezüchteten und perfekt dressierten Tier vergleichbar. Beide sind menschlich unbeherrschbar. Schlägt die Autonomie durch, haftet der Mensch, ebenso wie für einen Hund, der sich von der Leine reißt und einen Passanten anfällt. Es muss also, vergleichbar der Tierhalterhaftung, eine Haftung für Rechtsverletzungen entwickelt werden, die beim Einsatz künstlicher Intelligenz auftreten.

III. Rechtsrahmen für den Einsatz von KI in der Medienproduktion
6
Der Rechtsrahmen für die Verwendung von KI in der Medienproduktion ist abhängig vom konkreten Anwendungsszenario. Lässt sich ein Journalist bei der Erstellung eines Beitrags von einem KI-System unterstützen, stellen sich andere Rechtsfragen, als wenn ein KI-System ein journalistisches Gesamtangebot eigenständig recherchiert, generiert und verbreitet. In der Rechts- und Kommunikationswissenschaft bisher weitgehend unberücksichtigt ist außerdem der Umgang mit KI-Systemen, die auf Nutzeranfrage individuelle journalistische Inhalte generieren. Die lex lata soll im Folgenden anhand dieser Anwendungsszenarien vorgestellt und kritisch überprüft werden. Die Haftung für KI bleibt dabei außen vor.

1. KI als Werkzeug des Journalisten
7
Zunächst können KI-Systeme als journalistische Werkzeuge eingesetzt werden. Typische Einsatzszenarien sind die Auswertung großer Datenmengen zur Recherche und die Analyse von Texten, Bildern und Videos auf Ungereimtheiten im Rahmen eines sog. Fact Checkings. Seit etwa einem Jahr ist außerdem das Generieren journalistischer Inhalte ein viel besprochenes Anwendungsszenario. Das Verfassen zusammenhängender und aussagekräftiger Texte galt zuvor noch als Beispiel unnachahmlicher menschlicher Intelligenz. Mittlerweile bedient sich ChatGPT unserer Sprache und hat uns eines Besseren belehrt. Wir müssen uns mit der Frage auseinandersetzen, ob unsere Rechtsordnung auf den KI-Werkzeugkasten an der Seite des Journalisten vorbereitet ist.

a) Gewährleistungsgehalt der Pressefreiheit
8
Der Gesetzeshierarchie folgend stellt sich zunächst die Frage, ob journalistische Werke, die unter dem Einsatz unterstützender KI-Systeme geschaffen wurden, dem Schutzbereich der Pressefreiheit zugeordnet werden können. Grundsätzlich umfasst dieser die Wahrnehmung aller wesensmäßig mit der Pressearbeit im Zusammenhang stehenden Tätigkeiten. Jedenfalls solange Journalisten bestimmenden Einfluss auf die Erstellung des Presseerzeugnisses ausüben, würde es der elementaren Bedeutung der freien Presse für den freiheitlichen Rechtsstaat entgegenlaufen, wenn ihnen allein wegen der Nutzung unterstützender Software der Schutz versagt würde.

9
Entscheidend für den journalistischen Grundrechtsschutz von Journalisten, die sich unterstützender KI-Systeme im Rahmen ihrer Recherche oder des Schreibprozesses bedienen, ist die menschliche Verantwortung für das Endergebnis. Unsere Rechtsordnung ist auf den Menschen ausgelegt, den sie für Rechtsverletzungen verantwortlich zeichnet. Solange Wirkungen in der tatsächlichen Welt also auf menschliches Denken und Handeln zurückführbar sind, ist auch ...