Ein Update von Rechtsanwalt Christian Solmecke.
Künstliche Intelligenz ist auch – aber bei weitem nicht nur – im Journalismus angekommen. Eine rechtliche Regulierung von KI ist daher mehr als überfällig. Doch wie steht es um den derzeit auf EU-Ebene geplanten AI-Act? Rechtsanwalt Christian Solmecke zeigt den bisherigen Weg der Gesetzgebung auf, erörtert die kommende Kennzeichnungspflicht und erläutert die Bedeutung des Gesetzes für Zitat- und Urheberrecht.
Die Bedeutung von KI-Systemen für den Journalismus steigt mit jeder Minute. Das redaktionelle Arbeiten profitiert schon heute von Agenda-Setting-Algorithmen und generativen Modellen, die alltägliche oder beiläufige Arbeiten erleichtern können, um das wesentliche Schaffen wieder in den Vordergrund zu rücken.
Entsprechend viel wird an der neuen EU-Verordnung zur Regulierung von KI gehobelt, und die Späne wären beinahe das einzige geblieben, was uns vom „AI-Act“ geblieben wäre.
Nach den Trilog-Verhandlungen der EU-Gesetzgeber befindet sich das Gesetz zur Künstlichen Intelligenz (international „AI Act“) zwar langsam auf der Zielgeraden. Allerdings wäre die Verabschiedung im EU-Ministerrat beinahe an der Zustimmung Deutschlands gescheitert. Das Ruder konnte noch einmal herumgerissen werden, aber einige Fragen bleiben offen: Ein Update.
Digitalministerium verweigerte fast die Zustimmung
Federführend für die Zustimmung der Bundesregierung zum AI-Act waren eigentlich das Justizministerium unter Marco Buschmann (FDP) sowie das Wirtschaftsministerium von Minister Robert Habeck (Grüne). Es waren aber nicht diese beiden Ministerien, die bis vor Kurzem noch für eine Enthaltung im EU-Rat gestimmt hätten, sondern Bundesdigitalminister Volker Wissing (FDP). Dieser ist zwar rechtlich nicht zuständig – zur Wahrung des Koalitionsfriedens hätte sein Entschluss allerdings dennoch die Entscheidung der anderen Ministerien blockieren können.
Wissing hatte bis Ende Januar noch schwere politische Bedenken gegenüber dem avantgardistischen EU-Gesetz. Seine Kritik bezog sich unter anderem auf die Regelungen zur biometrischen Echtzeitüberwachung. In der Tat sieht der AI-Act den Einsatz biometrischer Erkennung zur Verbrechensbekämpfung und Ermittlung vor, allerdings in einem abgestuften Konzept: Nur bei einer konkreten Gefahr für Leib und Leben (z. B. bei Terror), und bei hohen Verhältnismäßigkeitshürden soll ein Echtzeit-Einsatz demnach legal sein. fFür weniger brenzlige Situationen kann laut AI-Act unter Umständen auf mindestens 48 Stunden altes Material zurückgegriffen werden.
Außerdem befürchtete Wissing im AI-Act eine Innovationsbremse. Kleine und mittelständische Unternehmen würden im Gegensatz zu den großen Playern des Geschäfts unverhältnismäßig benachteiligt werden. Als Beispiel galt das Heidelberger Start-Up „Aleph Alpha“, das KI-Anwendungen für Verwaltung und Unternehmen entwickelt. Dieses lässt offen, ob es eine Überregulierung fürchtet, hat sich aber zuletzt mit den geplanten Vorschriften abgefunden.
Nun seien laut dem FDP-Politiker allerdings tragbare Kompromisse gefunden worden, sodass der Zustimmung Deutschlands nichts mehr im Wege steht. Eine Enthaltung hätte das Vorhaben zwar noch nicht per se gekippt, doch Fachleute fürchteten einen Domino-Effekt, durch den andere Staaten im EU-Raum dem deutschen Beispiel gefolgt wären.
Leak zeigt Änderungen der aktuellen Fassung: Kennzeichnungspflicht kommt!
Das Ergebnis der Trilog-Verhandlungen über den AI-Act wird offiziell erst nach der Zustimmung des Ministerrats veröffentlicht, doch eine konsolidierte Fassung des Dokuments ist am 22.01.2024 trotzdem bereits an die Öffentlichkeit geraten. Der Leak zeigt – wie in dieser Phase üblich – die Anmerkungen von Rat und Parlament, die nun in einem rund 900 Seiten starken Dokument gipfeln. Es wurde viel geändert – und in einigen Bereichen Klarheit geschaffen. Insbesondere der Einsatz von KI zur Gesichtserkennung zu Ermittlungszwecken ist nach wie vor sehr sehr umstritten.
Besonders interessant für Fachjournalistinnen und Fachjournalisten dürfte aber eher der Umgang mit „KI-Basismodellen“ sein. Der Begriff („Foundation Model“) wurde in der neuen Fassung von „Allzweck-KI-System“ („General Purpose AI“) abgelöst und bezieht sich nun eher auf die breite Anwendungsvielfalt, die durch generative Systeme wie ChatGPT entsteht.
Laut den nun vermeintlich finalen Regelungen müssen Anbieter dafür sorgen, dass KI-generierte Inhalte erkennbar als solche gekennzeichnet werden. Für journalistische Texte besteht diese Kennzeichnungspflicht bislang nur laut Pressekodex – gesetzlich ist sie bisher aber nicht verankert.
Wie genau eine KI-Kennzeichnung technisch umgesetzt werden soll, ist bisher nicht klar. Bei generierten Bildern wären Wasserzeichen oder maschinell lesbare Metadaten denkbar, die das Bild als KI-generiert ausweisen. Um Desinformation vorzubeugen, ist vermutlich vor allem die erste Option sinnvoll. Im Grundsatz müsste diese Pflicht auch einzelne Texte oder Textbausteine betreffen, die von der KI ausgegeben werden. Wie genau OpenAI oder Google hierauf reagieren, bleibt nach dem geplanten Inkrafttreten des AI-Acts im Mai abzuwarten.
Bedeutung für Zitat- und Urheberrecht
Der AI-Act legt den Fokus klar auf die Sicherheit von KI-Systemen. Entsprechend hoch ist der Anteil an Vorschriften zu Hochrisiko-Systemen und entsprechend spät traten die Änderungen für Allzweck-KI-Systeme auf den Plan.
An der Stellung von Rechteinhaberinnen und Rechteinhabern hat sich dennoch nicht viel geändert. Die urheberrechtliche Bewertung liegt nach wie vor bei den nationalen Gesetzgebern. (s. DFJV-Trendthemen, „Starkes Urheberrecht“) Gleiches gilt damit auch für Fragen der journalistischen Sorgfalt und des Zitatrechts.
Für das Urheberrecht gilt: KI-generierte Inhalte begründen nur dann ein Urheberrecht, wenn der Schaffensprozess entsprechend „intensiv“ war. Einfache Prompts für schnelle Antworten genügen hier in aller Regel nicht. Die Rechteinhaberinnen bzw. Rechteinhaber der Ursprungswerke, die für das Training genutzt wurden, sind allerdings ebenfalls nicht Urheberinnen bzw. Urheber. Nur wenn der KI-Output zufällig mit ihren geschützten Werken übereinstimmt, hätten diese die Möglichkeit, abzumahnen und Beseitigungs- und Unterlassungsansprüche geltend zu machen. Ein KI-Disclaimer (Erklärung, in der sich jemand von bestimmten Inhalten distanziert) würde hiervor auch nicht schützen. Hier hilft nur sorgfältiges Fact-Checking.
Abseits des AI-Acts besteht zwar keine urheber- bzw. zitatrechtliche Pflicht, KI-Inhalte zu kennzeichnen. Allerdings ist spätestens seit der Rüge des Presserats vom 08.12.2023 klar, dass sie nach journalistischen Grundsätzen verpflichtend ist. Spätestens mit Inkrafttreten des AI-Acts wird sie endgültig allgegenwärtig.