Wie sich die neuen Transparenzvorschriften des EU-KI-Gesetzes auf deine Musik-Releases auswirken

Bereits im Juli 2024 hat die Europäische Union das EU-KI-Gesetz eingeführt, ein neues Regelwerk, das den Einsatz künstlicher Intelligenz in allen EU-Ländern regeln soll. Ziel des Gesetzes ist es unter anderem, potenzielle Risiken von KI zu begrenzen und mehr Transparenz über ihren Einsatz zu schaffen. Seit KI zunehmend Teil des Alltags wird, stehen diese Fragen sowohl in der Öffentlichkeit als auch in der Industrie im Mittelpunkt.

Das Gesetz ist in 13 Kapitel unterteilt, die verschiedene Aspekte der KI abdecken. Dazu gehören unter anderem verbotene Praktiken, risikoreiche KI-Systeme und Transparenzanforderungen. Da es für alle gelten kann, die KI bereitstellen, nutzen oder mit KI-generierten Produkten arbeiten, betrifft es auch die Musikindustrie, inklusive KI-Musikplattformen, Streaming-Diensten, Verkäufen, Producern und sogar Hörer*innen, die seine Einführung auf mehr oder weniger subtile Weise bemerken werden.

Egal, ob du KI in deiner Musik nutzt oder nicht, es ist wichtig, sich mit der Gesetzgebung vertraut zu machen, um besser zu verstehen, wie sie die Art und Weise prägen könnte, wie Musik produziert, vertrieben und konsumiert wird.

Der für die Musikindustrie relevanteste Abschnitt ist Artikel 50: Transparenzverpflichtungen für Anbieter und Betreiber von bestimmten KI-Systemen, der am 2. August 2026 in Kraft getreten ist. Dieser Abschnitt enthält die tatsächlich durchsetzbaren Anforderungen und konkreten rechtlichen Pflichten, an die sich Anbieter und Betreiber halten müssen. Das bedeutet: Wer gegen Artikel 50 verstößt, verstößt gegen das Gesetz.

Was genau schreibt Artikel 50 also vor, und was bedeutet das für Artists und andere Musikschaffende? Im folgenden Abschnitt schauen wir uns die relevanten Teile des Gesetzes an und erklären, was sie in der Praxis bedeuten.

„1. (1) Die Anbieter stellen sicher, dass KI-Systeme, die für eine direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus der Sicht einer natürlichen Person, die unter Berücksichtigung der Umstände und des Nutzungskontexts angemessen informiert, aufmerksam und umsichtig ist, offensichtlich. [...]“

Der erste Punkt des Artikels betrifft KI-Systeme, die direkt mit Menschen interagieren, zum Beispiel Chatbots im Support auf einer Website oder automatisierte KI-Telefonagenten. Wenn eine Person mit einem KI-System interagiert, muss der dahinterstehende Anbieter dies deutlich machen, es sei denn, es ist bereits aus dem Kontext ersichtlich.

Für Artists und Labels bedeutet das, dass Unternehmen, mit denen sie zusammenarbeiten oder deren Tools sie nutzen, möglicherweise transparent machen müssen, wann ihre Kund*innen mit KI interagieren. Dazu kann beispielsweise KI-gestützter Support gehören, der von Musikplattformen, Vertrieben, Produktionstools und anderen Diensten in der Musikindustrie eingesetzt wird.

Bei iMusician nutzen wir zum Beispiel sowohl einen KI-gestützten Chatbot als auch menschlichen Support, sodass du immer weißt, wann du mit einer KI interagierst und wann du mit einem Mitglied unseres Teams sprichst.

„2. Die Anbieter von KI-Systemen, einschließlich KI-Systemen für allgemeine Zwecke, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet sind und als künstlich erzeugt oder manipuliert erkannt werden können. Die Anbieter stellen sicher, dass ihre technischen Lösungen wirksam, interoperabel, robust und zuverlässig sind, soweit dies technisch machbar ist, wobei die Besonderheiten und Beschränkungen der verschiedenen Arten von Inhalten, die Kosten der Implementierung und der allgemein anerkannte Stand der Technik, wie er in den einschlägigen technischen Normen zum Ausdruck kommen kann, zu berücksichtigen sind. [...]“

Einfach ausgedrückt: KI-Tools wie Suno, Udio, Midjourney oder ChatGPT, die neue Inhalte erzeugen, müssen ihre Ausgaben so kennzeichnen, dass erkennbar ist, dass sie künstlich erzeugt oder manipuliert wurden. Das kann beispielsweise durch unsichtbare Tags, Metadaten oder Wasserzeichen geschehen, die auch bei der Weitergabe oder weiteren Verarbeitung der Inhalte erkennbar bleiben können.

Für Musikschaffende, die KI nutzen, bedeutet das, dass die Anbieter der verwendeten Tools entsprechende technische Kennzeichnungen in die erzeugten Inhalte integrieren müssen. Es gibt jedoch eine wichtige Ausnahme:

„[...] Diese Verpflichtung gilt nicht, soweit die KI-Systeme eine Hilfsfunktion für die Standardredaktion erfüllen oder die vom Anwender bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern [...].“

Das bedeutet, dass KI-gestützte Bearbeitungen nicht unter diese Kennzeichnungspflicht fallen, wenn die ursprünglichen Eingabedaten oder ihre Bedeutung nicht wesentlich verändert werden. Dazu können beispielsweise KI-Tools gehören, die für die Bearbeitung, das Mixing oder Mastering oder zur Verbesserung bestehender Aufnahmen eingesetzt werden, ohne deren ursprünglichen Inhalt oder Bedeutung wesentlich zu verändern. Die Nutzung von KI zur Generierung neuer Musik, neuer Songtexte oder neuer Gesangsparts fällt hingegen nicht unter diese Ausnahme, sofern dabei neue Inhalte erzeugt werden.

"4. Wer ein KI-System einsetzt, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deep Fake darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. [...] Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz genannten Transparenzpflichten auf die Offenlegung des Vorhandenseins eines solchen künstlich erzeugten oder manipulierten Inhalts in einer angemessenen Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt. [...]“

Wenn du KI-Stimmklone, synthetische Stimmen oder realistische KI-Gesichtsaustausche in Videos verwendest, die mit echten Personen oder Ereignissen verwechselt werden könnten, musst du deutlich machen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Du musst jedoch keine störenden Pop-ups oder Audio-Warnungen zu einem Video oder Track hinzufügen. Stattdessen kannst du einen entsprechenden Hinweis in die Track-Credits, Videobeschreibung, Vertriebsmetadaten oder Liner Notes aufnehmen, je nachdem, wie und wo der Inhalt veröffentlicht wird.

„5. (5) Die in den Absätzen 1 bis 4 genannten Informationen werden den betroffenen natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Exposition in klarer und erkennbarer Weise zur Verfügung gestellt. Die Informationen müssen den geltenden Anforderungen an die Zugänglichkeit entsprechen.“

Die Informationen müssen klar, leicht erkennbar und für die Personen zugänglich sein, die mit den Inhalten in Berührung kommen. Für Artists bedeutet das, dass beim Release von Musik, Videos oder anderen kreativen Werken darauf geachtet werden muss, wo und wie Informationen über den Einsatz von KI bereitgestellt werden.

Erwägungsgrund 134: „[...] Die Einhaltung dieser Transparenzverpflichtung sollte nicht dahingehend ausgelegt werden, dass die Verwendung des KI-Systems oder seines Outputs das in der Charta garantierte Recht auf freie Meinungsäußerung und das Recht auf Freiheit der Künste und Wissenschaften beeinträchtigt, insbesondere wenn der Inhalt Teil eines offensichtlich kreativen, satirischen, künstlerischen, fiktionalen oder analogen Werks oder Programms ist, vorbehaltlich angemessener Garantien für die Rechte und Freiheiten Dritter. [...]“

Das Gesetz stellt ausdrücklich klar, dass diese Transparenzvorschriften nicht darauf abzielen, den Einsatz von KI in künstlerischen Projekten zu verbieten, Satire einzuschränken oder den kreativen Ausdruck zu behindern. KI kann weiterhin für kreative und künstlerische Projekte eingesetzt werden, sofern die Rechte und Freiheiten Dritter respektiert und die geltenden Transparenzanforderungen eingehalten werden.

Das EU-KI-Gesetz kann unter bestimmten Umständen auch außerhalb der EU gelten. Wenn beispielsweise KI-Systeme genutzt werden, um synthetische Audiodaten, Stimmklone oder visuelle Inhalte zu erzeugen, und diese Inhalte auf dem EU-Markt angeboten oder ihre Ergebnisse in der EU genutzt werden, können die entsprechenden Pflichten auch für Personen oder Unternehmen außerhalb der EU gelten. Ob Artikel 50 Anwendung findet, hängt von den konkreten Umständen und der Art der erzeugten oder bearbeiteten Inhalte ab.

Da Artikel 50 des EU-KI-Gesetzes nun in Kraft ist, muss jeder, der eine Musikveröffentlichung mit KI-Beteiligung veröffentlicht, die geltenden Anforderungen kennen und den Einsatz von KI bei Bedarf klar offenlegen. Diese Transparenzanforderungen sollen den Einsatz von KI leichter erkennbar und verständlicher machen und gleichzeitig dazu beitragen, menschliche Urheber und ihr geistiges Eigentum zu schützen.

Stell sicher, dass du weißt, welche KI-Tools zum Einsatz kommen und welche Informationen beim Release von KI-generierten oder KI-unterstützten Inhalten angegeben werden müssen.