L'empoisonnement des données dans la musique : les artistes peuvent-ils protéger leurs œuvres contre l'IA ?

Commençons par préciser que l’empoisonnement des données est un problème grave de cybersécurité, surtout dans des secteurs comme la santé, les véhicules autonomes et la finance. On le définit généralement comme une attaque hostile où quelqu’un manipule ou corrompt les données d’entraînement utilisées pour développer des modèles d’intelligence artificielle (IA) et d’apprentissage automatique (ML).

Les systèmes d’IA modernes – notamment les réseaux neuronaux, les grands modèles linguistiques (LLM) et d’autres modèles d’apprentissage profond – dépendent fortement de la qualité et de l’intégrité de leurs données d’entraînement. À bien des égards, ces données déterminent ce qu’un modèle sait, comment il se comporte et dans quelle mesure ses résultats sont précis. Les données d’entraînement peuvent provenir de plusieurs sources, notamment d’Internet, de bases de données gouvernementales et de fournisseurs de données tiers.

L’empoisonnement des données consiste à altérer ou à manipuler ces données d’entraînement avant ou pendant la phase d’apprentissage du modèle (contrairement à l’« injection de prompt », qui est une menace temporaire ciblant une IA après qu’elle a déjà été entraînée). En injectant des informations incorrectes, trompeuses ou biaisées dans l’ensemble de données d’entraînement, un attaquant peut influencer la façon dont le modèle apprend. Selon le type d’attaque, ça peut amener l’IA à produire des résultats inexacts, à développer des biais cachés, voire à se comporter d’une manière qui profite à l’attaquant.

Il est important de comprendre que les modèles d’IA ne « comprennent » pas les informations de la même manière que les humains. Au lieu de ça, ils identifient des schémas récurrents dans d’énormes ensembles de données. Si suffisamment d’exemples trompeurs ou soigneusement conçus sont introduits pendant l’entraînement, ces schémas peuvent se modifier, ce qui amène le modèle à apprendre de manière permanente des relations erronées et à commettre des erreurs systématiques.

L’empoisonnement des données peut prendre plusieurs formes. Même si les techniques sous-jacentes peuvent être très pointues, les approches les plus courantes sont assez faciles à comprendre :

• Manipulation des étiquettes: modifier les étiquettes associés aux données d’entraînement pour que le modèle apprenne des associations erronées (par exemple, étiqueter une photo de chat comme « chien »).

• Injection et suppression de données : ajouter des exemples trompeurs à un ensemble de données ou supprimer des informations importantes pour que l’IA développe des connaissances biaisées ou incomplètes.

• Implantation de portes dérobées (chevaux de Troie): intégrer des déclencheurs cachés – comme des mots spécifiques, des motifs visuels ou des jetons – qui font que le modèle se comporte normalement jusqu’à ce que le déclencheur apparaisse, provoquant alors une réaction spécifique (et involontaire).

• Attaque par « clean label »: modifier les données d’entraînement d’une manière presque impossible à détecter. Les exemples semblent toujours correctement étiquetés pour les humains, mais des changements subtils peuvent influencer le comportement de l’IA après l’entraînement.

Ces dernières années, l’empoisonnement des données a dépassé le cadre de la cybersécurité traditionnelle pour s’étendre aux industries créatives. Cette pratique a d’abord gagné du terrain comme moyen d’autodéfense numérique, surtout dans les domaines du design et des arts visuels.

Des artistes, des photographes, des designers, des illustrateurs et d’autres créateurs ont commencé à adopter ces techniques pour réagir face aux grandes entreprises technologiques qui récupéraient leurs portfolios – souvent sans leur accord ni contrepartie – pour entraîner leurs modèles d’IA générative.

Des outils et logiciels spécialisés ont rapidement été développés pour aider les artistes à rendre leurs œuvres inutilisables par l’IA. Par exemple, l’université de Chicago a créé des outils comme Glaze, qui applique un « voile stylistique » aux œuvres pour masquer le style personnel d’un artiste, et Nightshade, qui modifie subtilement les pixels pour manipuler les données d’entraînement, ce qui amène les modèles d’IA à apprendre des associations erronées ou à mal étiqueter le contenu.

Beaucoup de créateurs voient ces outils comme une forme de désobéissance civile non violente visant à protéger leur propriété intellectuelle. Le but ultime, c’est de rendre l’utilisation non autorisée de leurs œuvres pour l’entraînement de l’IA moins intéressante – et surtout, non rentable – pour ces grandes entreprises. C’est pour ça que plein d’artistes intègrent désormais ces outils dans leurs œuvres avant de les publier sur les réseaux sociaux, les sites de portfolios ou leurs sites perso, créant ainsi des pièges pour les robots de scraping.

Dans l’industrie musicale, les techniques d’empoisonnement des données, conçues pour protéger la musique contre l’entraînement non autorisé des IA, sont restées largement au stade expérimental. Même si certains outils potentiels ont vu le jour ces dernières années – on en parlera plus en détail plus tard –, aucune solution standard du secteur n’a encore atteint le niveau d’adoption observé dans la protection des images.

Il y a plusieurs raisons à ça.

Tout d’abord, protéger la musique contre l’entraînement des IA est bien plus compliqué que de protéger des images. Contrairement aux images, qui sont des objets uniques et statiques, la musique est séquentielle et se déroule dans le temps. Les modèles d’IA musicaux doivent donc apprendre plusieurs motifs et éléments sur des secondes ou des minutes d’audio, notamment le rythme, la mélodie, l’harmonie, la dynamique, les paroles, le timbre et les techniques de production. Alors qu’un changement infime peut avoir peu d’impact sur une image, il peut affecter l’audio de manière très différente, car le modèle analyse un signal continu.

De plus, les modèles d’IA ne se contentent pas d’« écouter » les chansons comme le font les humains. Selon le système, ils peuvent analyser des spectrogrammes ( représentations visuelles des fréquences sonores), des embeddings ( représentations mathématiques compressées de l’audio), des paroles, des métadonnées ou de la musique symbolique, comme le MIDI. Comme chaque modèle se concentre sur des représentations musicales différentes, c’est bien plus compliqué de développer une technique unique capable de perturber l’entraînement de manière fiable sans nuire à l’expérience d’écoute.

Un autre défi, c’est qu’ il n’y a pas d’architecture dominante en matière d’IA musicale. Dans la génération d’images, des outils comme Nightshade peuvent cibler un écosystème relativement uniforme et bien compris. En revanche, l’IA musicale est bien plus fragmentée, avec différents systèmes entraînés pour des objectifs variés, notamment la génération musicale, le clonage vocal, le mastering, la transcription et les recommandations. Du coup, une technique qui perturbe un modèle peut n’avoir que peu ou pas d’effet sur un autre.

Il faut aussi noter que les humains sont bien plus sensibles aux artefacts audio qu’ aux minuscules changements de pixels. C’est pourquoi il est relativement plus facile de développer des outils qui modifient les pixels d’une manière pratiquement imperceptible pour l’oreille humaine, mais qui parviennent tout de même à semer la confusion chez les modèles d’IA. En audio, même les plus petites modifications peuvent introduire un sifflement, une distorsion ou d’autres artefacts indésirables. Le défi consiste à trouver ou à introduire des formes de perturbation que l’IA détecte, mais que les auditeurs humains ne remarquent pas.

Enfin, l’explication la plus simple pour comprendre pourquoi il existe des outils de protection fiables pour l’art visuel mais pas encore pour la musique, c’est que les chercheurs ont tout simplement eu plus de temps pour y travailler. L’essor de l’art généré par l’IA a commencé avant que la musique générée par l’IA ne se démocratise, ce qui a donné aux chercheurs, aux universités et aux développeurs une longueur d’avance dans la mise au point de technologies de protection. La recherche sur la protection audio se développe, mais elle reste en retard par rapport à celle sur la protection des images.

Comme on l’a vu plus haut, le but idéal de l’empoisonnement des données dans les ensembles de données musicales, c’est de modifier les fichiers audio pour qu’ils continuent à sonner normal à l’oreille humaine tout en semant la confusion ou en corrompant les modèles d’apprentissage automatique entraînés sur ces données.

Ça consiste généralement à intégrer un bruit adversaire indétectable dans les enregistrements des musiciens, ce qui perturbe le processus d’apprentissage du modèle et dégrade la qualité de ses résultats. Dans le pire des cas, l’empoisonnement de données à grande échelle peut même contribuer à la détérioration rapide des capacités d’un modèle – un phénomène connu sous le nom d’« effondrement du modèle ».

En ce qui concerne les logiciels spécifiques, quelques projets sont devenus des sujets phares dans le secteur :

1. Poisonify

Poisonify a été développé à l’origine par Benn Jordan, musicien électronique et créateur YouTube de renom. Plutôt qu’un produit potentiellement commercial, c’est un concept indépendant et un projet open source.

L’objectif de Jordan était de montrer que le « poison pilling » – c’est-à-dire l’injection intentionnelle de données corrompues dans les ensembles de données d’entraînement – est techniquement faisable pour l’audio, et que les principes mathématiques sous-jacents peuvent être transposés avec succès des images aux spectrogrammes audio.

2. Poison Pill

Poison Pill, récemment arrêté, fondé par l’entrepreneur Ben Bowler, a posé les bases de la technologie d’empoisonnement des données dans la musique en tant qu’outil commercial. C’était la première start-up de type Software-as-a-Service (SaaS) dans ce domaine ; elle a été lancée en version bêta en octobre 2025 dans le but de protéger les musiciens indépendants contre les scrapers IA systématiques.

Malheureusement, les défis structurels de l’industrie musicale ont causé la chute de la start-up, et Bowler a fermé à la fois Poison Pill et sa plateforme musicale IA, Aux, en avril 2026. Même si Poison Pill était censé servir de mécanisme de défense anti-IA pour les artistes, la méfiance généralisée envers la technologie IA au sein de la communauté créative a rendu extrêmement difficile la mise en place de l’infrastructure et des partenariats nécessaires.

3. HarmonyCloak et ArtyShield

En 2024, les équipes de recherche de l’université du Tennessee à Knoxville et de l’université de Lehigh ont présenté HarmonyCloak, un concept académique et technologique qui modifie subtilement l’harmonie et la mélodie d’une manière imperceptible à l’oreille humaine. L’objectif est de semer complètement la confusion chez les générateurs d’IA, rendant ainsi la musique instrumentale pratiquement « impossible à apprendre » pendant l’entraînement.

Les chercheurs ont depuis validé cette approche grâce à des tests approfondis sur des modèles musicaux de pointe et auprès de panels d’écoute humains. Ils ont ensuite créé plusieurs outils commerciaux, notamment MusicShield, VoiceShield et VeriTune, qui ont été intégrés à leur société mère, ArtyShield, en avril 2026.

Aujourd’hui, la plateforme en ligne est disponible en accès anticipé sur le site d’ArtyShield, ce qui permet aux artistes de s’inscrire gratuitement et d’utiliser sa gamme grandissante d’outils de protection et de détection de l’IA.

Encore une fois, même si ces projets montrent que l’empoisonnement des données musicales est techniquement faisable, ce domaine en est encore à ses tout débuts. La plupart des solutions disponibles restent expérimentales, et leur efficacité à long terme dépendra essentiellement des avancées technologiques, mais aussi de la réaction des entreprises d’IA, de l’adoption ou non par les développeurs de jeux de données d’entraînement sous licence, et de l’évolution future de la réglementation.

Dès le début de notre article, on a expliqué que l’empoisonnement des données est généralement considéré comme une menace sérieuse pour la cybersécurité, avec des conséquences potentiellement importantes. Naturellement, ça suscite un débat éthique à l’échelle du secteur, beaucoup se demandant si l’empoisonnement des données est moral et, peut-être plus important encore, légal.

La réponse courte est oui : empoisonner sa propre musique, en tant qu’artiste qui en es propriétaire, est généralement considéré comme légal. En tant que titulaire des droits d’auteur de votre œuvre, vous avez le droit légal de modifier, déformer, compresser et ajouter du bruit numérique à vos fichiers avant de les publier et de les diffuser. D’un point de vue juridique, cette approche est souvent considérée comme une solution technique de contournement ou une forme d’autodéfense, un peu comme ajouter un filigrane à une photo pour dissuader le scraping ou toute utilisation non autorisée. La question de savoir si une entreprise d’IA peut légalement utiliser cette œuvre à des fins d’entraînement est une autre histoire, et elle continue de faire l’objet de débats devant les tribunaux du monde entier.

La situation est très différente si vous décidez de cibler directement l’infrastructure d’une entreprise d’IA ou d’injecter du code malveillant dans ses systèmes privés. Dans de nombreuses juridictions, causer intentionnellement des dommages à des systèmes informatiques ou à des bases de données protégés peut constituer une infraction pénale au titre de la législation sur la cybercriminalité. Dans ces cas-là, l’acte ne serait plus considéré comme un acte d’autodéfense, mais plutôt comme une cyberattaque ou un sabotage numérique, ce qui entraîne des implications juridiques et éthiques évidentes.

Il est aussi important de noter que l’empoisonnement des données est étroitement lié au débat actuel sur l’usage loyal et l’entraînement des IA. De nombreuses entreprises d’IA, dont Udio et Suno, ont fait valoir que l’entraînement de leurs modèles sur des contenus protégés par le droit d’auteur relevait de l’usage loyal ou de doctrines juridiques similaires. Mais ce point de vue reste très controversé, surtout vu que ces entreprises peuvent tirer profit de cette utilisation sans rémunérer les créateurs originaux. On dirait aussi que les législations mondiales évoluent petit à petit pour favoriser largement les créateurs par rapport aux entreprises technologiques. Par exemple, la loi européenne sur l’IA exige que les entreprises d’IA soient transparentes sur les données qu’elles collectent et qu’elles respectent les clauses d’exclusion en matière de droit d'auteur.

Enfin, même si le fait d’« empoisonner » sa propre musique ne risque pas d’enfreindre le droit pénal, ça pourrait tout de même aller à l’encontre des conditions d’utilisation de certaines plateformes. Une plateforme de streaming, par exemple, pourrait exiger que les fichiers audio uploadés respectent des normes techniques spécifiques ou interdire les fichiers contenant des modifications structurelles intentionnelles.

Pour l’instant, cependant, l’altération des données musicales en est encore à ses balbutiements, et la plupart des plateformes de streaming et de distribution n’ont pas encore publié de politiques qui traitent explicitement de ce sujet. Au lieu de ça, tout litige relèverait probablement des conditions d’utilisation générales, selon la façon dont la technologie est utilisée.

Si vous espériez que cet article devienne un guide détaillé pour « empoisonner » vos propres données musicales, vous vous sentez peut-être un peu déçu à ce stade. Cependant, ne perdez pas espoir. Il existe encore plusieurs autres moyens de protéger votre travail contre un apprentissage non autorisé par l’IA.

Le droit d’auteur reste le pilier de la protection musicale. Même s’il n’empêche pas à lui seul les entreprises d’IA d’utiliser de la musique accessible au public, il établit la propriété et donne aux artistes des bases juridiques pour contester l’utilisation non autorisée de leurs œuvres.

À mesure que le cadre juridique autour de l'entraînement de l'IA évolue, le droit d'auteur jouera probablement un rôle de plus en plus important dans les futurs contrats de licence entre les ayants droit et les développeurs d'IA.

Déjà, plusieurs entreprises d’IA, dont Suno et Udio, ont commencé à négocier des licences avec des labels, des éditeurs et des distributeurs, plutôt que de se contenter d’utiliser des ensembles de données accessibles au public. Bien sûr, ces accords ne résolvent pas les problèmes sous-jacents liés à l’entraînement de l’IA générative sur de la musique créée par l’homme, mais ils constituent une étape importante vers une approche plus transparente et, espérons-le, mieux rémunérée de l’entraînement de l’IA.

Comme on l’a déjà mentionné, certaines juridictions commencent petit à petit à réserver des droits aux artistes contre certaines formes d’exploration de textes et de données. Au sein de l’Union européenne, par exemple, la loi sur le droit d’auteur permet aux ayants droit de refuser que leurs œuvres soient utilisées à des fins spécifiques d’entraînement de l’IA sous certaines conditions.

De la même manière, plusieurs organisations ont commencé à mettre en place des registres mondiaux qui permettent aux artistes d’ajouter leur nom d’artiste, leur domaine et leurs pistes de musique à une liste universelle d’exclusion. Parmi elles , on trouve Spawning.ai, HaveIBeenTrained et Kudurru. D’autres plateformes mettent à jour leurs politiques pour donner aux créateurs plus de contrôle sur la façon dont leur contenu est utilisé.

Dans l’ensemble, ces mesures sont encore en pleine évolution, et leur efficacité dépend en grande partie de la manière dont les développeurs d’IA collectent et respectent les données d’entraînement. Elles offrent néanmoins aux artistes une protection supplémentaire en plus du droit d’auteur.

Contrairement à l’empoisonnement des données, le tatouage numérique ne cherche pas à semer secrètement la confusion dans les modèles d’IA ni à perturber leurs résultats. Il vise plutôt à intégrer des informations uniques dans un fichier – dans ce cas précis, dans votre master. Ça n’empêche pas forcément l’IA d’extraire ce fichier, mais ça peut aider à vérifier la propriété, à tracer une utilisation non autorisée ou à identifier un contenu généré par l’IA.

Des métadonnées précises jouent un rôle tout aussi important. En veillant à ce que votre musique contienne des informations relatives à votre propriété, aux droits d'auteur et aux licences, vous facilitez considérablement la traçabilité de l'œuvre, simplifiez l'octroi de licences et pouvez également en accroître la valeur à mesure que les exigences de transparence applicables aux systèmes d'IA continuent d'évoluer.

Ce n’est peut-être pas la recommandation la plus facile à suivre, mais ça vaut le coup d’y réfléchir si protéger votre musique contre l’entraînement des IA est l’une de vos priorités. En gros, l’endroit où vous publiez votre musique a son importance. Alors que de nombreuses plateformes – dont Spotify – n’ont pas encore pris de position ferme sur l’IA générative, d’autres ont déjà adopté certaines politiques.

Par exemple, Bandcamp interdit formellement les pistes générées en grande partie par l’IA, donnant la priorité à la musique créée par des humains et protégeant son écosystème contre les mises en ligne massives générées par des algorithmes. De même, Deezer a été l’une des premières plateformes de streaming musical à lancer un outil de détection de l’IA, favorisant ainsi une plus grande transparence autour des pistes générées par l’IA tout en cherchant à limiter leur monétisation.