Como as novas regras do AI Act da UE afetam seus lançamentos

Em julho de 2024, a União Europeia promulgou o AI Act, um conjunto de regras criado para regular o uso da inteligência artificial em todos os países membros. A lei foi criada para proteger os consumidores dos possíveis riscos da inteligência artificial e trazer mais transparência ao seu uso, um tema que tem estado no centro das discussões do público e do setor musical desde que a IA se tornou parte do dia a dia das pessoas.

O AI Act da UE está dividido em 13 capítulos que abordam diferentes aspectos dessa tecnologia. Entre outros temas, o código inclui práticas proibidas, sistemas de IA de alto risco e requisitos de transparência. Como a lei se aplica a todos que forneçam, usem ou lidem com produtos gerados por IA, ela afeta a indústria musical, incluindo plataformas de geração de música por IA, serviços de streaming, distribuidores, produtores e até mesmo os ouvintes, que vão perceber sua implementação de uma forma relativamente sutil.

Use você IA no seu trabalho ou não, vale conhecer a legislação para entender melhor como ela pode influenciar a forma de fazer, distribuir e consumir música.

A parte que mais interessa à indústria musical é o artigo 50º: obrigações de transparência para fornecedores e operadores de determinados sistemas de IA, que entrou em vigor em 2 de agosto de 2026. É ali que estão as exigências com força de lei e os deveres legais específicos que fornecedores e operadores de IA terão de cumprir. Quem violar o artigo 50º, vai estar infringindo a lei.

Então, o que exatamente o artigo 50º exige e o que isso significa para artistas e outros profissionais da música? Na próxima seção, vamos analisar as partes relevantes da lei e explicar o que elas significam na prática.

“Os fornecedores devem garantir que os sistemas de IA destinados a interagir diretamente com pessoas naturais sejam projetados e desenvolvidos de forma que elas sejam informadas de que estão interagindo com um sistema de IA, a menos que isso seja óbvio do ponto de vista de uma pessoa natural razoavelmente bem informada, atenta e prudente, levando em conta as circunstâncias e o contexto de uso.”

O primeiro ponto do artigo trata dos sistemas de IA que interagem diretamente com as pessoas, como os chatbots de atendimento de um site ou os atendentes telefônicos automatizados. Se alguém está conversando com um sistema de IA, a empresa por trás dele precisa deixar isso claro, a menos que isso fique evidente pelo contexto.

Para artistas e gravadoras, isso significa que as empresas com quem trabalham, ou cujas ferramentas adotam, podem ter de avisar o cliente quando ele está falando com uma IA. Isso vale para o atendimento por IA usado por plataformas, distribuidores, ferramentas de produção e outros serviços do setor musical.

Na iMusician, por exemplo, adotamos tanto um chatbot baseado em IA quanto suporte humano, de forma que você sempre vai saber quando está interagindo com a IA e quando está falando com alguém da nossa equipe.

“Os fornecedores de sistemas de inteligência artificial, inclusive os de propósito geral, que gerem conteúdo sintético de áudio, imagem, vídeo ou texto deverão garantir que os resultados do sistema sejam sinalizados em formato legível por máquina e passíveis de detecção como gerados ou manipulados artificialmente. Os fornecedores deverão assegurar que as soluções técnicas empregadas sejam eficazes, interoperáveis, robustas e confiáveis, sempre que tecnicamente viável, consideradas as especificidades e as limitações dos diversos tipos de conteúdo, os custos de implementação e o estado da técnica geralmente reconhecido, conforme refletido nas normas técnicas pertinentes.”

Em termos simples, ferramentas de IA que geram conteúdo do zero, como Suno, Udio, Midjourney ou ChatGPT, vão ter que deixar algum tipo de sinal digital que identifique seus resultados como gerados por IA. Isso pode ser feito por meio de tags invisíveis, metadados ou marcas d’água que continuem detectáveis quando o conteúdo for compartilhado ou processado em outro lugar.

Para os músicos que usam IA, isso significa que as empresas por trás dessas ferramentas vão inserir automaticamente tags e marcas d'água nos resultados, o que torna a transparência inevitável. No entanto, há uma exceção importante:

“Essa obrigação não se aplica na medida em que os sistemas de inteligência artificial desempenhem função meramente auxiliar de edição padrão ou não alterem substancialmente os dados de entrada fornecidos pelo operador ou a respectiva semântica[...]”

Em outras palavras, o conteúdo editado com ferramentas de IA não precisa ser sinalizado quando o material original e o seu sentido não forem alterados profundamente. É o caso de quando as ferramentas de IA são usadas em tarefas como edição, mixagem e masterização, ou para aprimorar gravações já existentes sem mexer na essência do conteúdo ou no sentido original. No entanto, músicas, letras ou vocais criados do zero com uso de IA continuam exigindo a identificação.

"Quem implanta sistemas de inteligência artificial que gerem ou manipulem conteúdo de imagem, áudio ou vídeo que constitua deepfake deverá divulgar que o conteúdo foi gerado ou manipulado artificialmente. (...) Quando o conteúdo integrar obra ou programa manifestamente artístico, criativo, satírico, ficcional ou análogo, as obrigações de transparência de que trata este artigo limitam-se à divulgação da existência do conteúdo gerado ou manipulado, de modo que não prejudique a exibição ou a fruição da obra."

Se você usa IA para criar material que imite pessoas ou acontecimentos reais de forma convincente, como clones de voz, vocais sintéticos ou trocas de rosto em vídeo, precisa deixar claro que o conteúdo foi gerado ou manipulado artificialmente. Não é necessário inserir pop-ups intrusivos nem alertas sonoros nas imagens ou na música. Basta incluir um aviso nos créditos da faixa, nas descrições de vídeo, nos metadados do distribuidor ou no encarte, conforme o formato e o canal de lançamento.

“As informações mencionadas nos parágrafos 1 a 4 devem ser fornecidas às pessoas naturais envolvidas de maneira clara e distinguível, o mais tardar no momento da primeira interação ou exposição. As informações devem estar em conformidade com os requisitos de acessibilidade aplicáveis.”

As informações devem ser claras, fáceis de identificar e acessíveis para quem estiver interagindo com o conteúdo. Para os artistas, isso significa considerar onde e como apresentar as informações relacionadas à IA no lançamento de músicas, vídeos ou outros trabalhos criativos.

"O cumprimento dessa obrigação de transparência não deve ser interpretado no sentido de que o uso do sistema de inteligência artificial, ou de seus resultados, prejudica o direito à liberdade de expressão e o direito à liberdade das artes e das ciências garantidos pela Carta, em particular quando o conteúdo integrar obra ou programa manifestamente criativo, satírico, artístico, ficcional ou análogo, observadas as salvaguardas adequadas para os direitos e as liberdades de terceiros."

A lei afirma explicitamente que essas regras de transparência não têm como objetivo proibir a arte gerada por IA, censurar a sátira ou restringir a liberdade de expressão. Você ainda pode usar a IA para projetos criativos ou artísticos, desde que respeite os direitos e liberdades de terceiros e cumpra os requisitos de transparência aplicáveis.

O AI Act da UE também alcança quem está fora do bloco. Se você usa IA para gerar áudio sintético, clones de voz ou imagens, e esse material é distribuído ou reproduzido na UE, a lei passa a valer para você (e sua gravadora). Vocês respondem pelo uso da IA e precisam cumprir as regras de transparência do artigo 50º.

Com o artigo 50º do AI Act da UE em vigor, quem lança músicas criadas com IA precisa conhecer as regras e deixar clara a adoção da tecnologia sempre que a lei exigir. A transparência torna a utilização da inteligência artificial mais fácil de reconhecer e, ao mesmo tempo, protege os artistas e sua propriedade intelectual. Se você usa IA para criar seus lançamentos, fique atento às ferramentas envolvidas e às informações que precisa fornecer.