Spotify lança novas regras contra spam, falsificação de identidade e fraude com IA

Ao longo da história, a música tem evoluído constantemente a par da tecnologia. Embora a tecnologia tenha tornado a produção musical mais acessível, os recentes e rápidos avanços na inteligência artificial têm sido particularmente inquietantes para muitos artistas. A ascensão da IA obrigou as empresas a equilibrar a inovação com a responsabilidade, e muitas têm sido bastante lentas a atuar. As plataformas de streaming de música encontram-se numa situação delicada, tendo de decidir até que ponto estão dispostas a acolher a nova tecnologia ou a mantê-la à distância.

Nos últimos meses, algumas plataformas começaram cautelosamente a permitir que os artistas carregassem faixas que incorporassem IA. As reações, tanto dos artistas como dos ouvintes, têm sido mistas. Muitos continuam inquietos com a crescente normalização da IA na música, enquanto outros a acolhem como uma oportunidade para experimentar e expandir as fronteiras criativas. Há também vozes que argumentam que restringir muito a IA pode acabar por fazer mais mal do que bem, uma vez que é bastante claro que a tecnologia veio para ficar.

No entanto, as plataformas estão sendo pressionadas para proteger os artistas da IA, evitar abusos de direitos de autor, filtrar a "porcaria da IA" e garantir aos criadores e ao público que, se permitida, a música com IA é rotulada como tal. O Deezer é um exemplo. A plataforma criou ferramentas de detecção para etiquetar claramente o conteúdo quando a IA está envolvida, exclui essas faixas dos algoritmos de recomendação e limita a sua participação em playlists editoriais.

Enquanto o Deezer reagiu rapidamente, a posição do Spotify sobre o uso de IA em faixas carregadas tem sido bastante vaga - pelo menos até agora. Embora, de um modo geral, permitisse que os artistas carregassem música gerada ou assistida por IA (desde que não violasse nenhuma das suas políticas ou direitos de autor), centrava-se principalmente nas políticas de moderação, na prevenção da manipulação de direitos de autor e nos controlos de spam, em vez de medidas específicas relacionadas com a IA.

No entanto, um anúncio recente sugere que o Spotify começou a levar a IA mais a sério. Num artigo de imprensa, a plataforma revelou que irá tomar medidas concretas para proteger os artistas das consequências nocivas da IA, introduzindo novas regras relativas à falsificação de identidade, ao spam e ao engano.

Embora o Spotify afirme o seu compromisso em dar aos artistas a liberdade de utilizar a IA, adverte que a tecnologia pode ser mal utilizada por "maus atores e fazendas de conteúdo para confundir ou enganar os ouvintes, empurrar "slop" para o ecossistema e interferir com artistas autênticos que trabalham para construir as suas carreiras. Esse tipo de conteúdo de IA nocivo degrada a experiência do utilizador para os ouvintes e tenta frequentemente desviar os direitos de autor para os maus atores".

Mas quais são as medidas exatas que o Spotify pretende tomar? Vamos ver os pormenores.

Uma das principais preocupações do Spotify é a imitação. Com o avanço da clonagem de voz com recurso a IA, os músicos enfrentam riscos crescentes de terem as suas vozes utilizadas em deepfakes ou canções falsas. A clonagem vocal não autorizada explora a identidade de um artista, prejudica a sua arte e ameaça a integridade do seu trabalho.

Para responder a esta preocupação, o Spotify introduziu uma nova política de imitação que define a forma como estes casos serão tratados. De acordo com as regras atualizadas, a imitação vocal só é permitida quando o artista tiver dado autorização explícita. Ao mesmo tempo, a empresa reconhece que alguns artistas podem optar por licenciar as suas vozes para projetos de IA, sublinhando que esta decisão deve permanecer no controlo do artista.

O Spotify também está reforçando as proteções contra uploads fraudulentos que colocam faixas geradas por IA ou roubadas nos perfis de artistas legítimos. Internamente, o Spotify está a expandir o seu sistema de incompatibilidade de conteúdos, reduzindo os tempos de espera de revisão e dando aos artistas a possibilidade de assinalar conteúdos incompatíveis mesmo antes do lançamento.

Além disso, o Spotify está intensificando os seus esforços contra o spam e a fraude. Este não é um território novo para o Spotify, que investiu fortemente em sistemas complexos para detectar atividades fraudulentas.

O principal problema é que a IA torna muito mais fácil a produção de música de baixa qualidade em grande escala. Por esta razão, o Spotify decidiu dar mais passos e lançar um filtro de spam musical para identificar e marcar uploaders e faixas suspeitas. Desta forma, pretende-se impedir que os maus atores gerem direitos de autor que deveriam reverter a favor de artistas e compositores profissionais.

A mudança é urgente: só nos últimos 12 meses, durante o boom da IA generativa, o Spotify removeu mais de 75 milhões de faixas de spam. Dito isto, o processo será bastante lento e cauteloso, uma vez que o Spotify quer evitar penalizar os artistas legítimos.

Finalmente, o Spotify decidiu avançar para uma maior transparência em relação à IA, respondendo à crescente procura dos ouvintes. O principal desafio é que o uso de IA muitas vezes se enquadra num espectro, desde uma assistência subtil na produção até músicas totalmente geradas, tornando um simples rótulo "IA ou não IA" demasiado limitado. Para resolver este problema, o Spotify está a apoiar uma nova norma de divulgação desenvolvida pela DDEX, dando às editoras, distribuidores e parceiros uma forma de indicar onde e como a IA foi utilizada numa faixa.

Estas divulgações aparecerão diretamente na aplicação, abrangendo tudo, desde vozes e instrumentação geradas por IA até ao trabalho de pós-produção. O objetivo é reforçar a confiança em toda a plataforma e trabalhar para um futuro em que os artistas permaneçam no controlo das suas escolhas criativas, com salvaguardas para proteger contra abusos.