[parte 1/2]: Por dentro do Discord onde milhares de produtores desonestos estão fazendo música de IA:
Escrito por Chole Xiange
Leia a íntegra em inglês em https://www.vice.com/en/article/y3wdj7/inside-the-discord-where-thousands-of-rogue-producers-are-making-ai-music
Na semana passada, uma faixa viral que usou IA para criar uma música original usando as vozes de Drake e The Weeknd se tornou viral e ganhou milhões de ouvintes na Internet antes de ser retirada após uma grande gravadora reclamar. O sucesso de "Heart on My Sleeve" fez com que muitas pessoas se perguntassem se ela representa o futuro iminente da música, mas parece muito mais com o presente: existem centenas de outras músicas de IA se espalhando pelas mídias sociais e plataformas de streaming, e uma comunidade on-line inteira dedicada a fazer música de IA.
Essas músicas incluem faixas originais e covers, como Rihanna cantando “Cuff It” de Beyoncé, ou Drake e Kanye West cantando “WAP” de Cardi B. e Megan Thee Stallion, e os detentores dos direitos estão se movendo o mais rápido que podem para tirá-los do ar. No sábado, um grupo de produtores musicais e compositores lançou um álbum inteiro usando versões geradas por IA da voz do rapper Travis Scott e de outros artistas, chamadas UTOP-AI. O álbum foi retirado do ar três horas depois de ser lançado no YouTube devido a uma reivindicação de direitos autorais do Warner Music Group. Em seguida, foi carregado no Soundcloud, mas foi rapidamente colocado offline lá.
À medida que a música de IA se torna mais acessível e popular, ela se tornou o centro de um debate cultural. Os criadores de IA defendem a tecnologia como uma forma de tornar a música mais acessível, enquanto muitos profissionais da indústria da música e outros críticos acusam os criadores de violação de direitos autorais e apropriação cultural.
Um servidor Discord chamado AI Hub hospeda uma grande comunidade de criadores de música AI por trás de algumas das músicas AI mais virais. Este servidor foi criado em 25 de março e já conta com mais de 21.000 usuários. O AI Hub se dedica a fazer e compartilhar música de IA e ensina as pessoas a criar músicas, com guias e até mesmo modelos de IA prontos para imitar vozes de artistas específicos disponíveis para novos criadores. As pessoas podem postar músicas que criaram e fazer perguntas de solução de problemas umas às outras.
“Eu realmente nunca esperei que o servidor crescesse como cresceu. Em apenas um mês, o grupo cresceu para vinte mil membros. É muito surreal, já que nosso servidor acidentalmente se tornou o centro de uma enorme nova tecnologia”, disse o criador do AI Hub, que atende pelo pseudônimo de Snoop Dogg, ao Motherboard. “Eu tive pessoas que conheço IRL trazendo coisas de IA que eu fiz aqui apenas por diversão. No início do servidor, era principalmente eu que fazia modelos, mas nossa comunidade já fez mais de 70 deles até agora.”
Embora o uso da IA para transformar a voz de ninguém na voz de uma superestrela possa parecer misterioso, é surpreendentemente fácil. Usando as instruções postadas no Discord, a Motherboard tentou duas maneiras diferentes de criar capas de IA e descobriu que isso pode ser feito em apenas alguns minutos. Isso é possível porque os membros do servidor Discord criaram modelos de código que podem ser executados na plataforma Colab do Google e modelos de voz AI de mais de 30 cantores populares que podem ser inseridos no modelo.
Para criar um cover de uma música usando a voz de um cantor diferente, você começa baixando uma música do YouTube, depois separa o backtrack dos vocais acapella usando um dos vários sites gratuitos, transforma o arquivo de áudio acapella em uma nova voz usando AI e em seguida, junte as duas faixas usando um software de edição de música.
“O que eu gosto na música de IA é a liberdade que ela dá”, disse ao Motherboard um produtor musical ucraniano conhecido como Wonderson. “Todo produtor sonha em ouvir como sua batida soará com Drake, Kendrick ou Westside Gunn. Mas os artistas são poucos e os produtores e compositores são milhões. Mesmo o mais talentoso deles nunca trabalhará com todos os artistas em que está interessado. Mas a inteligência artificial pode consertar isso”, disse Wonderson, acrescentando que, como produtor na Ucrânia, tem sido particularmente difícil para ele entrar no mercado. indústria da música ocidental.
“Posso ver a mesma liberdade para os ouvintes. Veja quanto novo conteúdo foi criado com base em capas de IA. Muitas faixas tiveram uma segunda chance e até uma nova interpretação, e algumas delas soam ainda melhores que a original”, acrescentou.
Muitos membros desta comunidade dedicaram muito do seu tempo para melhorar constantemente os modelos de voz AI, com novas versões lançadas regularmente. Para eles, fazer música com IA é um hobby através do qual criam faixas que imaginam sem precisar dos recursos que antes eram necessários para isso. Ao mesmo tempo, os vídeos de faixas de IA costumam ser retirados assim que são postados e as gravadoras e editoras estão se preparando para lidar com esse novo problema na indústria da música.
A questão dos direitos autorais na música com IA está sendo fortemente debatida após o sucesso de “Heart on my sleeve”, que foi criado por um produtor anônimo chamado Ghostwriter, que escreveu e gravou a música e usou IA para substituir seus vocais pelos de Drake e The Weeknd. . Depois de ver isso, o Universal Music Group (UMG), onde Drake e The Weeknd são contratados, sinalizou a música e o conteúdo de IA para serviços de streaming de música, onde foi imediatamente removido.
“Esses casos demonstram por que as plataformas têm uma responsabilidade legal e ética fundamental de impedir o uso de seus serviços de maneira que prejudique os artistas”, disse a UMG ao Motherboard em uma declaração sobre “Heart on my sleeve”.
O Ghostwriter, por sua vez, afirmou que era (apropriadamente) um ghostwriter na indústria da música, mas não foi compensado de forma justa enquanto as gravadoras lucravam.
Em março, a UMG disse às plataformas de streaming, incluindo Spotify e Apple, para impedir que aplicativos de IA extraíssem melodias e letras de suas músicas protegidas por direitos autorais e disse às plataformas que os sistemas de IA foram treinados em conteúdo protegido por direitos autorais sem obter o consentimento necessário das pessoas que possuem e produzem o conteúdo. contente. O executivo da UMG, Michael Nash, também publicou um artigo de opinião em fevereiro, onde escreveu que a IA está “diluindo o mercado, tornando as criações originais mais difíceis de encontrar e violando os direitos legais dos artistas à compensação de seu trabalho”.
“As pessoas estão profundamente preocupadas com a IA, mas muitas também reconhecem que a IA como ferramenta é uma boa ferramenta para aumentar o fluxo de trabalho, navegar no bloco criativo e se tornar mais eficiente”, disse Karl Fowlkes, advogado de entretenimento e negócios, ao Motherboard. “Há muitos aspectos positivos da IA na indústria da música, mas a IA generativa é algo que todas as partes interessadas na indústria precisam atacar. O aviso da UMG para [plataformas de streaming] foi um grande dominó publicamente”.
Em uma tentativa de contornar esse problema espinhoso, as regras do AI Hub on Discord incluem “nenhuma distribuição ilegal de materiais protegidos por direitos autorais, como vazamentos, arquivos de áudio e streaming ilegal” e “não violar a propriedade intelectual ou os direitos de ninguém”.
Agora existem muitas maneiras de transformar os vocais de uma música em uma nova voz. A maneira original era executar o código em uma página do Colab que os mods do servidor criaram. Então, alguém criou um bot Discord em outro servidor chamado Sable AI Hub no qual você pode executar o modelo usando comandos de texto. Agora, há também o primeiro aplicativo de criação de música AI chamado Musicfy que permite aos usuários importar diretamente um arquivo de áudio, escolher um artista e exportar os novos vocais.
Este aplicativo foi criado por um estudante hacker que atende pelo pseudônimo online ak24 e também é membro da comunidade AI Hub. O aplicativo teve mais de cem mil usos por dia após um dia de lançamento, disse ele. “Isso vai ser totalmente gratuito. A maneira como estou pensando agora é criar uma plataforma para as pessoas criarem música de IA do que quiserem. Mas usando esses modelos - Drake, Kanye,e modelos de pessoas famosas - não vou lucrar com isso”, disse ele ao Motherboard.
“Adoro como a música de IA nos permite transformar músicas existentes e criar novas músicas. É ótimo ter sido fã de muitos artistas e agora ser capaz de criar novos materiais se eles não aparecerem com frequência”, um administrador do AI Hub e gerente do canal correspondente do Discord no YouTube, Plugging AI, que atende por Qo, disse placa-mãe. “A música tradicional sempre será superior, mas a música AI para mim é apenas uma maneira legal de os fãs apreciarem e conceituarem novas ideias, as possibilidades são quase ilimitadas.”
UTOP-AI, o álbum criado pela comunidade Discord, apresenta músicas originais usando vocais gerados por IA de artistas famosos como Travis Scott, Drake, Baby Keem e Playboi Carti. Qo, Snoop Dogg e vinte outras pessoas envolvidas na comunidade AI Hub trabalharam nisso.
Este álbum coloca em prática o que atraiu Qo e Dogg para a música AI em primeiro lugar - a capacidade de criar material para artistas que eles desejam ouvir mais. “Se você não sabe, Utopia é um próximo álbum que Travis Scott vem provocando há algum tempo, mas nunca foi lançado. Alguns membros decidiram ‘Sabe de uma coisa? Devemos apenas fazer Utopia nós mesmos neste ponto. Temos a tecnologia agora.' É totalmente escrito e produzido por membros da comunidade e será lançado em breve”, disse Snoop Dogg, do AI Hub.
“Temos muitos vocalistas e produtores muito talentosos que trabalharam nele”, disse Qo antes do lançamento do álbum. “O único problema agora é que nosso primeiro single acabou de ser lançado, pois estava explodindo no tiktok, então não temos certeza de onde o colocaremos para streaming. Muito provavelmente será exclusivamente YouTube e Soundcloud.”
Depois que o álbum foi lançado no YouTube no sábado, ele foi retirado do ar cerca de três horas depois, após ser sinalizado por direitos autorais pelo Warner Music Group. Também foi retirado devido à violação de direitos autorais no Soundcloud, mas desde então foi recarregado no YouTube por uma conta de fã.
“Tem aproximadamente 150 mil reproduções no SoundCloud e aproximadamente 17 mil no YouTube com 500 pessoas assistindo à estréia”, disse Qo.
“A forma como a IA é treinada parece um grande obstáculo para qualquer argumento contra a violação de direitos autorais”
O álbum tinha um aviso na seção de descrição afirmando que o vídeo está isento das leis de direitos autorais sob a doutrina Fair Use, que afirma que as pessoas podem usar materiais protegidos por direitos autorais gratuitamente para fins selecionados, incluindo fins educacionais e sem fins lucrativos. Se algo é Fair Use ou não é determinado com base em quatro fatores: a finalidade do uso, a natureza do trabalho original protegido por direitos autorais, a quantidade do trabalho usado em proporção ao seu todo e o efeito do novo trabalho no mercado isso pertence a.
O argumento Fair Use é o que muitos criadores de música de IA estão usando para defender seu trabalho, afirmando que não estão lucrando com a música e, em vez disso, estão parodiando a música ou fazendo músicas para fins educacionais.
“A experiência do fã e do consumidor em relação à música é maior do que a música em si. O fandom é criado por meio da experiência, do conceito e das relações pessoais que os fãs têm com seus artistas favoritos”, disse Fowlkes. “Ainda assim, é importante que os artistas tenham controle sobre sua arte.”
Como a IA é tão nova, Fowlkes disse que ainda não há uma definição ou critério concreto que determine o que exatamente uma música da IA infringe os direitos autorais.
“Realmente não há nenhum precedente que afirme que o tom de voz de alguém é protegido por direitos autorais, então as duas questões legais mais óbvias estão relacionadas ao direito de publicidade e à ingestão de material protegido por direitos autorais para criar novos trabalhos”, acrescentou.
“O direito de publicidade estende o direito legal de controlar como seu nome, imagem e semelhança são explorados comercialmente por outros, o que pode se estender à voz de alguém. Além disso, embora a réplica da música de Drake e The Weeknd não tenha amostra explicitamente nenhuma letra de suas músicas, a maneira como a nova música foi criada foi ingerindo diretamente músicas de Drake, The Weeknd e Metro Boomin para criar algo que soasse semelhante ao trabalho deles. A maneira como a IA é treinada parece um grande obstáculo para qualquer argumento contra a violação de direitos autorais.”
A IA não é exatamente nova na indústria da música. De fato, muitos profissionais da indústria já usam IA como parte do processo de produção. A artista pop Taryn Southern fez parceria com o serviço de música AI Amper Music para desenvolver as partes instrumentais de sua música “Break Free”. Há também um grupo crescente de startups de música que atualmente se concentra em como automatizar partes do processo de criação de música, incluindo masterização de uma faixa, composição de letras e geração de vídeos para músicas.
Grimes twittou seu apoio à tecnologia no domingo, escrevendo: “Vou dividir 50% dos royalties em qualquer música bem-sucedida gerada por IA que use minha voz. O mesmo acordo que eu faria com qualquer artista com quem colaboro. Sinta-se à vontade para usar minha voz sem penalidade. Não tenho nenhum rótulo e nenhuma vinculação legal.”
ak24 disse que muitas gravadoras e profissionais da indústria o procuraram depois de ver a versão beta do Musicfy na esperança de criar uma parceria e obter acesso ao seu aplicativo. “A mídia tem essa percepção de que todos esses grupos musicais querem que isso seja encerrado. Mas é interessante saber por que eles querem que ela seja desativada porque querem a tecnologia para eles”, disse ele.
Os criadores da música de IA veem seu trabalho menos como uma maneira de ganhar dinheiro ou roubar a fama dos artistas, mas simplesmente levar a apreciação dos fãs para o próximo nível.
“Sei que muitas pessoas dizem que isso vai mudar massivamente a indústria da música, mas sinceramente não acho que vá afetá-la tanto. As pessoas estão dizendo 'Oh, eles podem fazer AI Drake e isso afetará Drake', mas a verdade é que as pessoas só se importam com AI Drake por causa do que o verdadeiro Drake fez. Não há apelo em criar um artista totalmente novo com IA”, disse o artista musical de IA conhecido como Snoop Dogg. “Por outro lado, as gravadoras poderiam tentar entrar na demanda e tentar fazer com que os artistas assinem os direitos exclusivos de suas próprias vozes. A partir de agora, as vozes dos artistas não são assinadas pela gravadora, então os artistas podem tecnicamente fazer o que quiserem com suas vozes em IA. Espero que as gravadoras não façam isso.”
"Não existe um botão mágico para 'criar uma bela música'"
“Pessoalmente, acho que as músicas criadas com IA devem ser marcadas, mas não excluídas. Eles não são prejudiciais, mas expandem os limites da criatividade”, disse Wonderson. “Milhares de pessoas em todo o mundo estão criando músicas e álbuns totalmente novos usando as vozes de seus artistas favoritos, e milhões de pessoas estão gostando de ouvi-los. O lançamento de um álbum de IA inspirado em Travis Scott não tornará suas músicas menos populares, pelo contrário.”
A música de IA foi acusada de acelerar a apropriação cultural e o racismo, principalmente porque algumas das canções de IA mais virais usam as vozes de rappers negros, incluindo Kanye West e Drake. Na verdade, vinte e sete dos trinta e dois modelos de artistas de IA são artistas negros. Esses artistas falam de suas próprias perspectivas culturais e raciais, e a IA pode usar suas vozes para dizer coisas que os retratam de maneira estereotipada. Além disso, essas pessoas já são marginalizadas dentro de uma indústria dominada por brancos, enfrentando a possibilidade de remoção adicional de crédito, compensação e outro reconhecimento por sua arte.
“Isso abre um problema ainda maior porque, na maioria das vezes, esses exemplos de músicas geradas por IA na Internet estão criando música negra sem usar os negros que a criaram”, escreveu Noah A. McGee no The Root. “Pessoas não negras que estão sentadas em casa atrás de um computador podem fazer a mesma coisa criando uma música que parece ter sido criada por seu rapper favorito, mas não lidar com as consequências de roubar sua imagem.”
“É outra maneira de as pessoas que não são negras vestirem a fantasia de uma pessoa negra – colocar as mãos para cima de Kanye ou Drake e transformá-lo em uma marionete – e isso é alarmante para mim”, Lauren Chanel, escritora de tecnologia e cultura, disse ao The New York Times. “Este é apenas mais um exemplo em uma longa lista de pessoas que subestimam o que é necessário para criar o tipo de arte que, historicamente, os negros fazem.”
“Não estou realmente preocupado, a menos que seja algo como dizer calúnias raciais que você não tem permissão para dizer por meio da IA ou tentar algo para colocar um artista em apuros. À medida que o servidor cresceu, sinto que se tornou uma maneira de qualquer pessoa expressar criatividade se não gostar de sua [própria] voz ou se for um grande fã de um artista”, disse Qo ao Motherboard. “99% dos covers/músicas originais de AI são apenas para experimentar a música e homenagear os artistas que as pessoas gostam. Nada foi feito com qualquer má intenção de pintar um artista em uma luz ruim ou música apropriada e esperamos que continue assim”.
No final, disse Wonderson, a IA é apenas uma ferramenta. No momento, um modelo de IA não pode cuspir um single de sucesso número 1, totalmente formado.
"Não existe um botão mágico para 'criar uma bela música' ou 'criar uma batida bacana'. É possível que tal recurso apareça no futuro, mas no momento não está disponível", disse Wonderson ao Motherboard. “Mesmo se você usar a IA para criar um disco no estilo de algum artista usando uma réplica de sua voz, ainda terá que escrever a batida ou usar uma batida escrita por um humano. Você também terá que escrever a letra, gravar e executar a voz”.
[parte 2/2]: RIAA reprime o AI HUB no Discord: 'mina todo o ecossistema musical'
Escrito por Bill Donahue.
Os advogados da RIAA pretendem desligar um popular servidor Discord centrado em inteligência artificial e modelos de voz, o mais recente esforço das empresas de música para controlar a nova tecnologia disruptiva.
Em uma ação movida na semana passada no tribunal federal de DC, os advogados da RIAA obtiveram uma intimação exigindo que o Discord revelasse as identidades dos usuários no “AI Hub”, um quadro de mensagens com 145.000 membros que se autodenomina “uma comunidade dedicada a fazer vozes e músicas de IA .”
Em uma carta à Discord apresentando a empresa com a intimação, a RIAA disse que esses usuários haviam “infringido … gravações de som protegidas por direitos autorais” e que a empresa de tecnologia era obrigada a entregar nomes, endereços físicos, informações de pagamento, endereços IP e outros detalhes de identificação.
Os advogados do grupo também enviaram avisos de remoção do Digital Millennium Copyright Act para Discord, primeiro no final de maio e novamente na próxima semana. O grupo exigiu que o Discord desativasse o acesso ao servidor, removesse ou desativasse o material infrator e informasse os usuários do servidor “sobre a ilegalidade de sua conduta”.
“Este servidor [é] dedicado a infringir as gravações de som com direitos autorais de nossos membros, oferecendo, vendendo, vinculando, hospedando, transmitindo e/ou distribuindo arquivos contendo as gravações de som de nossos membros sem autorização”, escreveram os advogados da RIAA em sua carta de junho. para Discord, que foi obtido pela Billboard. “Pedimos sua ajuda imediata para interromper essa atividade não autorizada.”
A intimação contra o Discord foi obtida sob a Seção 512(h) da DMCA, que permite que detentores de direitos, como os membros da RIAA, desmascarem as identidades de infratores online anônimos em certas circunstâncias.
A discórdia pode revidar tentando “anular” a intimação; O Twitter venceu esse desafio no ano passado, quando um juiz federal decidiu que os direitos da Primeira Emenda de um usuário superavam a necessidade de uma ordem de desmascaramento. Ele também poderia se recusar a honrar a remoção, mas isso colocaria o próprio site em risco de litígio.
Na noite de quinta-feira (22 de junho), o servidor principal do AI Hub permaneceu no Discord; não ficou claro se o conteúdo individual ou os subcanais foram removidos. Um porta-voz da empresa não retornou um pedido de comentário.
Em uma declaração à Billboard, um porta-voz da RIAA confirmou que o grupo havia tomado a ação contra o AI Hub. “Quando aqueles que buscam lucrar com a IA treinam seus sistemas em conteúdo não autorizado, isso prejudica todo o ecossistema musical – prejudicando criadores, fãs e desenvolvedores responsáveis. Esta ação visa ajudar a garantir que sistemas sem lei que exploram o trabalho da vida de artistas sem consentimento não possam e não se tornem o futuro da IA.”
As ações da RIAA são apenas o sinal mais recente de que o crescimento explosivo das tecnologias de IA no ano passado gerou sérias preocupações na indústria da música.
Um grande medo é que as músicas protegidas por direitos autorais estejam sendo usadas em massa para “treinar” modelos de IA, tudo sem nenhuma compensação para os compositores ou artistas que as criaram. Em abril, o Universal Music Group exigiu que o Spotify e outros serviços de streaming impedissem que empresas de IA o fizessem em suas plataformas, alertando que “não hesitaria em tomar medidas para proteger nossos direitos”.
Outro medo é a proliferação das chamadas versões deepfake de música popular, como a faixa falsa de Drake e The Weeknd gerada por IA que se tornou viral em abril. Essa música foi rapidamente retirada do ar, mas seus vocais estranhos e popularidade em massa geraram preocupações sobre futuros roubos de celebridades.
Para a RIAA, o AI Hub provavelmente desencadeou essas duas preocupações. O servidor apresenta vários “modelos de voz” que imitam as vozes de cantores reais específicos, incluindo Michael Jackson e Frank Sinatra. E, após as ações da RIAA, os usuários do servidor Discord especularam na quinta-feira que as remoções foram arquivadas porque os usuários divulgaram que alguns dos modelos foram treinados em músicas protegidas por direitos autorais.
“Recebemos certas ameaças de gravadoras a modelos de remoção, principalmente porque alguns usuários decidiram compartilhar conjuntos de dados cheios de músicas protegidas por direitos autorais publicamente”, escreveu um administrador do AI Hub. “Se você quiser evitar remoções desnecessárias [,] o mais importante, NÃO compartilhe o conjunto de dados completo se você tiver material protegido por direitos autorais no conjunto de dados. O modelo de voz em si é bom, mas não compartilhe o conjunto de dados.”
Imagem: divulgação UTOP-AI.
Comments