Cidadania

As novas regras da China para deepfakes pedem que as empresas busquem o consentimento do usuário

Decida quais deepfakes funcionam e quais não.

Decida quais deepfakes funcionam e quais não.
foto: Hu Chengwei / Stringer (imagens falsas)

O regulador do ciberespaço da China está reprimindo os deepfakes.

A partir de amanhã (10 de janeiro), os provedores de síntese profunda (provedores de conteúdo que alteram texto, áudio, imagens e vídeo) na China terão que cumprir um novo conjunto de regras, de acordo com a Administração do Ciberespaço da China (CAC).

“Nos últimos anos, a tecnologia de síntese profunda se desenvolveu rapidamente. Ao atender às necessidades do usuário e melhorar a experiência do usuário, ele também foi usado por algumas pessoas sem escrúpulos para produzir, copiar, publicar e espalhar informações ilegais e prejudiciais, caluniar e depreciar a reputação e a honra de outras pessoas e deturpar a identidade de outras pessoas. o ACC disse.

Deepfakes são criados manipulando imagens e vídeos usando inteligência artificial para criar conteúdo que parece real, mas não é. Por exemplo, o rosto de uma estrela de cinema ou de um político pode ser sobrepor um vídeo existente para representá-los erroneamente.

No início de 2020, a China uma ofensa criminal para distribuir deepfakes sem divulgação. Agora, está adicionando mais camadas ao regulamento.incluindo consentimento e responsabilidade, acima da transparência.

A nova regulamentação, a primeira versão que foi aberto para comentários públicos há um ano, vai um pouco mais longe ao tentar proteger as imagens das pessoas de serem personificadas sem o seu consentimento. É promovido como uma ferramenta para Estabilidade social. O outro lado dessa moeda é essencialmente a censura. Entre outras coisas, isso provavelmente significa que não mais Xi Jinping-Winnie The Pooh deepfakes.

Quais são as novas regras da China sobre deepfakes?

dispostos em um Documento de 11 de dezembro de 2022 emitidas pelo CAC, as regras, intituladas “Disposições sobre a administração de síntese profunda de serviços de informação baseados na Internet”, diz em linhas gerais:

🤝 As empresas devem obter o consentimento dos indivíduos antes de falsificá-los e devem autenticar as identidades reais dos usuários.

🥊 Os provedores de serviços devem estabelecer e melhorar os mecanismos de refutação de boatos.

⚖️ Deepfakes criados não podem ser usados ​​para atividades proibidas por leis e regulamentos administrativos.

🕴️ Os provedores de serviços de síntese profunda devem adicionar uma assinatura ou marca d’água para mostrar que o trabalho é sintético para evitar confusão pública ou identificação incorreta.

Por que não banir completamente os deepfakes?

Existem várias aplicações positivas da tecnologia. Uma empresa canadense chamada Lyrebird está ajudando pessoas com ELA, também conhecida como doença de Lou Gehrig, clonar sua voz usá-lo uma vez que a doença reivindicou sua capacidade de falar. existir outros casos de uso possíveis para ajudar as pessoas com deficiência a ouvir e ver melhor.

Um esforço conjunto entre a UNICEF e o MIT baseia-se nas características dos bairros sírios afetados por conflitos para simular como seriam as cidades ao redor do mundo em meio a um conflito semelhante. criar imagens sintéticas devastadas pela guerra de Boston, Londres e outras cidades importantes ao redor do mundo para aumentar a empatia pelas vítimas de uma região de desastre.

O espaço cultural também encontrou bons usos para a tecnologia: o Museu Dalí em St. Petersburg, Flórida, criou um Salvador Dalí para os usuários interagirem, e o laboratório de IA da Samsung em Moscou deu vida ao Monalisa. É também a tecnologia que o rapper Snoop Dogg usou ressuscitar Tupac digitalmenteque morreu aos 25 anos em 1996, de um videoclipe.

Na China, a Xinhua, a agência de notícias estatal do país, experimentou apresentadores gerados digitalmente. Wang Xiaochuan, chefe do mecanismo de busca Sogou da China, que ajudou a Xinhua a criar a tecnologia, também descreve um futuro em que “poderiam ser seus pais” contando uma história para dormir.

Especialistas pedem supervisão mais colaborativa de deepfakes

“Os governos, em particular, podem tornar mais fácil para as plataformas de mídia social compartilhar informações sobre deepfakes entre si, agências de notícias e vigilantes não governamentais. Um ato de compartilhamento de informações deepfake, semelhante aos EUA. Lei de compartilhamento de informações de segurança cibernética de 2015por exemplo, poderia permitir que as plataformas alertassem umas às outras sobre um deepfake malicioso antes que ele se espalhasse para outras plataformas e alertasse as agências de notícias antes que o deepfake chegasse ao ciclo de notícias mainstream”.Charlotte Stantonex-membro do think tank Carnegie Endowment for International Peace’s Technology and International Affairs Program

A realidade fazendo deepfakes na China de Xi Jinping

O sistema de censura na Internet da China, conhecido como o Grande Firewall, existe há mais de duas décadas. sob presidente Xi Jinping, as restrições têm só ficou mais apertado. Ele repressão tecnológica em curso e suas consequências são a prova do reduto do Estado no ambiente digital, e vocêsAs últimas regras parecem ser outra ferramenta de controle e coerção.

Em particular, uma cláusula exige que os fabricantes e distribuidores de deepfake cumpram a lei e a política do país, colocando automaticamente qualquer conteúdo que vá contra os ideais do partido governante de Xi Jinping em território complicado. O ônus para atender aos requisitos de transparência e divulgação é hercúleo, possivelmente levando aplicações desconectar em vez de jogar pelas novas regras.

Histórias relacionadas

🥸 quartzo ousessão: deepfakes

🗣️ Por que a China não é tão hábil em desinformação quanto a Rússia

Source link

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo