Uma atriz que encontrou uma versão gerada por IA de sua voz reproduzida em uma cena sugestiva de teor sexual no TikTok disse que a experiência foi ‘violadora’.

A atriz que se deparou com uma versão de inteligência artificial de sua voz sendo reproduzida em uma cena sugestiva de conotação sexual no TikTok declarou que a experiência foi invasiva.

• A atriz Allegra Clark descobriu que um personagem dublado por ela estava protagonizando uma cena sexualmente sugestiva no TikTok.
• A cena havia sido gerada por inteligência artificial com a ferramenta ElevenLabs, de acordo com a Forbes.
• Clark disse ao veículo de notícias que a falta de propriedade pessoal de sua voz a deixou se sentindo impotente.

Uma atriz de dublagem disse ser “violador” descobrir que sua voz foi usada em uma cena sexualmente sugestiva gerada por inteligência artificial sem sua permissão.

Allegra Clark já dublou muitos personagens, incluindo Beidou, uma capitã de navio do jogo de vídeo “Genshin Impact”. Quando Clark encontrou pela primeira vez uma versão gerada por IA de Beidou atuando na cena no TikTok, Clark disse à Forbes que estava preocupada que seus clientes vissem e pensassem que ela tinha feito isso de livre vontade.

A voz de Clark foi replicada e manipulada com uma ferramenta de IA generativa chamada ElevenLabs, então ela escreveu para a empresa expressando suas preocupações.

“Não só isso pode nos causar muitos problemas se as pessoas pensarem que dissemos [essas coisas], mas também é, francamente, muito violador ouvir-se falar quando na verdade não é você”, ela escreveu no e-mail, que foi revisado pela Forbes.

• As taxas de poupança vão continuar a subir em 2023?
• Mais da metade dos funcionários com filhos estão considerando troca...
• Taxas de Certificados de Depósito (CD) de 1 ano – Outubro de ...

Ela disse à Forbes que a ElevenLabs não conseguiu resolver suas preocupações e que a falta de propriedade pessoal de sua voz a deixou se sentindo impotente.

A ElevenLabs não respondeu imediatamente ao pedido de comentário da Inisder, feito fora do horário normal de trabalho. O CEO da empresa, Mati Staniszewski, disse à Forbes que os usuários precisavam do consentimento explícito da pessoa se o conteúdo criado com sua voz pudesse ser “prejudicial ou difamatório”. A Forbes informou que a empresa lançou recentemente uma ferramenta de “captcha de voz”. Isso parece ter sido projetado como medida de segurança.

O uso de IA na mídia tem sido uma questão cada vez mais tensa entre atores profissionais.

Programas avançados de IA generativa têm sido capazes de imitar as vozes e rostos de artistas musicais e figuras políticas com uma precisão alarmante. Os riscos que essa tecnologia representa para o sustento profissional dos atores têm sido uma das principais questões na greve contínua dos atores de Hollywood.

Os atores estão esperando conseguir um novo contrato que limite o uso de novas tecnologias de IA pelos estúdios e lhes dê controle de suas réplicas digitais.

• AI
• Artifical Intelligence
• TECH