Deepfake Voices Software

O que é? Porque?

Inicialmente esse projeto era voltado para a criação de um software modulador de voz que seria usado ao jogar algum tipo de vídeo game. Com ele, o jogador poderia ter a voz que representasse o personagem no qual estava usando, seja ele de um gênero, idade e tipo físico diferente.

Entretanto, esse projeto tomou novas proporções quando os criadores perceberam que, além de interpretar personagens de jogos, esse software poderia ser utilizado para muitas outras situações. Por exemplo: mulheres querendo mudar a voz por conta do preconceito e machista enfrentado pelo público feminino nos chat de voz de vídeo games. Atualmente, diversos jogos precisam de uma interação por chat de voz para uma melhor jogatina e experiência, o problema nisso é que diversas mulheres não se sentem confortáveis em abrir o microfone pois acabam sendo vitimas de assédio e preconceitos.

Ademais, além do público voltado aos jogos, também há outro grupo de pessoas que se mostraram muito interessadas no projeto, até mesmo para usá-lo em suas vidas privadas. Mais especificamente, pessoas trans.

Como?

"The software is the latest example of the tricky potential of artificial intelligence technology that can synthesize real-seeming video or audio, sometimes termed deepfakes."

Resumindo, o software permite a alteração de voz através de algoritmos de aprendizado de máquina que ajustam os padrões de áudio da voz de uma pessoa para fazê-la soar como outra.

Para ensinar sua tecnologia a expressar muitos tons e timbres diferentes, a empresa coletou e analisou áudio de centenas de atores lendo roteiros elaborados para fornecer uma ampla gama de entonação e emoção. Os estilos de voz individuais são criados por algoritmos de ajuste para replicar o som de um ator de voz específico.

Modificações?

Por fim, minha sugestão para esse projeto seria uma forma de levá-lo para fora do mundo online. Dessa forma, as pessoas trans teriam um auxílio mesmo fora de um computador. Além disso, por mais que o projeto já apresente formar de prevenir uma fraude, parece que essa prevenção é relacionada exclusivamente na relação Humano-Máquina, e não possui meios de evitar a fraude entre Humano-Humano. Então nada impede que a alguém use a voz de uma pessoa famosa/ influente para espalhar fake news e etc.