A Comissão Federal do Comércio (FTC) tem por missão proteger os consumidores contra fraudes e burlas, mas a clonagem de voz por IA, cada vez mais aperfeiçoada, está a tornar este desafio mais difícil.
Embora a clonagem de voz por IA tenha alimentado numerosos debates, há casos de utilização legítimos que fazem com que a tecnologia valha a pena.
Restabelecer um meio de comunicação pessoal para alguém que perdeu a voz, ou dar voz a uma personagem conhecida do cinema muito depois de o locutor original ter falecido, são apenas dois exemplos. No ano passado, o Presidente da Câmara de Nova Iorque, Eric Adams, utilizou uma Clone de IA da sua voz para comunicar em várias línguas com os residentes da cidade.
Mas a tecnologia também tornou muito mais fácil para os burlões e fraudadores enganarem os incautos quando atendem uma chamada telefónica. No ano passado, um Relatório da McAfee registou um aumento das fraudes de voz com IA e a FTC alertou os consumidores para as "fraudes de emergência familiar", em que uma pessoa que telefona finge ser um membro da família em perigo.
Para além de terminar a chamada e ligar à pessoa para o número que tem para ela, é é realmente difícil identificar uma voz de IA clone de uma pessoa real.
A FTC lançou um desafio a indivíduos ou organizações para que apresentem "ideias inovadoras destinadas a prevenir, monitorizar e avaliar a utilização maliciosa da tecnologia de clonagem de voz"
O desafio decorre de 2 a 12 de janeiro e a ideia vencedora receberá uma recompensa de $25.000. Se tiveres alguma ideia brilhante, podes submeta-os aqui.
As propostas devem abordar pelo menos um dos seguintes três pontos de intervenção que a FTC pretende alcançar:
- Prevenção ou autenticação: Deve proporcionar uma forma de limitar a utilização ou aplicação de software de clonagem vocal por utilizadores não autorizados.
- Deteção ou monitorização em tempo real: Deve prever uma forma de detetar vozes clonadas ou a utilização de tecnologia de clonagem vocal.
- Avaliação pós-utilização: Deve proporcionar uma forma de verificar se um clip de áudio contém vozes clonadas.
Samuel Levine, Diretor do Bureau of Consumer Protection da FTC, afirmou: "Utilizaremos todas as ferramentas para evitar danos ao público decorrentes de abusos da tecnologia de clonagem de voz".
Como indicação de onde a FTC pode transferir a responsabilidade por esses golpes, Stephanie T. Nguyen, diretora de tecnologia da FTC, disse: "O desafio é elaborado de forma a garantir que as empresas sejam responsáveis pelos efeitos de primeira e segunda ordem dos produtos que lançam".
Isso pode ser difícil, ou mesmo impossível, de fazer. Mesmo que as empresas de renome adicionem uma "marca de água" ao áudio gerado pelas suas ferramentas, já existem soluções de código aberto disponíveis gratuitamente que os burlões podem utilizar.
Se enviou uma mensagem de voz a alguém, deixou uma mensagem num serviço de atendimento ou publicou um vídeo seu no YouTube, qualquer pessoa pode utilizá-lo para clonar a sua voz.
À medida que a IA generativa melhora, a melhor defesa que temos pode ser tornarmo-nos muito mais cépticos e não confiarmos demasiado depressa nos nossos olhos e ouvidos.
