A Federal Communications Commission (FCC) anunciou que a utilização de vozes geradas por IA em chamadas automáticas para os consumidores é ilegal.
A ausência de legislação que regule a IA nas chamadas automáticas foi posta em evidência no mês passado quando um chamada automática utilizando um clone da voz do Presidente Biden desencorajaram as pessoas a votar nas primárias de New Hampshire.
Está a decorrer uma investigação criminal à empresa por detrás dessa chamada automática, no entanto, a utilização de uma voz gerada por IA não era ilegal na altura em que as chamadas foram efectuadas.
A decisão da FCC torna agora ilegal, com efeito imediato, a tecnologia de clonagem de voz utilizada nas chamadas automáticas dirigidas aos consumidores.
"Os maus actores estão a utilizar vozes geradas por IA em chamadas automáticas não solicitadas para extorquir familiares vulneráveis, imitar celebridades e desinformar os eleitores. Estamos a avisar os fraudadores por detrás destas chamadas automáticas", afirmou a Presidente da FCC, Jessica Rosenworcel.
Anteriormente, os procuradores-gerais dos Estados podiam visar o resultado de uma chamada automática, como a fraude ou o golpe que pretendiam cometer. Agora, a utilização de IA para gerar a voz na chamada é ilegal, independentemente da intenção da chamada.
Em novembro de 2023, a FCC iniciou investigações sobre a forma como a IA poderia ser utilizada para combater as chamadas automáticas ilegais. O seu objetivo é utilizar a IA para detetar chamadas automáticas ilegais antes de estas chegarem aos consumidores. A Comissão Federal do Comércio (FTC) também propôs uma Prémio de $25 000 para potenciais soluções de IA para proteger os consumidores das chamadas automáticas.
A decisão da FCC também impôs limites à utilização de vozes geradas por IA para interagir telefonicamente com os consumidores em vez de agentes humanos. Afirmou que "os chamadores que usam essas tecnologias devem obter o consentimento expresso prévio da parte chamada para iniciar essas chamadas, na ausência de uma finalidade ou isenção de emergência".
As isenções da FCC permitem que os serviços públicos e os políticos tenham mais margem de manobra para utilizar as chamadas automáticas para fins não comerciais.
Presidente da Câmara Eric Adams utilizou de forma controversa um clone da sua voz no ano passado para se dirigir aos residentes de Nova Iorque em várias línguas que não falava. A decisão da FCC não exclui a utilização de vozes geradas por IA nestes casos, o que continua a levantar questões éticas, se não mesmo legais.
