O laboratório de investigação DeepMind da Google apresentou uma versão beta do SynthID, a sua nova ferramenta para marcar a água e identificar imagens geradas por IA.
A preocupação com as falsificações profundas (deepfakes) e o potencial da IA para promover a desinformação realçou a necessidade de uma forma de detetar imagens geradas por IA.
As marcas de água convencionais adicionadas às imagens para efeitos de direitos de autor podem ser facilmente removidas cortando, adicionando filtros ou editando. Até os metadados podem ser retirados das imagens.
O SynthID incorpora a marca de água digital diretamente nos pixels da imagem. O número de pixéis editados é tão pequeno que a marca de água é impercetível ao olho humano. Escalar, cortar ou reduzir a resolução da imagem não removerá a marca de água.
Se soubesse onde está a marca de água, poderia tecnicamente removê-la, mas também danificaria a imagem.
A Google está a disponibilizar o SynthID a alguns dos seus clientes que utilizam o seu gerador de imagens, Imagen, na plataforma Vertex AI da Google.
Os utilizadores que criam uma imagem com o Imagen podem adicionar a marca de água ou utilizar o SynthID para detetar se uma imagem foi criada com o Imagen. No entanto, não é um método infalível, uma vez que o post sobre o DeepMind reconhecido.
"A ferramenta fornece três níveis de confiança para interpretar os resultados da identificação da marca de água. Se for detectada uma marca de água digital, é provável que parte da imagem seja gerada pelo Imagen."
O Publicação no blogue da DeepMind também afirmou que "o SynthID não é infalível contra manipulações extremas de imagens".
O SynthID fará alguma diferença?
A Google não está a promover a ferramenta como uma panaceia para as imagens falsas, mas é um começo. Se o método se revelar eficaz e ganhar força com outros geradores de imagens de IA, poderá ser mais fácil detetar uma falsificação.
Mesmo que se desenvolva um método infalível com base em algo como o SynthID, como é que se pode fazer cumprir esse método? Há tantos geradores de imagens de IA que estão fora de qualquer tipo de regulamentação.
Se não se pode impedir as pessoas de utilizarem IA para gerar imagens de abuso de criançasEntão, como é que os obriga a adicionar uma marca de água às imagens falsas?
Outro desafio para empresas como a Google é que, para que uma ferramenta promova a confiança, tem de ser infalível. Se dissermos às pessoas que uma imagem politicamente carregada tem uma probabilidade de 75% de ser falsa, isso não elimina as discussões sobre a sua autenticidade.
Adicionar uma marca de água como o SynthID a uma imagem falsa parece ser uma óptima ideia, mas o que impede alguém de adicionar uma marca de água semelhante a uma imagem genuína?
O pensamento crítico e uma dose saudável de ceticismo podem ser a nossa melhor defesa contra as falsificações de IA durante algum tempo.
