Bem-vindo ao resumo das notícias desta semana sobre IA artesanal.
Esta semana descobrimos que a IA não pode ajudar a construir uma arma biológica, ou talvez possa.
O exército de Swifties de Tay Tay lutou contra a pornografia com IA falsa.
E a IA fez-nos confiar ainda menos nos políticos do que já confiávamos.
Vamos lá ver.
Injustiça rápida
Taylor Swift foi alvo de explícito IA imagens falsas profundas esta semana. A compreensível indignação que se seguiu foi também dirigida a plataformas como a X, que parecia não ter qualquer defesa contra este tipo de conteúdo.
Houve uma reação generalizada tanto da indústria como do público. O exército de Swifties da Taylor entrou em modo Sherlock Holmes. Localizaram e doxxed o tipo que alegadamente está por detrás das imagens depois de ter afirmado com confiança: "Eles nunca me vão encontrar".
É simplesmente demasiado fácil para qualquer pessoa criar este tipo de imagens utilizando a IA. Com o InstantID, isso tornou-se muito mais fácil. O modelo permite aos geradores de imagens de IA criar reproduções a partir de uma única imagem do rosto de uma pessoa.
O artigo de investigação do InstantID foi publicado antes do drama do Swiftgate, mas adivinhe de quem é o rosto que os investigadores utilizaram como exemplo.
Inacreditável
É oficial, já não podemos acreditar nos nossos olhos e ouvidos. O Sam é compilação das falsificações políticas profundas a que assistimos nos últimos meses evidencia a progressão, tanto em termos de escala como de capacidade, que a IA está a proporcionar aos autores de fraudes.
Os clones de voz da IA melhoraram drasticamente. Passámos de tentativas robóticas de monotonia para a imitação total do tom e da emoção. O falso vídeo de comédia de George Carlin no YouTube foi um exemplo disso mesmo.
O património de Carlin é agora processar os criadores do falso programa de comédia AI com algumas admissões surpreendentes das pessoas por detrás do vídeo.
O áudio falso profundo está a tornar-se mais fácil de criar e mais difícil de detetar. A democratização destas ferramentas de IA significa que o homem comum na rua está a tornar-se um alvo. Um diretor de Baltimore diz que a voz numa gravação áudio ofensiva não era dele, mas sim de uma IA falsa. O juiz é vosso.
O meu primeiro instinto foi: "Ele está a mentir", mas depois vi o que um perito forense em áudio disse sobre o clip.
Abrir e fechar
O que é que um nome tem? O "Open" em OpenAI parece já não significar o que significava em tempos. A OpenAI afasta-se do seu homónimo e os princípios fundadores constituem uma leitura interessante.
A empresa afirma que continua a ser transparente, desde que não se façam perguntas sobre as suas demonstrações financeiras, os dados de treino dos modelos, a política de conflito de interesses, a razão pela qual despediram Altman,... Já se percebeu.
como será o ano de 2024 pic.twitter.com/bvgBFSAW4H
- kache (yacine) (KING OF DING) (@yacineMTB) 31 de janeiro de 2024
A OpenAI tem sido sincera quanto às suas ambições de produzir os seus próprios chips de IA. Altman discretamente partiu para a Coreia do Sul para conversar com a Samsung e outros fabricantes de chips para obter ajuda nesta matéria.
As operações opacas da OpenAI podem estar mais de acordo com a natureza secreta dos líderes mais a norte de Seul.
Um relatório que revelou a dinâmica de O ressurgimento da indústria de IA na Coreia do Norte mostra que a IA está a desempenhar um papel mais importante do que alguns pensavam. Imagino que Kim Jong Un seja um grande fã da estratégia de código aberto do Meta.
A administração Biden agora exige que as empresas de computação em nuvem comuniquem os utilizadores estrangeiros. Se é um cientista informático na Coreia do Norte, pode querer utilizar uma VPN decente quando se liga ao AWS.
A GPT-4 torna-se inteligente
Se pedirmos à GPT-4 para nos ajudar a fazer um brainstorming, ela torna-se um pouco repetitiva com algumas das ideias que apresenta. Os investigadores tiveram algumas ideias inteligentes estratégias de engenharia rápidas que podem corrigir isso.
Se está à procura de algumas entradas criativas para adicionar ao seu currículo, o ChatGPT também o pode ajudar. Acontece que a IA é muito utilizada pelos candidatos a emprego e os gestores de contratação incentivam-no.
Esta semana descobrimos outra coisa em que o GPT-4 era bom. Os investigadores descobriram que o GPT-4 concordava com os médicos especialistas em tratamentos recomendados para vítimas de AVC.
Os doentes que sofrem de paralisia ou ELA poderão em breve beneficiar de mais um dos inúmeros projectos de Elon Musk. Musk anunciou que a Neuralink concluiu o seu projeto de primeiro implante cerebral num ser humano.
Isto poderá eventualmente permitir a comunicação direta entre o cérebro e dispositivos como telemóveis ou computadores. Estaremos a viver a prequela do Matrix?
Musk também tem estado a tentar angariar $6 mil milhões para levar o seu projeto de IA xAI para o nível seguinte. Vejam o que este homem fez até agora e depois dêem-lhe o dinheiro. Quando é que este tipo dorme?
A segurança em primeiro lugar
A RAND Corporation foi muito criticada por um relatório de outubro que afirmava que os LLM "poderiam" ajudar os bandidos a fabricar uma arma biológica. O seu último relatório diz afinal, isso pode não ser verdade. E depois a OpenAI fez um estudo próprio que concluiu que uma versão especial do GPT-4 pode ajudar um pouco os maus da fita.
Um perigo muito real pode advir de agentes de IA soltos na Internet sem supervisão. Os investigadores descreveram os potenciais perigos e propuseram três coisas que poderiam aumentar a visibilidade dos agentes de IA para os tornar mais seguros.
O seu superpoder é apontar os erros dos outros? A CDAO e o DoD estão a organizar eventos para identificar preconceitos nos modelos linguísticos. Até lhe pagam recompensas pela deteção de erros de polarização.
IA na UE
O próximo Cimeira EU AI Act 2024 tem início na próxima semana. A cimeira será uma oportunidade ideal para discutir as propostas de regulamentação da IA e para se familiarizar com a Lei da IA da UE e as suas implicações globais.
Alguns grupos de defesa dos direitos civis estão a pedir à UE que sondar a OpenAI e a Microsoft. A grande quantidade de dinheiro que a Microsoft investiu na OpenAI levanta questões sobre o impacto na concorrência no sector da IA.
Pode ser difícil argumentar contra isso, uma vez que se espera que a Microsoft publique o seu o melhor crescimento trimestral das receitas em dois anos. Muito disso deve-se aos desenvolvimentos de IA que a OpenAI ajudou a realizar.
A autoridade italiana para a proteção de dados preocupações com a privacidade dos dados devido aos erros do ChatGPT com informações pessoais e as consequências das alucinações caluniosas.
Noutras notícias...
Aqui estão algumas outras histórias de IA dignas de clique que apreciámos esta semana:
- A Fundação Nacional de Ciência dos EUA lançou o programa Recurso Nacional de Investigação em Inteligência Artificial (NAIRR).
- As empresas de IA terão de começar relatórios dos seus ensaios de segurança para o governo dos EUA. Nem toda a gente concorda que esta seja uma boa ideia.
"Todos os vossos modelos pertencem-nos."
Este é o fim do jogo dos grandes esforços de lobbying para capturar a regulamentação por parte daqueles que procuram vender a "Segurança da IA como um serviço".
Os modelos devem ser livres de permissões para que a inovação possa florescer. Esta é uma forma de tributação das redes neuronais e será um fator de decrescimento líquido. pic.twitter.com/wpP7zwMCv3
- Beff Jezos - e/acc ⏩ (@BasedBeffJezos) 1 de fevereiro de 2024
- Um antigo membro do Conselho de Administração é crítica do risco associados à atual estrutura do conselho de administração da OpenAI e ao poder que detém.
- O Meta é gratuito Código Llama A ferramenta de programação de inteligência artificial colmata as lacunas com a GPT-4.
- Parceria entre a OpenAI e a Common Sense Media para proteger os adolescentes dos danos e da utilização abusiva da IA.
E é tudo.
Para os Swifties da nossa audiência, esperamos que tenham recuperado da semana traumática. Estavam a navegar no X quando viram as fotografias de IA sem querer? Ou tiveram de se esforçar muito para as encontrar online?
Não me parece que alguém vá fazer nudes falsos com a minha cara, mas sou capaz de ter mais cuidado com quem envio uma mensagem de voz no futuro. A clonagem de voz por IA está a ficar louca.
Já se inscreveu para o teste do Neuralink? Deixaria Elon Musk colocar um chip no seu cérebro? Musk conseguiu fazer explodir alguns foguetões da SpaceX antes de acertar. Acho que vou esperar até eles resolverem os problemas.
Diga-nos o que pensa e envie-nos ligações para quaisquer histórias interessantes sobre IA que nos possam ter escapado.
