Bem-vindo ao resumo das notícias desta semana sobre a IA gerada por humanos.
Esta semana, a IA corroeu a nossa confiança, apesar de parecer que não nos conseguimos fartar dela.
Actores, programadores e pilotos de caça podem perder os seus empregos para a IA.
E os cientistas juram a pés juntos que não vão utilizar a IA para produzir proteínas más.
Vamos lá ver.
Confiar mas verificar
A confiança da sociedade na IA continua a diminuir, mesmo quando a adoção de ferramentas de IA generativa cresce a um ritmo frenético. Por que razão estamos tão dispostos a adotar uma tecnologia, apesar dos nossos receios quanto à forma como irá moldar o nosso futuro? O que é que está por detrás da desconfiança e será que pode ser resolvido?
A exploração de Sam do dissonância entre a crescente desconfiança e o aumento da utilização da IA generativa ajuda-nos a olhar honestamente para a nossa relação conflituosa com a IA.
Uma das razões por detrás do ceticismo em relação à IA são as opiniões alarmistas apregoadas por alguns sectores da indústria. Um relatório encomendado pelo governo dos EUA afirma A IA representa uma "ameaça de extinção" para a nossa espécie.
O relatório recomenda a proibição de modelos de código aberto, apesar de os defensores da IA aberta rejeitarem o relatório como um receio de má ciência.
Esta semana, as notícias sobre IA foram um pouco ligeiras no departamento da falsificação de IA. A Princesa de Gales Kate Middleton foi atingida por uma controvérsia profunda sobre imagens falsas por causa da edição demasiado entusiasta de uma fotografia dela e dos miúdos.
A indignação dos meios de comunicação social em relação a uma fotografia editada de uma celebridade é um pouco hipócrita, mas talvez seja bom que a sociedade esteja a ficar mais sensibilizada para o que é real e o que não é. Progresso?
Não sou especialista, mas penso seriamente que o #KateMiddleton a fotografia é falsapic.twitter.com/CfMJM9XZfW
- Zain Rajpoot (@ZAIN_MZQ) 11 de março de 2024
Empregos de IA contra-ataque
A indústria dos jogos tem sido rápida a adotar a IA, mas os actores e os artistas de voz não estão satisfeitos com a forma como as coisas estão a correr. O SAG-AFTRA diz agora que é "50-50 ou mais provável" que greve por causa das negociações sobre videojogos.
Jogar um jogo de simulador de voo poderá ser o mais próximo que os pilotos de caça estarão em breve da realidade, à medida que a perspetiva de a IA os substituir se torna uma realidade. O Pentágono está a planear ter o primeiro de 1.000 mini caças fantasma pilotados por IA construído nos próximos meses.
Enxames de caças autónomos armados com mísseis e dirigidos por uma IA propensa a alucinações. O que é que pode correr mal?
O diretor executivo da Stability AI, Emad Mostaque, levantou algumas sobrancelhas quando disse que não haveria necessidade de programadores humanos nos próximos anos. A sua afirmação ousada parece cada vez mais provável de se tornar realidade.
Esta semana, a Cognition AI anunciou Devin, um programador de software de IA autónomo que pode completar projectos de codificação inteiros com base em instruções de texto. O Devin pode até configurar e afinar autonomamente outros modelos de IA.
Não sei o suficiente sobre #devinmas acho engraçado que o primeiro engenheiro de software de IA esteja à procura de novos engenheiros de software #SoftwareEngineering pic.twitter.com/zKsI2FVA51
- Marcel (@MarcelNdrecaj) 12 de março de 2024
Talvez a afirmação de Mostaque precise de ser clarificada. Em breve, não haverá necessidade de humanos que possam escrever código, mas ferramentas como o Devin permitirão que qualquer pessoa seja um programador.
Se é um ator desempregado, um piloto de caça ou um programador à procura de um emprego na área da IA, aqui estão algumas das melhores universidades para estudar IA em 2024.
A segurança em primeiro lugar
Ferramentas de IA como o AlphaFold da DeepMind aceleraram a conceção de novas proteínas. Como é que podemos garantir que estas ferramentas não são utilizadas para criar novas proteínas que podem ser utilizadas para fins maliciosos?
Os investigadores criaram um conjunto de regras de segurança voluntárias para a conceção de proteínas de IA e a síntese de ADNcom alguns nomes notáveis a apoiá-la.
Um dos compromissos é utilizar apenas laboratórios de síntese de ADN que verifiquem se a proteína é perigosa antes de a produzir. Isso implica que alguns laboratórios não o fazem? Que laboratórios é que acha que os maus da fita utilizam?
Uma equipa de investigadores desenvolveu um parâmetro de referência para medir a probabilidade de um LLM ajudar um mau ator a construir uma bomba ou uma arma biológica. A sua nova técnica ajuda o modelo de IA a desaprender conhecimentos perigosos mantendo as coisas boas. Bem, quase.
Os modelos alinhados recusarão educadamente o teu pedido de ajuda para fazer uma bomba. Se utilizar a arte ASCII para criar as palavras maliciosas e uma técnica de prompt inteligente, pode facilmente contornar estas barreiras de proteção.
IA em forma de coração
Os investigadores utilizaram a IA para explorar como a genética influencia a morfologia do coração de uma pessoa. A criação de mapas 3D do coração e a sua ligação à genética será uma ajuda significativa para os cardiologistas.
Investigadores da Clínica Mayo desenvolvem "IA orientada por hipóteses" para a oncologia. A nova abordagem vai além da simples análise de grandes volumes de dados, gerando hipóteses que podem depois ser validadas com base no conhecimento do domínio.
Isto pode ser muito importante para testar hipóteses médicas e prever e explicar como os doentes responderão aos tratamentos contra o cancro.
Noutras notícias...
Aqui estão algumas outras histórias de IA dignas de clique que apreciámos esta semana:
- NVIDIA é processada por autores sobre a utilização pela IA de obras protegidas por direitos de autor
- Modelo de fundação robótica RFM-1 dá aos robots capacidades de raciocínio semelhantes às dos humanos
- Sam Altman volta a fazer parte da direção da OpenAI e de novos membros.
- O novo modelo de controlo de robôs da DeepMind e de Stanford segue instruções a partir de esboços.
- A Google afirma que o seu novo produto centrado na IA O telemóvel Pixel 8 não consegue executar os seus mais recentes modelos de IA para smartphones. Não era esse o objetivo destes telefones?
- O robô Figure-01 mostra as suas capacidades de interação com a OpenAI.
OpenAI + Figura
conversas com humanos, em redes neuronais de ponta a ponta:
→ A OpenAI está a fornecer raciocínio visual e compreensão da linguagem
→ As redes neuronais da Figure estão a permitir acções rápidas, de baixo nível, de robôs hábeis(linha abaixo)pic.twitter.com/trOV2xBoax
- Brett Adcock (@adcock_brett) 13 de março de 2024
E é tudo.
Confia mais ou menos na IA à medida que esta se torna uma parte mais importante da sua vida quotidiana? Uma abordagem mais cética é provavelmente uma aposta mais segura, mas os pessimistas estão a tornar-se um pouco cansativos.
O que pensa dos caças pilotados por IA que substituem os pilotos humanos? Estou ansioso por ver a capacidade de manobra destas máquinas, mas a ideia de uma falha da IA associada a mísseis é enervante.
Estou um pouco desiludido com o facto de a única notícia falsa de IA que recebemos esta semana ter sido o "Jerseygate" real, mas acho que devemos ver isto como um progresso. Tenho a certeza de que o serviço normal será retomado na próxima semana, quando as eleições estiverem ao rubro.
Diga-nos quais os desenvolvimentos em matéria de IA que lhe chamaram a atenção esta semana e envie-nos ligações para quaisquer notícias ou investigações interessantes sobre IA que nos possam ter escapado.
