O conselho de administração da OpenAI forma um Comité de Segurança e Proteção

29 de maio de 2024

  • O conselho de administração da OpenAI criou um Comité de Segurança e Proteção para desenvolver processos e salvaguardas
  • O comité aconselhará o conselho de administração sobre decisões críticas em matéria de segurança e proteção
  • A OpenAI diz que começou a treinar o seu modelo da próxima fronteira com "o próximo nível de capacidades"

O conselho de administração da OpenAI anunciou a formação de um Comité de Segurança e Proteção que tem por missão fazer recomendações sobre decisões críticas em matéria de segurança e proteção para todos os projectos da OpenAI.

O comité é liderado pelos directores Bret Taylor (Presidente), Adam D'Angelo, Nicole Seligman e Sam Altman, Diretor Executivo da OpenAI.

Aleksander Madry (Diretor da Preparação), Lilian Weng (Directora dos Sistemas de Segurança), John Schulman (Diretor da Ciência do Alinhamento), Matt Knight (Diretor da Segurança) e Jakub Pachocki (Investigador Principal) também farão parte do comité.

A abordagem da OpenAI à segurança da IA tem sido alvo de críticas externas e internas. O despedimento de Altman no ano passado foi apoiado pelo então membro do conselho de administração Ilya Sutskever e outros, ostensivamente por questões de segurança.

Na semana passada, Sutskever e Jan Leike, da equipa de "superalinhamento" da OpenAI deixou a empresa. Leike referiu especificamente as questões de segurança como motivo da sua saída, afirmando que a empresa estava a deixar a segurança "passar para segundo plano em relação a produtos brilhantes".

Ontem, Leike anunciou que ia juntar-se à Anthropic para trabalhar na supervisão e na investigação de alinhamento.

Agora, Altman não só está de volta como Diretor Executivo, como também faz parte do comité responsável por destacar as questões de segurança. As informações de Helen Toner, antiga membro do conselho de administração, sobre as razões que levaram ao despedimento de Altman fazem-nos pensar até que ponto ele será transparente em relação aos problemas de segurança descobertos pelo comité.

Aparentemente, a direção da OpenAI soube do lançamento do ChatGPT através do Twitter.

O Comité de Segurança e Proteção utilizará os próximos 90 dias para avaliar e desenvolver os processos e as salvaguardas da OpenAI.

As recomendações serão apresentadas ao conselho de administração da OpenAI para aprovação e a empresa comprometeu-se a publicar as recomendações de segurança adoptadas.

A OpenAI diz que começou a treinar o seu próximo modelo de fronteira que, segundo a empresa, "nos levará ao próximo nível de capacidades no nosso caminho para a AGI".

Não foi indicada uma data de lançamento prevista para o novo modelo, mas só a formação demorará provavelmente semanas, se não meses.

Numa atualização sobre a sua abordagem à segurança, publicada após a Cimeira de Seul sobre IA, a OpenAI afirmou: "Não lançaremos um novo modelo se este ultrapassar o limiar de risco "Médio" do nosso Quadro de Preparação, até implementarmos intervenções de segurança suficientes para que a pontuação pós-mitigação volte a ser "Média".

A Comissão afirmou que mais de 70 peritos externos participaram no red teaming GPT-4o antes do seu lançamento.

Faltando 90 dias para a comissão apresentar as suas conclusões ao conselho de administração, tendo apenas começado recentemente a formação e comprometendo-se a realizar uma extensa equipa vermelha, parece que teremos de esperar muito tempo até termos finalmente o GPT-5.

Ou será que querem dizer que começaram agora a treinar o GPT-6?

 

Junte-se ao futuro


SUBSCREVER HOJE

Claro, conciso e abrangente. Fique a par dos desenvolvimentos da IA com DailyAI

Eugene van der Watt

Eugene vem de uma formação em engenharia eletrónica e adora tudo o que é tecnologia. Quando faz uma pausa no consumo de notícias sobre IA, pode encontrá-lo à mesa de snooker.

×

PDF GRATUITO EXCLUSIVO
Fique à frente com o DailyAI

Subscreva a nossa newsletter semanal e receba acesso exclusivo ao último livro eletrónico do DailyAI: 'Mastering AI Tools: Seu guia 2024 para aumentar a produtividade'.

*Ao subscrever a nossa newsletter, aceita a nossa Política de privacidade e o nosso Termos e condições