{"id":12729,"date":"2024-06-05T09:50:37","date_gmt":"2024-06-05T09:50:37","guid":{"rendered":"https:\/\/dailyai.com\/?p=12729"},"modified":"2024-06-05T09:50:37","modified_gmt":"2024-06-05T09:50:37","slug":"former-openai-employees-publish-right-to-warn-open-letter","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2024\/06\/former-openai-employees-publish-right-to-warn-open-letter\/","title":{"rendered":"Antigos funcion\u00e1rios da OpenAI publicam carta aberta \"Right to Warn"},"content":{"rendered":"

Um grupo de antigos e actuais funcion\u00e1rios da OpenAI e da Google est\u00e1 a chamar a aten\u00e7\u00e3o das empresas de IA para o que dizem ser uma perigosa cultura de secretismo em torno dos riscos da IA.<\/strong><\/p>\n

A carta intitulada \"O direito de alertar sobre a intelig\u00eancia artificial avan\u00e7ada\" afirma que as empresas de IA t\u00eam fortes incentivos financeiros para evitar uma supervis\u00e3o efectiva dos potenciais riscos da IA.<\/p>\n

Para al\u00e9m de serem imprudentes ao centrarem-se nos objectivos financeiros em vez da seguran\u00e7a, a carta afirma que as empresas utilizam acordos de confidencialidade punitivos para desencorajar ativamente os trabalhadores de manifestarem as suas preocupa\u00e7\u00f5es.<\/p>\n

Os signat\u00e1rios s\u00e3o todos antigos funcion\u00e1rios da OpenAI e da Google, sendo Neel Nanda o \u00fanico que ainda trabalha na Google. A carta foi tamb\u00e9m subscrita por Yoshua Bengio, Geoffrey Hinton e Stuart Russell, os maiores especialistas em IA.<\/p>\n

Como prova da preocupa\u00e7\u00e3o em denunciar os seus antigos empregadores, 6 dos signat\u00e1rios n\u00e3o quiseram revelar os seus nomes na carta.<\/p>\n

Os antigos investigadores da OpenAI, Daniel Kokotajlo e William Saunders, que tamb\u00e9m assinaram a carta, deixaram a empresa no in\u00edcio deste ano.<\/p>\n

Kokotajlo fazia parte da equipa de governa\u00e7\u00e3o e Saunders trabalhou na equipa de Superalinhamento da OpenAI, que foi dissolvida no m\u00eas passado quando Ilya Sutskever e Jan Leiketamb\u00e9m abandonaram o clube por quest\u00f5es de seguran\u00e7a<\/a>.<\/p>\n

Kokotajlo explicou o motivo da sua sa\u00edda num f\u00f3rum, dizendo que acha que a OpenAI n\u00e3o se vai \"comportar de forma respons\u00e1vel na altura da AGI\".<\/p>\n

Um apelo \u00e0 a\u00e7\u00e3o<\/h2>\n

A carta apela a um maior empenhamento das empresas de IA na aus\u00eancia de regulamenta\u00e7\u00e3o que regule os riscos da IA que o p\u00fablico desconhece.<\/p>\n

A carta diz que \"as protec\u00e7\u00f5es normais dos denunciantes s\u00e3o insuficientes porque se concentram em actividades ilegais, enquanto muitos dos riscos que nos preocupam ainda n\u00e3o est\u00e3o regulamentados\".<\/p>\n

A carta apela a que as empresas de IA se comprometam com quatro princ\u00edpios. Em suma, pretendem que as empresas<\/p>\n