{"id":12729,"date":"2024-06-05T09:50:37","date_gmt":"2024-06-05T09:50:37","guid":{"rendered":"https:\/\/dailyai.com\/?p=12729"},"modified":"2024-06-05T09:50:37","modified_gmt":"2024-06-05T09:50:37","slug":"former-openai-employees-publish-right-to-warn-open-letter","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2024\/06\/former-openai-employees-publish-right-to-warn-open-letter\/","title":{"rendered":"D'anciens employ\u00e9s d'OpenAI publient une lettre ouverte sur le droit d'alerte"},"content":{"rendered":"

Un groupe d'anciens et d'actuels employ\u00e9s d'OpenAI et de Google interpellent les entreprises du secteur de l'IA sur ce qu'ils consid\u00e8rent comme une dangereuse culture du secret autour des risques li\u00e9s \u00e0 l'IA.<\/strong><\/p>\n

La lettre intitul\u00e9e \"Un droit d'alerte sur l'intelligence artificielle avanc\u00e9e\" indique que les entreprises d'IA ont de fortes incitations financi\u00e8res \u00e0 \u00e9viter une surveillance efficace des risques potentiels de l'IA.<\/p>\n

En plus de faire preuve d'insouciance en privil\u00e9giant les objectifs financiers au d\u00e9triment de la s\u00e9curit\u00e9, la lettre indique que les entreprises utilisent des accords de confidentialit\u00e9 punitifs pour d\u00e9courager activement les employ\u00e9s de faire part de leurs pr\u00e9occupations.<\/p>\n

Les signataires sont tous d'anciens employ\u00e9s d'OpenAI et de Google, Neel Nanda \u00e9tant le seul \u00e0 travailler encore chez Google. La lettre a \u00e9galement \u00e9t\u00e9 approuv\u00e9e par Yoshua Bengio, Geoffrey Hinton et Stuart Russell, \u00e9minents sp\u00e9cialistes de l'IA.<\/p>\n

Preuve de l'inqui\u00e9tude suscit\u00e9e par la d\u00e9nonciation de leurs anciens employeurs, six des signataires n'ont pas souhait\u00e9 divulguer leur nom dans la lettre.<\/p>\n

Les anciens chercheurs d'OpenAI, Daniel Kokotajlo et William Saunders, qui ont \u00e9galement sign\u00e9 la lettre, ont quitt\u00e9 l'entreprise au d\u00e9but de l'ann\u00e9e.<\/p>\n

Kokotajlo faisait partie de l'\u00e9quipe de gouvernance, et Saunders travaillait dans l'\u00e9quipe Superalignment d'OpenAI, qui a \u00e9t\u00e9 dissoute le mois dernier quand Ilya Sutskever et Jan Leike ont \u00e9galement quitt\u00e9 le groupe pour des raisons de s\u00e9curit\u00e9.<\/a>.<\/p>\n

M. Kokotajlo a expliqu\u00e9 la raison de son d\u00e9part sur un forum en disant qu'il ne pensait pas que l'OpenAI \"se comporterait de mani\u00e8re responsable \u00e0 l'\u00e9poque de l'AGI\".<\/p>\n

Un appel \u00e0 l'action<\/h2>\n

La lettre appelle \u00e0 un plus grand engagement de la part des entreprises d'IA en l'absence de r\u00e9glementation r\u00e9gissant les risques de l'IA dont le public n'a pas connaissance.<\/p>\n

La lettre pr\u00e9cise que \"les protections ordinaires des d\u00e9nonciateurs sont insuffisantes parce qu'elles se concentrent sur les activit\u00e9s ill\u00e9gales, alors que de nombreux risques qui nous pr\u00e9occupent ne sont pas encore r\u00e9glement\u00e9s\".<\/p>\n

La lettre demande aux entreprises du secteur de l'IA de s'engager \u00e0 respecter quatre principes. En bref, ils souhaitent que les entreprises<\/p>\n