{"id":12729,"date":"2024-06-05T09:50:37","date_gmt":"2024-06-05T09:50:37","guid":{"rendered":"https:\/\/dailyai.com\/?p=12729"},"modified":"2024-06-05T09:50:37","modified_gmt":"2024-06-05T09:50:37","slug":"former-openai-employees-publish-right-to-warn-open-letter","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2024\/06\/former-openai-employees-publish-right-to-warn-open-letter\/","title":{"rendered":"Tidigare OpenAI-anst\u00e4llda publicerar \u00f6ppet brev om \"r\u00e4tten att varna"},"content":{"rendered":"

En grupp tidigare och nuvarande OpenAI- och Google-anst\u00e4llda kritiserar AI-f\u00f6retag f\u00f6r vad de menar \u00e4r en farlig kultur av hemlighetsmakeri kring AI-risker.<\/strong><\/p>\n

I brevet med titeln \"A right to warn about advanced artificial intelligence\" konstateras att AI-f\u00f6retag har starka ekonomiska incitament att undvika effektiv \u00f6vervakning av potentiella AI-risker.<\/p>\n

F\u00f6rutom att det \u00e4r v\u00e5rdsl\u00f6st att fokusera p\u00e5 finansiella m\u00e5l ist\u00e4llet f\u00f6r s\u00e4kerhet, s\u00e4ger brevet att f\u00f6retag anv\u00e4nder straffande sekretessavtal f\u00f6r att aktivt avskr\u00e4cka anst\u00e4llda fr\u00e5n att ta upp problem.<\/p>\n

Undertecknarna \u00e4r alla tidigare OpenAI- och Google-anst\u00e4llda, med Neel Nanda, den enda som fortfarande arbetar p\u00e5 Google. Brevet st\u00f6ddes ocks\u00e5 av de ledande AI-tankarna Yoshua Bengio, Geoffrey Hinton och Stuart Russell.<\/p>\n

Som ett bevis p\u00e5 oron f\u00f6r att h\u00e4nga ut sina tidigare arbetsgivare ville 6 av undertecknarna inte uppge sina namn i brevet.<\/p>\n

De tidigare OpenAI-forskarna Daniel Kokotajlo och William Saunders, som ocks\u00e5 undertecknade brevet, l\u00e4mnade f\u00f6retaget tidigare i \u00e5r.<\/p>\n

Kokotajlo var med i styrgruppen och Saunders arbetade i OpenAI:s Superalignment-grupp som uppl\u00f6stes f\u00f6rra m\u00e5naden n\u00e4r Ilya Sutskever och Jan Leike l\u00e4mnade ocks\u00e5 p\u00e5 grund av s\u00e4kerhetsrisker<\/a>.<\/p>\n

Kokotajlo f\u00f6rklarade sitt avhopp p\u00e5 ett forum genom att s\u00e4ga att han inte tror att OpenAI kommer att \"upptr\u00e4da ansvarsfullt n\u00e4r AGI kommer\".<\/p>\n

En uppmaning till handling<\/h2>\n

I brevet efterlyses ett st\u00f6rre engagemang fr\u00e5n AI-f\u00f6retag i avsaknad av reglering av AI-risker som allm\u00e4nheten inte k\u00e4nner till.<\/p>\n

I brevet st\u00e5r det: \"Det vanliga skyddet f\u00f6r visselbl\u00e5sare \u00e4r otillr\u00e4ckligt eftersom det fokuserar p\u00e5 olaglig verksamhet, medan m\u00e5nga av de risker som vi oroar oss f\u00f6r \u00e4nnu inte \u00e4r reglerade.\"<\/p>\n

I brevet uppmanas AI-f\u00f6retagen att f\u00f6rbinda sig att f\u00f6lja fyra principer. I korthet vill de att f\u00f6retagen ska:<\/p>\n