{"id":12729,"date":"2024-06-05T09:50:37","date_gmt":"2024-06-05T09:50:37","guid":{"rendered":"https:\/\/dailyai.com\/?p=12729"},"modified":"2024-06-05T09:50:37","modified_gmt":"2024-06-05T09:50:37","slug":"former-openai-employees-publish-right-to-warn-open-letter","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2024\/06\/former-openai-employees-publish-right-to-warn-open-letter\/","title":{"rendered":"Tidligere OpenAI-medarbejdere udgiver \u00e5bent brev om 'retten til at advare'"},"content":{"rendered":"

En gruppe tidligere og nuv\u00e6rende OpenAI- og Google-medarbejdere kritiserer AI-virksomhederne for, hvad de mener, er en farlig hemmeligholdelseskultur omkring AI-risici.<\/strong><\/p>\n

I brevet med titlen \"En ret til at advare om avanceret kunstig intelligens\" st\u00e5r der, at AI-virksomheder har st\u00e6rke \u00f8konomiske incitamenter til at undg\u00e5 effektivt tilsyn med potentielle AI-risici.<\/p>\n

Ud over at v\u00e6re hensynsl\u00f8se ved at fokusere p\u00e5 \u00f8konomiske m\u00e5l i stedet for sikkerhed, siger brevet, at virksomheder bruger straffende fortrolighedsaftaler til aktivt at afskr\u00e6kke medarbejdere fra at give udtryk for bekymringer.<\/p>\n

Underskriverne er alle tidligere OpenAI- og Google-medarbejdere, med Neel Nanda som den eneste, der stadig arbejder hos Google. Brevet blev ogs\u00e5 st\u00f8ttet af de f\u00f8rende AI-forskere Yoshua Bengio, Geoffrey Hinton og Stuart Russell.<\/p>\n

Som bevis p\u00e5 bekymringen for at h\u00e6nge deres tidligere arbejdsgivere ud, var 6 af underskriverne ikke villige til at oplyse deres navne i brevet.<\/p>\n

De tidligere OpenAI-forskere Daniel Kokotajlo og William Saunders, som ogs\u00e5 underskrev brevet, forlod virksomheden tidligere i \u00e5r.<\/p>\n

Kokotajlo var med i governance-teamet, og Saunders arbejdede i OpenAI's Superalignment-team, som blev opl\u00f8st i sidste m\u00e5ned, da Ilya Sutskever og Jan Leike forlod ogs\u00e5 stedet p\u00e5 grund af sikkerhedsproblemer<\/a>.<\/p>\n

Kokotajlo forklarede \u00e5rsagen til sin afgang p\u00e5 et forum, hvor han sagde, at han ikke tror, at OpenAI vil \"opf\u00f8re sig ansvarligt omkring AGI-tidspunktet\".<\/p>\n

En opfordring til handling<\/h2>\n

Brevet opfordrer til et st\u00f8rre engagement fra AI-virksomheder i mangel af regulering af AI-risici, som offentligheden ikke kender til.<\/p>\n

I brevet st\u00e5r der: \"Almindelig whistleblower-beskyttelse er utilstr\u00e6kkelig, fordi den fokuserer p\u00e5 ulovlig aktivitet, mens mange af de risici, vi er bekymrede for, endnu ikke er reguleret.\"<\/p>\n

Brevet opfordrer AI-virksomheder til at forpligte sig til fire principper. Kort sagt \u00f8nsker de, at virksomhederne:<\/p>\n