{"id":12729,"date":"2024-06-05T09:50:37","date_gmt":"2024-06-05T09:50:37","guid":{"rendered":"https:\/\/dailyai.com\/?p=12729"},"modified":"2024-06-05T09:50:37","modified_gmt":"2024-06-05T09:50:37","slug":"former-openai-employees-publish-right-to-warn-open-letter","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2024\/06\/former-openai-employees-publish-right-to-warn-open-letter\/","title":{"rendered":"Tidligere OpenAI-ansatte publiserer et \u00e5pent brev om retten til \u00e5 advare"},"content":{"rendered":"

En gruppe tidligere og n\u00e5v\u00e6rende OpenAI- og Google-ansatte kritiserer AI-selskaper for det de mener er en farlig hemmeligholdskultur rundt AI-risikoer.<\/strong><\/p>\n

I brevet med tittelen \"A right to warn about advanced artificial intelligence\" st\u00e5r det at AI-selskaper har sterke \u00f8konomiske insentiver til \u00e5 unng\u00e5 effektiv overv\u00e5king av potensielle AI-risikoer.<\/p>\n

I tillegg til \u00e5 v\u00e6re hensynsl\u00f8se ved \u00e5 fokusere p\u00e5 \u00f8konomiske m\u00e5l i stedet for sikkerhet, st\u00e5r det i brevet at selskaper bruker straffende konfidensialitetsavtaler for aktivt \u00e5 motvirke at ansatte tar opp bekymringer.<\/p>\n

Underskriverne er alle tidligere OpenAI- og Google-ansatte, med Neel Nanda som den eneste som fortsatt jobber i Google. Brevet ble ogs\u00e5 st\u00f8ttet av de ledende AI-ekspertene Yoshua Bengio, Geoffrey Hinton og Stuart Russell.<\/p>\n

Som et bevis p\u00e5 bekymringen for \u00e5 henge ut sine tidligere arbeidsgivere, var seks av underskriverne ikke villige til \u00e5 oppgi navnet sitt i brevet.<\/p>\n

De tidligere OpenAI-forskerne Daniel Kokotajlo og William Saunders, som ogs\u00e5 signerte brevet, forlot selskapet tidligere i \u00e5r.<\/p>\n

Kokotajlo var med i styringsteamet, og Saunders jobbet i OpenAIs Superalignment-team, som ble oppl\u00f8st i forrige m\u00e5ned da Ilya Sutskever og Jan Leike har ogs\u00e5 forlatt oss p\u00e5 grunn av sikkerhetshensyn<\/a>.<\/p>\n

Kokotajlo forklarte sin avgang p\u00e5 et forum ved \u00e5 si at han ikke tror OpenAI vil \"oppf\u00f8re seg ansvarlig rundt AGI-tiden\".<\/p>\n

En oppfordring til handling<\/h2>\n

I brevet etterlyses et st\u00f8rre engasjement fra AI-selskaper i mangel av regulering som regulerer AI-risikoer som offentligheten ikke kjenner til.<\/p>\n

I brevet st\u00e5r det: \"Den vanlige varslingsbeskyttelsen er utilstrekkelig fordi den fokuserer p\u00e5 ulovlig aktivitet, mens mange av de risikoene vi er bekymret for, enn\u00e5 ikke er regulert.\"<\/p>\n

I brevet oppfordres AI-selskaper til \u00e5 forplikte seg til fire prinsipper. Kort sagt \u00f8nsker de at selskapene skal:<\/p>\n