{"id":12729,"date":"2024-06-05T09:50:37","date_gmt":"2024-06-05T09:50:37","guid":{"rendered":"https:\/\/dailyai.com\/?p=12729"},"modified":"2024-06-05T09:50:37","modified_gmt":"2024-06-05T09:50:37","slug":"former-openai-employees-publish-right-to-warn-open-letter","status":"publish","type":"post","link":"https:\/\/dailyai.com\/it\/2024\/06\/former-openai-employees-publish-right-to-warn-open-letter\/","title":{"rendered":"Gli ex dipendenti di OpenAI pubblicano la lettera aperta \"Right to Warn\"."},"content":{"rendered":"

Un gruppo di ex e attuali dipendenti di OpenAI e di Google sta chiamando in causa le aziende di IA per quella che, a loro dire, \u00e8 una pericolosa cultura della segretezza che circonda i rischi dell'IA.<\/strong><\/p>\n

La lettera, intitolata \"Il diritto di mettere in guardia sull'intelligenza artificiale avanzata\", afferma che le aziende produttrici di IA hanno forti incentivi finanziari per evitare una sorveglianza efficace dei potenziali rischi dell'IA.<\/p>\n

Oltre a essere imprudenti, concentrandosi sugli obiettivi finanziari invece che sulla sicurezza, la lettera afferma che le aziende utilizzano accordi di riservatezza punitivi per scoraggiare attivamente i dipendenti dal sollevare dubbi.<\/p>\n

I firmatari sono tutti ex dipendenti di OpenAI e Google, con Neel Nanda, l'unico che lavora ancora in Google. La lettera \u00e8 stata approvata anche da Yoshua Bengio, Geoffrey Hinton e Stuart Russell, menti di spicco dell'intelligenza artificiale.<\/p>\n

A riprova della preoccupazione di chiamare in causa i loro ex datori di lavoro, 6 dei firmatari non hanno voluto rivelare i loro nomi nella lettera.<\/p>\n

Gli ex ricercatori di OpenAI Daniel Kokotajlo e William Saunders, anch'essi firmatari della lettera, hanno lasciato l'azienda all'inizio dell'anno.<\/p>\n

Kokotajlo faceva parte del team di governance e Saunders lavorava nel team Superalignment di OpenAI che \u00e8 stato sciolto il mese scorso quando Anche Ilya Sutskever e Jan Leike hanno lasciato per problemi di sicurezza.<\/a>.<\/p>\n

Kokotajlo ha spiegato il motivo del suo abbandono su un forum, dicendo che non crede che OpenAI \"si comporter\u00e0 in modo responsabile al momento dell'AGI\".<\/p>\n

Un invito all'azione<\/h2>\n

La lettera chiede un maggiore impegno da parte delle aziende di IA in assenza di una normativa che disciplini i rischi dell'IA di cui il pubblico non \u00e8 a conoscenza.<\/p>\n

Nella lettera si legge: \"Le normali tutele per gli informatori sono insufficienti perch\u00e9 si concentrano sulle attivit\u00e0 illegali, mentre molti dei rischi che ci preoccupano non sono ancora regolamentati\".<\/p>\n

La lettera chiede alle aziende di IA di impegnarsi a rispettare quattro principi. In breve, si chiede alle aziende di:<\/p>\n