OpenAI har for nylig afsl\u00f8ret, at bestyrelsen har bemyndigelse til at tilsides\u00e6tte den administrerende direkt\u00f8rs beslutninger om at frigive nye AI-modeller, selv om de er blevet vurderet som sikre af virksomhedens ledelse.\u00a0<\/b><\/p>\n
Disse oplysninger blev beskrevet i et s\u00e6t retningslinjer, der blev pr\u00e6senteret mandag, og som skitserer virksomhedens strategi for at im\u00f8deg\u00e5 potentielle ekstreme risici, som dens mest avancerede AI-systemer udg\u00f8r.\u00a0<\/span><\/p>\n Mens ledelsesteamet i f\u00f8rste omgang kan beslutte at frigive et nyt AI-system, bevarer bestyrelsen retten til at omg\u00f8re s\u00e5danne beslutninger.<\/span><\/p>\n Sam Altman, OpenAI's CEO, blev afskediget fra sit job og p\u00e5 dramatisk vis genansat, hvilket understreger en besynderlig magtdynamik mellem virksomhedens direkt\u00f8rer og ledere.\u00a0<\/span><\/p>\n I k\u00f8lvandet spekulerede mange i, at Altman ikke havde v\u00e6ret tilstr\u00e6kkeligt opm\u00e6rksom p\u00e5 modelsikkerhed, at han s\u00e5 at sige var blevet \"opslugt af sit arbejde\". Senere rapporter s\u00e5ede tvivl om det, inklusive Microsofts pr\u00e6sident Brad Smith, <\/span>som sagde, at han fandt det usandsynligt<\/span><\/a> at sikkerhed var hovedmotivet.\u00a0<\/span><\/p>\n Der var ogs\u00e5 den ikke uv\u00e6sentlige omst\u00e6ndighed, at OpenAI var blevet vurderet meget h\u00f8jt, og at medarbejderne \u00f8nskede at indl\u00f8se deres aktieoptioner.\u00a0<\/span><\/p>\n Business Insider h\u00e6vdede<\/span><\/a> at OpenAI-medarbejdere brugte deres \u00e5bne brev om, at de ville forlade virksomheden, hvis Altman ikke blev genansat, som forhandlingsmiddel. En medarbejder sagde endda, at han var en d\u00e5rlig CEO, selvom disse rapporter er ubekr\u00e6ftede.\u00a0<\/span><\/p>\n OpenAI har nu handlet for at d\u00e6mpe frygten for, at de ikke tager AI sikkert, f\u00f8rst ved at offentligg\u00f8re resultaterne af deres nye \"<\/span>superalignment\"-eksperiment<\/span><\/a>\u00a0og ogs\u00e5 ved at \u00f8ge \"kr\u00e6fterne\" i deres \"beredskabsteam\".\u00a0<\/span><\/p>\n OpenAI's <\/span>Beredskabsteam<\/span><\/a>ledet af Aleksander Madry, der i \u00f8jeblikket har orlov fra MIT, vurderer l\u00f8bende AI-systemer p\u00e5 tv\u00e6rs af forskellige risikokategorier, herunder cybersikkerhed og trusler relateret til kemiske, nukleare og biologiske dom\u00e6ner.\u00a0<\/span><\/p>\n Dette team har til form\u00e5l at identificere og afb\u00f8de eventuelle v\u00e6sentlige farer forbundet med teknologien. If\u00f8lge retningslinjerne kan risici, der er klassificeret som \"katastrofale\", f\u00f8re til betydelig \u00f8konomisk skade eller alvorlig skade p\u00e5 mange enkeltpersoner.<\/span><\/p>\n Madry forklarede processen og sagde: \"AI er ikke noget, der bare sker for os, og som kan v\u00e6re godt eller skidt. Det er noget, vi former.\" Han udtrykte desuden h\u00e5b om, at andre virksomheder ville tage OpenAI's retningslinjer for risikovurdering til sig.\u00a0<\/span><\/p>\n Hans team, som blev dannet i oktober som en del af tre separate grupper, der f\u00f8rer tilsyn med AI-sikkerhed hos OpenAI, vil evaluere uudgivne AI-modeller og klassificere de opfattede risici som \"lav\", \"middel\", \"h\u00f8j\" eller \"kritisk\". Kun modeller med vurderingen \"middel\" eller \"lav\" vil blive overvejet til frigivelse.<\/span><\/p>\n Vi systematiserer vores sikkerhedst\u00e6nkning med vores Preparedness Framework, et levende dokument (i \u00f8jeblikket i beta), som beskriver de tekniske og operationelle investeringer, vi foretager for at styre sikkerheden i vores udvikling af frontier-modeller.https:\/\/t.co\/vWvvmR9tpP<\/a><\/p>\n - OpenAI (@OpenAI) 18. december 2023<\/a><\/p><\/blockquote>\n\n