OpenAI har nylig avsl\u00f8rt at styret har myndighet til \u00e5 overstyre beslutninger som er tatt av administrerende direkt\u00f8r om lansering av nye AI-modeller, selv om disse har blitt vurdert som trygge av selskapets ledelse.\u00a0<\/b><\/p>\n
Denne informasjonen ble beskrevet i et sett med retningslinjer som ble offentliggjort mandag, og som skisserer selskapets strategi for \u00e5 h\u00e5ndtere potensielle ekstreme risikoer som de mest avanserte AI-systemene kan utgj\u00f8re.\u00a0<\/span><\/p>\n Selv om ledergruppen i f\u00f8rste omgang kan bestemme om et nytt AI-system skal lanseres, har styret rett til \u00e5 omgj\u00f8re slike beslutninger.<\/span><\/p>\n Sam Altman, OpenAIs administrerende direkt\u00f8r, ble avskjediget fra jobben, men ble p\u00e5 dramatisk vis gjeninnsatt, noe som understreker en merkelig maktdynamikk mellom selskapets styremedlemmer og ledere.\u00a0<\/span><\/p>\n I etterkant spekulerte mange i at Altman ikke hadde v\u00e6rt tilstrekkelig oppmerksom p\u00e5 modellsikkerheten, at han hadde blitt \"oppslukt av arbeidet sitt\", for \u00e5 si det slik. Senere rapporter s\u00e5 tvil om dette, blant annet fra Microsofts president Brad Smith, <\/span>som sa at han mente det var usannsynlig<\/span><\/a> at sikkerhet var hovedmotivet.\u00a0<\/span><\/p>\n Det var ogs\u00e5 en ikke ubetydelig faktor at OpenAI hadde f\u00e5tt en enorm verdivurdering, og at de ansatte \u00f8nsket \u00e5 innl\u00f8se aksjeopsjonene sine.\u00a0<\/span><\/p>\n Business Insider hevdet<\/span><\/a> at OpenAI-ansatte brukte sitt \u00e5pne brev om at de ville forlate selskapet hvis Altman ikke ble gjeninnsatt som et forhandlingskort. En ansatt sa til og med at han var en d\u00e5rlig administrerende direkt\u00f8r, selv om disse rapportene er ubekreftede.\u00a0<\/span><\/p>\n OpenAI har n\u00e5 tatt grep for \u00e5 dempe frykten for at de ikke tar AI p\u00e5 en trygg m\u00e5te, f\u00f8rst ved \u00e5 publisere resultatene av deres nye \"<\/span>superalignment\"-eksperimentet<\/span><\/a>\u00a0og ogs\u00e5 ved \u00e5 \u00f8ke \"kreftene\" til \"beredskapsteamet\" deres.\u00a0<\/span><\/p>\n OpenAIs <\/span>beredskapsteam<\/span><\/a>, ledet av Aleksander Madry, som for tiden har permisjon fra MIT, vurderer kontinuerlig AI-systemer p\u00e5 tvers av ulike risikokategorier, inkludert cybersikkerhet og trusler knyttet til kjemiske, kjernefysiske og biologiske domener.\u00a0<\/span><\/p>\n Dette teamet har som m\u00e5l \u00e5 identifisere og redusere eventuelle betydelige farer forbundet med teknologien. I henhold til retningslinjene kan risikoer som klassifiseres som \"katastrofale\", f\u00f8re til betydelig \u00f8konomisk skade eller alvorlig skade p\u00e5 mange enkeltpersoner.<\/span><\/p>\n Madry forklarte prosessen slik: \"AI er ikke noe som bare skjer med oss, og som kan v\u00e6re bra eller d\u00e5rlig. Det er noe vi former.\" Han uttrykte videre et h\u00e5p om at andre selskaper vil ta i bruk OpenAIs retningslinjer for risikovurdering.\u00a0<\/span><\/p>\n Teamet hans, som ble dannet i oktober som en del av tre separate grupper som f\u00f8rer tilsyn med AI-sikkerhet hos OpenAI, skal evaluere uutgitte AI-modeller og klassifisere den opplevde risikoen som \"lav\", \"middels\", \"h\u00f8y\" eller \"kritisk\". Bare modeller som vurderes som \"middels\" eller \"lav\", vil bli vurdert for frigivelse.<\/span><\/p>\n Vi systematiserer sikkerhetstenkningen v\u00e5r med v\u00e5rt Preparedness Framework, et levende dokument (for tiden i betaversjon) som beskriver de tekniske og operasjonelle investeringene vi tar i bruk for \u00e5 styre sikkerheten i utviklingen av pionermodellene v\u00e5re.https:\/\/t.co\/vWvvmR9tpP<\/a><\/p>\n - OpenAI (@OpenAI) 18. desember 2023<\/a><\/p><\/blockquote>\n\n