OpenAI har nyligen avsl\u00f6jat att dess styrelse har befogenhet att \u00e5sidos\u00e4tta beslut som fattas av VD om lansering av nya AI-modeller, \u00e4ven om dessa har bed\u00f6mts som s\u00e4kra av bolagets ledning.\u00a0<\/b><\/p>\n
Informationen finns i en upps\u00e4ttning riktlinjer som presenterades p\u00e5 m\u00e5ndagen och som beskriver bolagets strategi f\u00f6r att hantera de potentiella extrema risker som dess mest avancerade AI-system utg\u00f6r.\u00a0<\/span><\/p>\n Ledningsgruppen kan initialt besluta om lansering av ett nytt AI-system, men styrelsen beh\u00e5ller r\u00e4tten att upph\u00e4va s\u00e5dana beslut.<\/span><\/p>\n Sam Altman, OpenAI:s VD, avskedades fr\u00e5n sitt jobb och \u00e5terinsattes p\u00e5 ett dramatiskt s\u00e4tt, vilket belyser en m\u00e4rklig maktdynamik mellan bolagets styrelseledam\u00f6ter och chefer.\u00a0<\/span><\/p>\n I efterdyningarna spekulerade m\u00e5nga i att Altman inte hade varit tillr\u00e4ckligt uppm\u00e4rksam p\u00e5 modells\u00e4kerheten, att han hade \"svepts med i sitt arbete\", s\u00e5 att s\u00e4ga. Senare rapporter ifr\u00e5gasatte detta, bland annat fr\u00e5n Microsofts VD Brad Smith, <\/span>som sa att han tyckte att det var osannolikt<\/span><\/a> att s\u00e4kerheten var huvudmotivet.\u00a0<\/span><\/p>\n Till saken h\u00f6rde ocks\u00e5 att OpenAI hade f\u00e5tt en enorm v\u00e4rdering och att de anst\u00e4llda ville l\u00f6sa in sina aktieoptioner.\u00a0<\/span><\/p>\n Business Insider p\u00e5stod<\/span><\/a> att OpenAI-anst\u00e4llda anv\u00e4nde sitt \u00f6ppna brev om att de skulle l\u00e4mna f\u00f6retaget om Altman inte \u00e5teranst\u00e4lldes som ett f\u00f6rhandlingsargument. En anst\u00e4lld sa till och med att han var en d\u00e5lig VD, \u00e4ven om dessa rapporter \u00e4r obekr\u00e4ftade.\u00a0<\/span><\/p>\n OpenAI har nu agerat f\u00f6r att d\u00e4mpa farh\u00e5gorna om att de inte tar AI p\u00e5 ett s\u00e4kert s\u00e4tt, f\u00f6rst genom att publicera resultaten av deras nya \"<\/span>experiment \"superalignment<\/span><\/a>\u00a0och \u00e4ven genom att \u00f6ka \"befogenheterna\" f\u00f6r deras \"beredskaps\"-team.\u00a0<\/span><\/p>\n OpenAI:s <\/span>beredskapsgrupp<\/span><\/a>under ledning av Aleksander Madry, som f\u00f6r n\u00e4rvarande \u00e4r tj\u00e4nstledig fr\u00e5n MIT, utv\u00e4rderar kontinuerligt AI-system inom olika riskkategorier, inklusive cybers\u00e4kerhet och hot relaterade till kemiska, nukle\u00e4ra och biologiska dom\u00e4ner.\u00a0<\/span><\/p>\n Detta team har till uppgift att identifiera och minska alla betydande faror som \u00e4r f\u00f6rknippade med tekniken. Enligt riktlinjerna kan risker som klassificeras som \"katastrofala\" leda till betydande ekonomisk skada eller allvarlig skada f\u00f6r m\u00e5nga individer.<\/span><\/p>\n Madry f\u00f6rklarade processen och sa: \"AI \u00e4r inte n\u00e5got som bara h\u00e4nder oss och som kan vara bra eller d\u00e5ligt. Det \u00e4r n\u00e5got som vi formar.\" Han uttryckte vidare sin f\u00f6rhoppning om att andra f\u00f6retag skulle anta OpenAI:s riktlinjer f\u00f6r riskbed\u00f6mning.\u00a0<\/span><\/p>\n Hans team, som bildades i oktober som en del av tre separata grupper som \u00f6vervakar AI-s\u00e4kerheten vid OpenAI, kommer att utv\u00e4rdera outgivna AI-modeller och klassificera de upplevda riskerna som \"l\u00e5g\", \"medel\", \"h\u00f6g\" eller \"kritisk\". Endast modeller som klassas som \"medel\" eller \"l\u00e5g\" kommer att \u00f6verv\u00e4gas f\u00f6r publicering.<\/span><\/p>\n Vi systematiserar v\u00e5rt s\u00e4kerhetst\u00e4nkande med v\u00e5rt Preparedness Framework, ett levande dokument (f\u00f6r n\u00e4rvarande i betaversion) som beskriver de tekniska och operativa investeringar vi g\u00f6r f\u00f6r att styra s\u00e4kerheten i v\u00e5r utveckling av frontier-modeller.https:\/\/t.co\/vWvvmR9tpP<\/a><\/p>\n - OpenAI (@OpenAI) 18 december 2023<\/a><\/p><\/blockquote>\n\n