Googles Frontier Safety Framework mildrar "allvarliga" AI-risker
Google har publicerat den första versionen av sitt Frontier Safety Framework, en uppsättning protokoll som syftar till att hantera allvarliga risker som framtidens kraftfulla AI-modeller kan utgöra. Ramverket definierar Critical Capability Levels (CCL), som är tröskelvärden vid vilka modeller kan utgöra förhöjd risk utan ytterligare begränsning. Därefter fastställs olika nivåer av riskreducerande åtgärder för att hantera modeller som bryter mot dessa CCL. De riskreducerande åtgärderna delas in i två huvudkategorier: Säkerhetsbegränsningar - Förhindra exponering av vikterna hos en modell som når CCL Begränsningar av distribution - Förhindra missbruk av en distribuerad modell som når CCL...