O Frontier Safety Framework da Google atenua os riscos "graves" da IA
A Google publicou a primeira versão do seu Frontier Safety Framework, um conjunto de protocolos que tem como objetivo fazer face aos graves riscos que os poderosos modelos de IA de fronteira do futuro poderão apresentar. A estrutura define os Níveis Críticos de Capacidade (CCLs), que são limiares nos quais os modelos podem representar um risco elevado sem mitigação adicional. Em seguida, estabelece diferentes níveis de atenuação para lidar com modelos que violam esses CCLs. As atenuações dividem-se em duas categorias principais: Mitigações de segurança - Impedir a exposição dos pesos de um modelo que atinge os CCLs Mitigações de implantação - Impedir o uso indevido de um modelo implantado que atinge os CCLs O...