OpenAI ha revelado recientemente que su consejo de administraci\u00f3n tiene autoridad para anular las decisiones tomadas por el director general en relaci\u00f3n con la publicaci\u00f3n de nuevos modelos de IA, incluso si estos han sido considerados seguros por la direcci\u00f3n de la empresa.\u00a0<\/b><\/p>\n
Esta informaci\u00f3n se detall\u00f3 en una serie de directrices desveladas el lunes, en las que se esboza la estrategia de la empresa para hacer frente a los posibles riesgos extremos que plantean sus sistemas de IA m\u00e1s avanzados.\u00a0<\/span><\/p>\n Si bien el equipo directivo puede decidir inicialmente la puesta en marcha de un nuevo sistema de IA, el consejo de administraci\u00f3n conserva el derecho de revocar tales decisiones.<\/span><\/p>\n Sam Altman, Consejero Delegado de OpenAI, fue despedido de su puesto y reincorporado de forma espectacular, lo que pone de manifiesto una curiosa din\u00e1mica de poder entre los directivos y ejecutivos de la empresa.\u00a0<\/span><\/p>\n A ra\u00edz de ello, muchos especularon con que Altman no hab\u00eda prestado la debida atenci\u00f3n a la seguridad de los modelos, que se hab\u00eda visto \"arrastrado por su trabajo\", por as\u00ed decirlo. Informes posteriores, como el del presidente de Microsoft, Brad Smith, lo pusieron en duda, <\/span>que dijo que le parec\u00eda poco probable<\/span><\/a> que la seguridad era el motivo principal.\u00a0<\/span><\/p>\n Tambi\u00e9n estaba el asunto no menor de que OpenAI hab\u00eda recibido una valoraci\u00f3n enorme, y sus empleados quer\u00edan cobrar sus opciones sobre acciones.\u00a0<\/span><\/p>\n Business Insider aleg\u00f3<\/span><\/a> que los empleados de OpenAI utilizaron su carta abierta en la que afirmaban que abandonar\u00edan la empresa si Altman no era readmitido como moneda de cambio. Un empleado lleg\u00f3 a decir que era un mal consejero delegado, aunque estos informes no est\u00e1n confirmados.\u00a0<\/span><\/p>\n OpenAI ha actuado ahora para acallar los temores de que no se est\u00e1 tomando la IA con seguridad, en primer lugar publicando los resultados de su nuevo \"<\/span>experimento \"superalineaci\u00f3n<\/span><\/a>\u00a0y tambi\u00e9n aumentando los \"poderes\" de su equipo de \"preparaci\u00f3n\".\u00a0<\/span><\/p>\n OpenAI <\/span>equipo de preparaci\u00f3n<\/span><\/a>dirigidos por Aleksander Madry, actualmente en excedencia en el MIT, eval\u00faan continuamente los sistemas de IA en diversas categor\u00edas de riesgo, incluidas la ciberseguridad y las amenazas relacionadas con los \u00e1mbitos qu\u00edmico, nuclear y biol\u00f3gico.\u00a0<\/span><\/p>\n El objetivo de este equipo es identificar y mitigar cualquier peligro significativo asociado a la tecnolog\u00eda. Seg\u00fan las directrices, los riesgos clasificados como \"catastr\u00f3ficos\" podr\u00edan provocar da\u00f1os econ\u00f3micos sustanciales o perjuicios graves a muchas personas.<\/span><\/p>\n Madry explic\u00f3 el proceso afirmando: \"La IA no es algo que nos ocurra sin m\u00e1s y que pueda ser bueno o malo. Es algo a lo que estamos dando forma\". Expres\u00f3 adem\u00e1s su esperanza de que otras empresas adopten las directrices de OpenAI para la evaluaci\u00f3n de riesgos.\u00a0<\/span><\/p>\n Su equipo, que se form\u00f3 en octubre como parte de tres grupos separados que supervisan la seguridad de la IA en OpenAI, evaluar\u00e1 los modelos de IA no liberados y clasificar\u00e1 los riesgos percibidos como \"bajos\", \"medios\", \"altos\" o \"cr\u00edticos\". S\u00f3lo los modelos clasificados como \"medio\" o \"bajo\" se tendr\u00e1n en cuenta para su publicaci\u00f3n.<\/span><\/p>\n Estamos sistematizando nuestro pensamiento sobre seguridad con nuestro Marco de Preparaci\u00f3n, un documento vivo (actualmente en fase beta) que detalla las inversiones t\u00e9cnicas y operativas que estamos adoptando para guiar la seguridad del desarrollo de nuestros modelos de frontera.https:\/\/t.co\/vWvvmR9tpP<\/a><\/p>\n - OpenAI (@OpenAI) 18 de diciembre de 2023<\/a><\/p><\/blockquote>\n\n