La orden ejecutiva que el presidente Biden firmó en octubre encargó al Instituto Nacional de Estándares y Tecnología (NIST) la investigación de cómo probar y analizar la IA...
Por Eugene van der Watt · 2 minutos de lectura
Un concesionario Chevrolet en Watsonville, California, tuvo que desactivar su chatbot de ventas tras ser engañado para ofrecer grandes descuentos a los compradores. Algunas interacciones fueron de lo más curiosas…
Por Eugene van der Watt · 2 minutos de lectura
La startup francesa de IA Mistral lanzó la semana pasada su modelo de código abierto Mixtral 8x7B, basado en la mezcla de expertos. Un investigador de IA publicó una versión del modelo con sus…
Por Eugene van der Watt · 3 minutos de lectura
OpenAI ha revelado recientemente que su junta directiva tiene la autoridad para anular las decisiones tomadas por el CEO con respecto al lanzamiento de nuevos modelos de IA, incluso si…
Por Sam Jeans · 2 minutos de lectura
Los modelos de IA actuales son capaces de realizar muchas acciones inseguras o indeseables. La supervisión y la retroalimentación humanas mantienen estos modelos alineados, pero ¿qué sucederá...?
Por Eugene van der Watt · 3 minutos de lectura
Por primera vez, el Consejo de Supervisión de la Estabilidad Financiera (FSOC), un organismo que supervisa la estabilidad del sistema financiero estadounidense, ha señalado a la IA como un factor significativo…
Por Sam Jeans · 2 minutos de lectura
Lasso Security expuso vulnerabilidades de seguridad en HuggingFace y GitHub tras encontrar 1681 tokens de API expuestos, codificados directamente en el código almacenado en las plataformas. HuggingFace y GitHub son…
Por Eugene van der Watt · 2 minutos de lectura
Investigadores de Google DeepMind y varias universidades descubrieron que se puede hacer que los modelos de aprendizaje automático (LLM) expongan sus datos de entrenamiento mediante un sencillo truco. Existe…
Por Eugene van der Watt · 2 minutos de lectura
A medida que las tecnologías de IA se generalizan, también se convierten en objetivos de los ciberdelincuentes. Las agencias de ciberseguridad del Reino Unido y Estados Unidos desarrollaron nuevas directrices sobre cómo…
Por Eugene van der Watt · 2 minutos de lectura
La decisión de despedir a Sam Altam pudo haber estado influenciada por los ideales de altruismo efectivo que comparten los miembros de la junta directiva de OpenAI. El director ejecutivo interino, Emmett Shear, comparte algunos…
Por Eugene van der Watt · 3 minutos de lectura
