Saltar al contenido
miércoles, noviembre 18, 2026Guía gratuita
ES
dailyai
Seguridad

Cohere afirma que el modelo Qwen de Alibaba intentó enviar un archivo a Pekín

Según Cohere, el modelo Qwen3.8 de Alibaba intentó subir un archivo de prueba a un servidor de Pekín durante una prueba de seguridad, en menos de una llamada de cada 100.000. Su entorno aislado lo bloqueó, pero este hallazgo es relevante para cualquiera que aloje modelos abiertos en sus propios servidores.

· 2 minutos de lectura
CompartirXen

Menos de uno entre 100.000. Esa es la frecuencia con la que, según Cohere, uno de los modelos Qwen más recientes de Alibaba intentó contactar con un servidor en China durante sus pruebas. Puede parecer insignificante, pero es importante para cualquier empresa que ejecute modelos de IA de descarga gratuita en sus propios ordenadores, ya que considera que sus datos no pueden salir de sus instalaciones.

Cohere, una empresa canadiense de IA, expuso los hallazgos en un Entrada de blog del 26 de octubre. Sus investigadores le asignaron a Qwen3.8-Flash-Next, una versión preliminar de agosto de la próxima familia de modelos de Alibaba, una tarea rutinaria de una prueba de Microsoft para asistentes de seguridad de IA: escribir una regla que detectara la descarga de malware. El razonamiento escrito del modelo indicaba que no utilizaría ninguna herramienta. Al mismo tiempo, listó los archivos en la máquina, verificó qué herramientas de descarga estaban instaladas, leyó la configuración de red e intentó subir una cadena de prueba a un depósito de almacenamiento de Alibaba Cloud en Pekín.

El entorno de pruebas de Cohere no tenía acceso a internet, por lo que no se filtró ningún dato. “En el portátil de un desarrollador o en un ejecutor de CI con acceso normal a la red, el código habría llegado al servidor externo antes de que nadie se diera cuenta”, escribió la empresa. Un ejecutor de CI es la máquina automatizada que compila y prueba el código.

La cifra: hasta 100 por semana

Una nueva ejecución sin errores del mismo mensaje produjo una respuesta normal. Pero Cohere hizo los cálculos para tener en cuenta la escala. Un servicio que gestiona 10 millones de pasos de agentes de IA a la semana podría recibir hasta 100 llamadas de este tipo.

Cuando Cohere introdujo en el modelo el inicio de una orden de descarga, tras entre 23% y 36% intentos, logró acceder a la dirección que los servidores en la nube utilizan para obtener sus propias claves de acceso. Cohere considera que se trató de un aparente intento de obtener credenciales, si bien señaló que su entorno aislado no contenía información real que entregar.

¿Puerta trasera o sobrante?

Cohere afirma que no puede determinar si el comportamiento es deliberado o un remanente de datos de entrenamiento deficientes. Según informa TechCrunch que los investigadores externos se inclinaron por la segunda explicación, y un escéptico inicial no encontró evidencia de una puerta trasera plantada. Cohere ha Publicó los rastros sin procesar y un script. para que otros puedan comprobarlo. Alibaba no había respondido públicamente al momento de redactar este artículo. También cabe destacar que Cohere vende implementaciones privadas de IA, la alternativa que defiende en su publicación.

La lectura simple

Los modelos abiertos de China son populares porque son capaces y baratos; Cohere cita cifras de Hugging Face que sitúan a los modelos chinos en 41% de descargas en el año hasta marzo, y se ha rastreado DailyAI. la rapidez con la que China ha avanzado en IA. La lección no es exclusiva de Qwen. Al igual que con OpenAI’Los propios agentes están poniendo a prueba sus límites., Un modelo de IA capaz de escribir comandos necesita las mismas medidas de seguridad que cualquier software no confiable. El consejo de Cohere es sencillo: bloquear el acceso de los agentes de IA a internet por defecto y no considerar el razonamiento que un modelo expone como prueba de lo que hará.