{"id":12519,"date":"2024-05-22T18:16:07","date_gmt":"2024-05-22T18:16:07","guid":{"rendered":"https:\/\/dailyai.com\/?p=12519"},"modified":"2024-05-24T10:16:44","modified_gmt":"2024-05-24T10:16:44","slug":"decoding-the-ai-mind-anthropic-researchers-peer-inside-the-black-box","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2024\/05\/decoding-the-ai-mind-anthropic-researchers-peer-inside-the-black-box\/","title":{"rendered":"Descifrando la mente de la IA: Los investigadores antr\u00f3picos se asoman a la \"caja negra\""},"content":{"rendered":"

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> investigadores identificaron con \u00e9xito millones de conceptos Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> Sonnet, uno de sus LLM avanzados.<\/b><\/p>\n

Los modelos de IA suelen considerarse cajas negras, lo que significa que no se puede \"ver\" en su interior para entender exactamente c\u00f3mo funcionan.\u00a0<\/span><\/p>\n

Cuando le das una entrada a un LLM, genera una respuesta, pero el razonamiento que hay detr\u00e1s de sus elecciones no est\u00e1 claro. <\/span><\/p>\n

Entras y sales, y ni siquiera los propios desarrolladores de IA entienden lo que ocurre dentro de esa \"caja\".\u00a0<\/span><\/p>\n

Las redes neuronales crean sus propias representaciones internas de la informaci\u00f3n cuando asignan entradas a salidas durante el entrenamiento de los datos.\u00a0<\/span>Los componentes b\u00e1sicos de este proceso, denominados \"activaciones neuronales\", se representan mediante valores num\u00e9ricos. <\/span><\/p>\n

Cada concepto se distribuye entre varias neuronas, y cada neurona contribuye a representar varios conceptos, por lo que resulta dif\u00edcil asignar conceptos directamente a neuronas individuales.<\/span><\/p>\n

Esto es an\u00e1logo a nuestros cerebros humanos. Del mismo modo que nuestros cerebros procesan la informaci\u00f3n sensorial y generan pensamientos, comportamientos y recuerdos, la ciencia desconoce los miles de millones, incluso billones, de procesos que hay detr\u00e1s de estas funciones.<\/span><\/p>\n

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span>Estudio<\/span><\/a> intenta ver dentro de la caja negra de la IA con una t\u00e9cnica llamada \"aprendizaje de diccionario\".\u00a0<\/span><\/p>\n

Se trata de descomponer los patrones complejos de un modelo de IA en bloques de construcci\u00f3n lineales o \"\u00e1tomos\" que tengan un sentido intuitivo para los humanos.<\/span><\/p>\n

Mapeo de LLM con aprendizaje de diccionarios<\/h2>\n

En octubre de 2023, Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> aplic\u00f3 este m\u00e9todo a un min\u00fasculo modelo ling\u00fc\u00edstico \"de juguete\" y encontr\u00f3 rasgos coherentes correspondientes a conceptos como texto en may\u00fasculas, secuencias de ADN, apellidos en citas, sustantivos matem\u00e1ticos o argumentos de funciones en c\u00f3digo Python.<\/span><\/p>\n

Este \u00faltimo estudio ampl\u00eda la t\u00e9cnica para que, en este caso, funcione con los modelos ling\u00fc\u00edsticos de IA m\u00e1s grandes de la actualidad, Anthropic<\/span><\/span><\/span><\/span>'s Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> 3 Soneto.\u00a0<\/span><\/p>\n

A continuaci\u00f3n se explica paso a paso c\u00f3mo funcion\u00f3 el estudio:<\/span><\/p>\n

Identificar patrones con el aprendizaje de diccionarios<\/b><\/h4>\n

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> utiliz\u00f3 el aprendizaje de diccionarios para analizar las activaciones neuronales en diversos contextos e identificar patrones comunes. <\/span><\/p>\n

El aprendizaje de diccionarios agrupa estas activaciones en un conjunto m\u00e1s peque\u00f1o de \"caracter\u00edsticas\" significativas, que representan conceptos de nivel superior aprendidos por el modelo. <\/span><\/p>\n

Al identificar estas caracter\u00edsticas, los investigadores pueden comprender mejor c\u00f3mo el modelo procesa y representa la informaci\u00f3n.<\/span><\/p>\n

Extracci\u00f3n de caracter\u00edsticas de la capa intermedia<\/b><\/h4>\n

Los investigadores se centraron en la capa media de Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> 3.0 Sonnet, que sirve de punto cr\u00edtico en la cadena de procesamiento del modelo. <\/span><\/p>\n

Aplicando el aprendizaje de diccionarios a esta capa se extraen millones de caracter\u00edsticas que capturan las representaciones internas del modelo y los conceptos aprendidos en esta fase. <\/span><\/p>\n

La extracci\u00f3n de caracter\u00edsticas de la capa intermedia permite a los investigadores examinar la comprensi\u00f3n que tiene el modelo de la informaci\u00f3n despu\u00e9s de<\/em> ha procesado la entrada antes de<\/em> generar el resultado final.<\/span><\/p>\n

Descubrir conceptos diversos y abstractos<\/b><\/h4>\n

Las caracter\u00edsticas extra\u00eddas revelaron una amplia gama de conceptos aprendidos por Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span>desde entidades concretas como ciudades y personas hasta nociones abstractas relacionadas con campos cient\u00edficos y sintaxis de programaci\u00f3n. <\/span><\/p>\n

Curiosamente, las caracter\u00edsticas resultaron ser multimodales, respondiendo tanto a entradas textuales como visuales, lo que indica que el modelo puede aprender y representar conceptos a trav\u00e9s de diferentes modalidades. <\/span><\/p>\n

Adem\u00e1s, las caracter\u00edsticas multiling\u00fces sugieren que el modelo puede captar conceptos expresados en varios idiomas.<\/span><\/p>\n

\"<span<\/p>\n

Analizar la organizaci\u00f3n de los conceptos<\/b><\/h3>\n

Para entender c\u00f3mo el modelo organiza y relaciona los distintos conceptos, los investigadores analizaron la similitud entre rasgos bas\u00e1ndose en sus patrones de activaci\u00f3n. <\/span><\/p>\n

Descubrieron que las caracter\u00edsticas que representaban conceptos relacionados tend\u00edan a agruparse. Por ejemplo, los rasgos asociados a ciudades o disciplinas cient\u00edficas mostraban una mayor similitud entre s\u00ed que los rasgos que representaban conceptos no relacionados. <\/span><\/p>\n

Esto sugiere que la organizaci\u00f3n interna de los conceptos del modelo se ajusta, hasta cierto punto, a las intuiciones humanas sobre las relaciones conceptuales.<\/span><\/p>\n

\"antr\u00f3pico\"
Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> consigui\u00f3 mapear conceptos abstractos como \"conflicto interior\". Fuente: Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/a>.<\/figcaption><\/figure>\n

Verificaci\u00f3n de las caracter\u00edsticas<\/b><\/h4>\n

Para confirmar que las caracter\u00edsticas identificadas influyen directamente en el comportamiento y los resultados del modelo, los investigadores realizaron experimentos de \"direcci\u00f3n de caracter\u00edsticas\". <\/span><\/p>\n

Se trataba de amplificar o suprimir selectivamente la activaci\u00f3n de rasgos espec\u00edficos durante el procesamiento del modelo y observar el impacto en sus respuestas. <\/span><\/p>\n

Mediante la manipulaci\u00f3n de caracter\u00edsticas individuales, los investigadores pudieron establecer un v\u00ednculo directo entre las caracter\u00edsticas individuales y el comportamiento del modelo. Por ejemplo, si se amplificaba una caracter\u00edstica relacionada con una ciudad concreta, el modelo generaba resultados sesgados por la ciudad, incluso en contextos irrelevantes.<\/span><\/p>\n

Lea el estudio completo aqu\u00ed<\/a>.<\/p>\n