{"id":12519,"date":"2024-05-22T18:16:07","date_gmt":"2024-05-22T18:16:07","guid":{"rendered":"https:\/\/dailyai.com\/?p=12519"},"modified":"2024-05-24T10:16:44","modified_gmt":"2024-05-24T10:16:44","slug":"decoding-the-ai-mind-anthropic-researchers-peer-inside-the-black-box","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2024\/05\/decoding-the-ai-mind-anthropic-researchers-peer-inside-the-black-box\/","title":{"rendered":"D\u00e9coder l'esprit de l'IA : Les chercheurs en anthropologie se penchent sur la \"bo\u00eete noire\"."},"content":{"rendered":"

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> Les chercheurs ont r\u00e9ussi \u00e0 identifier des millions de concepts au sein des Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> Sonnet, l'un de leurs dipl\u00f4m\u00e9s en droit.<\/b><\/p>\n

Les mod\u00e8les d'IA sont souvent consid\u00e9r\u00e9s comme des bo\u00eetes noires, ce qui signifie que vous ne pouvez pas \"voir\" \u00e0 l'int\u00e9rieur pour comprendre exactement comment ils fonctionnent.\u00a0<\/span><\/p>\n

Lorsque vous fournissez une entr\u00e9e \u00e0 un LLM, il g\u00e9n\u00e8re une r\u00e9ponse, mais le raisonnement qui sous-tend ses choix n'est pas clair. <\/span><\/p>\n

Vous entrez des donn\u00e9es et vous obtenez des r\u00e9sultats, et m\u00eame les d\u00e9veloppeurs d'IA ne comprennent pas vraiment ce qui se passe \u00e0 l'int\u00e9rieur de cette \"bo\u00eete\".\u00a0<\/span><\/p>\n

Les r\u00e9seaux neuronaux cr\u00e9ent leurs propres repr\u00e9sentations internes de l'information lorsqu'ils mettent en correspondance les entr\u00e9es et les sorties au cours de l'apprentissage des donn\u00e9es.\u00a0<\/span>Les \u00e9l\u00e9ments constitutifs de ce processus, appel\u00e9s \"activations des neurones\", sont repr\u00e9sent\u00e9s par des valeurs num\u00e9riques. <\/span><\/p>\n

Chaque concept est r\u00e9parti entre plusieurs neurones, et chaque neurone contribue \u00e0 repr\u00e9senter plusieurs concepts, ce qui rend difficile la mise en correspondance directe des concepts avec les neurones individuels.<\/span><\/p>\n

Cette situation est largement analogue \u00e0 celle de notre cerveau humain. Tout comme notre cerveau traite les donn\u00e9es sensorielles et g\u00e9n\u00e8re des pens\u00e9es, des comportements et des souvenirs, les milliards, voire les trillions, de processus \u00e0 l'origine de ces fonctions restent principalement inconnus de la science.<\/span><\/p>\n

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span>L'\u00e9tude de<\/span><\/a> tente de voir \u00e0 l'int\u00e9rieur de la bo\u00eete noire de l'IA gr\u00e2ce \u00e0 une technique appel\u00e9e \"apprentissage par dictionnaire\".\u00a0<\/span><\/p>\n

Il s'agit de d\u00e9composer les sch\u00e9mas complexes d'un mod\u00e8le d'IA en blocs lin\u00e9aires ou \"atomes\" qui ont un sens intuitif pour les humains.<\/span><\/p>\n

Mapping LLMs with Dictionary Learning (cartographie des LLMs avec apprentissage par dictionnaire)<\/h2>\n

En octobre 2023, Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> a appliqu\u00e9 cette m\u00e9thode \u00e0 un minuscule mod\u00e8le linguistique \"jouet\" et a trouv\u00e9 des caract\u00e9ristiques coh\u00e9rentes correspondant \u00e0 des concepts tels que le texte en majuscules, les s\u00e9quences d'ADN, les noms de famille dans les citations, les noms math\u00e9matiques ou les arguments de fonctions dans le code Python.<\/span><\/p>\n

Cette derni\u00e8re \u00e9tude a permis d'adapter la technique aux mod\u00e8les de langage d'IA les plus importants d'aujourd'hui, en l'occurrence, Anthropic<\/span><\/span><\/span><\/span>'s Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> 3 Sonnet.\u00a0<\/span><\/p>\n

Voici, \u00e9tape par \u00e9tape, comment s'est d\u00e9roul\u00e9e l'\u00e9tude :<\/span><\/p>\n

Identifier des mod\u00e8les gr\u00e2ce \u00e0 l'apprentissage par dictionnaire<\/b><\/h4>\n

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> a utilis\u00e9 l'apprentissage par dictionnaire pour analyser les activations des neurones dans diff\u00e9rents contextes et identifier des mod\u00e8les communs. <\/span><\/p>\n

L'apprentissage par dictionnaire regroupe ces activations en un ensemble plus restreint de \"caract\u00e9ristiques\" significatives, repr\u00e9sentant des concepts de plus haut niveau appris par le mod\u00e8le. <\/span><\/p>\n

En identifiant ces caract\u00e9ristiques, les chercheurs peuvent mieux comprendre comment le mod\u00e8le traite et repr\u00e9sente l'information.<\/span><\/p>\n

Extraction des caract\u00e9ristiques de la couche interm\u00e9diaire<\/b><\/h4>\n

Les chercheurs se sont concentr\u00e9s sur la couche m\u00e9diane de la Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> 3.0 Sonnet, qui constitue un point critique dans la cha\u00eene de traitement du mod\u00e8le. <\/span><\/p>\n

L'application de l'apprentissage par dictionnaire \u00e0 cette couche permet d'extraire des millions de caract\u00e9ristiques qui capturent les repr\u00e9sentations internes du mod\u00e8le et les concepts appris \u00e0 ce stade. <\/span><\/p>\n

L'extraction de caract\u00e9ristiques de la couche interm\u00e9diaire permet aux chercheurs d'examiner la compr\u00e9hension de l'information par le mod\u00e8le. apr\u00e8s<\/em> il a trait\u00e9 l'entr\u00e9e avant<\/em> la production du r\u00e9sultat final.<\/span><\/p>\n

D\u00e9couvrir des concepts divers et abstraits<\/b><\/h4>\n

Les caract\u00e9ristiques extraites r\u00e9v\u00e8lent un large \u00e9ventail de concepts appris par l'\u00e9quipe d'\u00e9valuation. Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span>L'Europe est un espace de libert\u00e9, de libert\u00e9 et de s\u00e9curit\u00e9, allant d'entit\u00e9s concr\u00e8tes comme les villes et les personnes \u00e0 des notions abstraites li\u00e9es \u00e0 des domaines scientifiques et \u00e0 la syntaxe de la programmation. <\/span><\/p>\n

Il est int\u00e9ressant de noter que les caract\u00e9ristiques se sont r\u00e9v\u00e9l\u00e9es multimodales, r\u00e9pondant \u00e0 la fois aux entr\u00e9es textuelles et visuelles, ce qui indique que le mod\u00e8le peut apprendre et repr\u00e9senter des concepts \u00e0 travers diff\u00e9rentes modalit\u00e9s. <\/span><\/p>\n

En outre, les caract\u00e9ristiques multilingues sugg\u00e8rent que le mod\u00e8le peut saisir des concepts exprim\u00e9s dans diff\u00e9rentes langues.<\/span><\/p>\n

\"<span<\/p>\n

Analyser l'organisation des concepts<\/b><\/h3>\n

Pour comprendre comment le mod\u00e8le organise et relie diff\u00e9rents concepts, les chercheurs ont analys\u00e9 la similarit\u00e9 entre les caract\u00e9ristiques sur la base de leurs sch\u00e9mas d'activation. <\/span><\/p>\n

Ils ont d\u00e9couvert que les caract\u00e9ristiques repr\u00e9sentant des concepts apparent\u00e9s avaient tendance \u00e0 se regrouper. Par exemple, les caract\u00e9ristiques associ\u00e9es aux villes ou aux disciplines scientifiques pr\u00e9sentaient une plus grande similitude entre elles qu'avec les caract\u00e9ristiques repr\u00e9sentant des concepts sans rapport. <\/span><\/p>\n

Cela sugg\u00e8re que l'organisation interne des concepts du mod\u00e8le s'aligne, dans une certaine mesure, sur les intuitions humaines en mati\u00e8re de relations conceptuelles.<\/span><\/p>\n

\"anthropique\"
Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> a r\u00e9ussi \u00e0 cartographier des concepts abstraits tels que le \"conflit int\u00e9rieur\". Source : Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/a>.<\/figcaption><\/figure>\n

V\u00e9rification des caract\u00e9ristiques<\/b><\/h4>\n

Pour confirmer que les caract\u00e9ristiques identifi\u00e9es influencent directement le comportement et les r\u00e9sultats du mod\u00e8le, les chercheurs ont men\u00e9 des exp\u00e9riences de \"pilotage des caract\u00e9ristiques\". <\/span><\/p>\n

Il s'agissait d'amplifier ou de supprimer s\u00e9lectivement l'activation de caract\u00e9ristiques sp\u00e9cifiques pendant le traitement du mod\u00e8le et d'observer l'impact sur ses r\u00e9ponses. <\/span><\/p>\n

En manipulant les caract\u00e9ristiques individuelles, les chercheurs ont pu \u00e9tablir un lien direct entre les caract\u00e9ristiques individuelles et le comportement du mod\u00e8le. Par exemple, l'amplification d'une caract\u00e9ristique li\u00e9e \u00e0 une ville sp\u00e9cifique a conduit le mod\u00e8le \u00e0 g\u00e9n\u00e9rer des r\u00e9sultats privil\u00e9giant la ville, m\u00eame dans des contextes non pertinents.<\/span><\/p>\n

Lire l'\u00e9tude compl\u00e8te ici<\/a>.<\/p>\n