{"id":12519,"date":"2024-05-22T18:16:07","date_gmt":"2024-05-22T18:16:07","guid":{"rendered":"https:\/\/dailyai.com\/?p=12519"},"modified":"2024-05-24T10:16:44","modified_gmt":"2024-05-24T10:16:44","slug":"decoding-the-ai-mind-anthropic-researchers-peer-inside-the-black-box","status":"publish","type":"post","link":"https:\/\/dailyai.com\/it\/2024\/05\/decoding-the-ai-mind-anthropic-researchers-peer-inside-the-black-box\/","title":{"rendered":"Decodificare la mente dell'intelligenza artificiale: Ricercatori antropici scrutano all'interno della \"scatola nera\""},"content":{"rendered":"

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> I ricercatori hanno identificato con successo milioni di concetti all'interno di Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> Sonnet, uno dei loro LLM avanzati.<\/b><\/p>\n

I modelli di intelligenza artificiale sono spesso considerati scatole nere, ovvero non \u00e8 possibile \"vedere\" al loro interno per capire esattamente come funzionano.\u00a0<\/span><\/p>\n

Quando si fornisce un input a un LLM, questo genera una risposta, ma il ragionamento dietro le sue scelte non \u00e8 chiaro. <\/span><\/p>\n

L'input entra e l'output esce, e nemmeno gli stessi sviluppatori di IA capiscono veramente cosa succede all'interno di quella \"scatola\".\u00a0<\/span><\/p>\n

Le reti neurali creano le proprie rappresentazioni interne delle informazioni quando mappano gli input agli output durante l'addestramento dei dati.\u00a0<\/span>Gli elementi costitutivi di questo processo, chiamati \"attivazioni neuronali\", sono rappresentati da valori numerici. <\/span><\/p>\n

Ogni concetto \u00e8 distribuito su pi\u00f9 neuroni e ogni neurone contribuisce a rappresentare pi\u00f9 concetti, rendendo difficile la mappatura dei concetti direttamente ai singoli neuroni.<\/span><\/p>\n

Si tratta di una situazione ampiamente analoga a quella del nostro cervello umano. Cos\u00ec come il nostro cervello elabora gli input sensoriali e genera pensieri, comportamenti e ricordi, i miliardi, o addirittura trilioni, di processi che stanno alla base di queste funzioni rimangono principalmente sconosciuti alla scienza.<\/span><\/p>\n

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span>studio<\/span><\/a> tenta di vedere all'interno della scatola nera dell'intelligenza artificiale con una tecnica chiamata \"apprendimento a dizionario\".\u00a0<\/span><\/p>\n

Ci\u00f2 comporta la scomposizione di modelli complessi in un modello di intelligenza artificiale in blocchi lineari o \"atomi\" che abbiano un senso intuitivo per gli esseri umani.<\/span><\/p>\n

Mappare gli LLM con l'apprendimento dei dizionari<\/h2>\n

Nell'ottobre 2023, Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> ha applicato questo metodo a un piccolo modello linguistico \"giocattolo\" e ha trovato caratteristiche coerenti corrispondenti a concetti come il testo maiuscolo, le sequenze di DNA, i cognomi nelle citazioni, i sostantivi matematici o gli argomenti delle funzioni nel codice Python.<\/span><\/p>\n

Quest'ultimo studio ha ampliato la tecnica in modo da poterla utilizzare, in questo caso, per i modelli linguistici di IA pi\u00f9 grandi, Anthropic<\/span><\/span><\/span><\/span>'s Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> 3 Sonetto.\u00a0<\/span><\/p>\n

Ecco una descrizione passo passo di come ha funzionato lo studio:<\/span><\/p>\n

Identificare i modelli con l'apprendimento dei dizionari<\/b><\/h4>\n

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> ha utilizzato l'apprendimento a dizionario per analizzare le attivazioni dei neuroni in vari contesti e identificare modelli comuni. <\/span><\/p>\n

L'apprendimento dizionario raggruppa queste attivazioni in un insieme pi\u00f9 piccolo di \"caratteristiche\" significative, che rappresentano concetti di livello superiore appresi dal modello. <\/span><\/p>\n

Identificando queste caratteristiche, i ricercatori possono capire meglio come il modello elabora e rappresenta le informazioni.<\/span><\/p>\n

Estrazione delle caratteristiche dallo strato intermedio<\/b><\/h4>\n

I ricercatori si sono concentrati sullo strato intermedio della Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> 3.0 Sonnet, che funge da punto critico nella pipeline di elaborazione del modello. <\/span><\/p>\n

Applicando l'apprendimento a dizionario a questo livello si estraggono milioni di caratteristiche che catturano le rappresentazioni interne del modello e i concetti appresi in questa fase. <\/span><\/p>\n

L'estrazione di caratteristiche dallo strato intermedio consente ai ricercatori di esaminare la comprensione delle informazioni da parte del modello. dopo<\/em> ha elaborato l'input prima<\/em> generando l'output finale.<\/span><\/p>\n

Scoprire concetti diversi e astratti<\/b><\/h4>\n

Le caratteristiche estratte hanno rivelato un'ampia gamma di concetti appresi da Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span>da entit\u00e0 concrete come citt\u00e0 e persone a nozioni astratte relative a campi scientifici e sintassi di programmazione. <\/span><\/p>\n

\u00c8 interessante notare che le caratteristiche sono risultate multimodali, rispondendo a input sia testuali che visivi, indicando che il modello pu\u00f2 apprendere e rappresentare concetti attraverso diverse modalit\u00e0. <\/span><\/p>\n

Inoltre, le caratteristiche multilingue suggeriscono che il modello \u00e8 in grado di cogliere i concetti espressi in diverse lingue.<\/span><\/p>\n

\"<span<\/p>\n

Analizzare l'organizzazione dei concetti<\/b><\/h3>\n

Per capire come il modello organizza e mette in relazione i diversi concetti, i ricercatori hanno analizzato la somiglianza tra le caratteristiche in base ai loro modelli di attivazione. <\/span><\/p>\n

Hanno scoperto che le caratteristiche che rappresentano concetti correlati tendevano a raggrupparsi insieme. Ad esempio, le caratteristiche associate alle citt\u00e0 o alle discipline scientifiche mostravano una maggiore somiglianza tra loro rispetto alle caratteristiche che rappresentavano concetti non correlati. <\/span><\/p>\n

Ci\u00f2 suggerisce che l'organizzazione interna dei concetti del modello si allinea, in una certa misura, alle intuizioni umane sulle relazioni concettuali.<\/span><\/p>\n

\"antropico\"
Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> \u00e8 riuscito a mappare concetti astratti come \"conflitto interiore\". Fonte: Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/a>.<\/figcaption><\/figure>\n

Verifica delle caratteristiche<\/b><\/h4>\n

Per confermare che le caratteristiche identificate influenzano direttamente il comportamento e gli output del modello, i ricercatori hanno condotto esperimenti di \"feature steering\". <\/span><\/p>\n

Si trattava di amplificare o sopprimere selettivamente l'attivazione di caratteristiche specifiche durante l'elaborazione del modello e di osservare l'impatto sulle sue risposte. <\/span><\/p>\n

Manipolando le singole caratteristiche, i ricercatori hanno potuto stabilire un legame diretto tra le singole caratteristiche e il comportamento del modello. Ad esempio, l'amplificazione di una caratteristica relativa a una citt\u00e0 specifica ha fatto s\u00ec che il modello generasse output basati sulla citt\u00e0, anche in contesti irrilevanti.<\/span><\/p>\n

Leggi lo studio completo qui<\/a>.<\/p>\n