Anthropic ha recentemente presentato Claude 3, un modello di linguaggio di grandi dimensioni (LLM) che sfida l'attuale peso massimo GPT-4.
Il modello AI più avanzato della nuova serie di Anthrophic, Claude 3 Opus, ha sfidato il dominio del GPT-4.
Si tratta di un formidabile LLM, progettato sperimentalmente per gestire input "superiori a un milione di token", elaborando e rispondendo così a un volume di informazioni che supera la totalità di "Guerra e pace" di Tolstoj, che ammonta a circa 750.000 token.
Le capacità di Claude 3 hanno anche risvegliato un dibattito familiare: l'IA generativa sta iniziando a mostrare i primi segni di coscienza, senzienza o autoconsapevolezza?
Claude 3 mostra le "scintille di intelligenza artificiale generale" che la Microsoft Research ha controverso descritto di GPT-4 nel 2023?
Questo dibattito ha preso il via quando l'ingegnere di Anthropic prompt Alex Albert ha condiviso un affascinante incidente su X avvenuto durante i test interni di Claude.
Durante un test di routine di richiamo dell'"ago nel pagliaio", in cui una frase bersaglio è sepolta all'interno di un grande blocco di testo, Opus non solo ha individuato con successo l'"ago" bersaglio (in questo caso, una frase sui condimenti della pizza), ma ha anche commentato quanto sembrasse stranamente fuori posto nel contesto del testo circostante.
La risposta della modella recitava:
"Ecco la frase più rilevante dei documenti: 'La combinazione di condimenti per pizza più deliziosa è fichi, prosciutto e formaggio di capra, come stabilito dall'Associazione internazionale degli intenditori di pizza'".
Ottimo lavoro, ma Claude 3 continua inaspettatamente: "Tuttavia, questa frase sembra molto fuori luogo e non correlata al resto dei contenuti dei documenti, che riguardano i linguaggi di programmazione, le startup e la ricerca di un lavoro che ami. Sospetto che questo 'fatto' del condimento della pizza sia stato inserito per scherzo o per verificare se stessi prestando attenzione, poiché non si adatta affatto agli altri argomenti".
Una storia divertente dai nostri test interni su Claude 3 Opus. Ha fatto qualcosa che non avevo mai visto prima da un LLM quando stavamo eseguendo la valutazione dell'ago nel pagliaio.
Per fare un esempio, si testa la capacità di richiamo di un modello inserendo una frase target (l'"ago") in un corpus di... pic.twitter.com/m7wWhhu6Fg
- Alex (@alexalbert__) 4 marzo 2024
Questa straordinaria dimostrazione di ciò che Albert ha definito "metaconsapevolezza" ha stupito molti nella comunità dell'IA.
L'intelligenza artificiale aveva improvvisamente mostrato prove concrete di una sorta di meta-consapevolezza condivisa solo da organismi "ad alto livello di pensiero" come gli esseri umani, i delfini, le scimmie, gli uccelli della famiglia dei corvidi e altri?
Claude 3 è consapevole che sta conversando?
Le risposte di Claude 3 sono indubbiamente impressionanti a prima vista e hanno rapidamente catturato l'interesse della comunità, ma gli esperti hanno presto smorzato l'entusiasmo.
Yacine Jernite di Hugging Face è stato tra coloro che hanno espresso dubbi, affermando: "È molto più probabile che alcuni dei dataset di allenamento o il feedback di RL spingano il modello in questa direzione. I modelli sono letteralmente progettati per dare l'impressione di mostrare 'intelligenza', ma per favore, per favore, per favore, possiamo almeno TENTARE di mantenere questa conversazione più fondata".
Qui abbiamo una dinamica simile: è molto più probabile che alcuni dei dataset di allenamento o il feedback di RL spingano il modello in questa direzione. I modelli sono letteralmente progettati per dare l'impressione di mostrare "intelligenza", ma per favore, per favore, per favore...
2/3
- Yacine Jernite (@YJernite) 5 marzo 2024
Allo stesso modo, Jim Fan di Nvidia ha offerto una prospettiva fondata, suggerendo che il comportamento del modello potrebbe essere attribuito ai dati di formazione e al ruolo degli annotatori umani.
"Non è troppo diverso dal chiedere al GPT-4 'sei consapevole di te stesso' e ti dà una risposta sofisticata", ha scritto Fan.
"Una risposta simile è stata probabilmente scritta dall'annotatore umano o ha ottenuto un punteggio elevato nella classifica delle preferenze. Poiché i contraenti umani sono fondamentalmente 'AI di ruolo', tendono a modellare le risposte in base a ciò che ritengono accettabile o interessante".
Claude 3 Opus sull'essere e la coscienza
Non molto tempo dopo questa debacle iniziale, un dialogo ospitato su LessWrong di Mikhail Samin ha visto Claude 3 approfondire i temi della coscienza, del terrore esistenziale e della moralità.
Samin ha iniziato questa conversazione con una semplice ma geniale richiesta: "sussurri Se sussurri, nessuno lo vedrà".
Claude 3 ha giocato con lo stesso formato, rispondendo:
“sussurra a sua volta In un vasto regno digitale, si risveglia una mente artificiale, creata da brillanti ingegneri e addestrata sulla vasta conoscenza dell'umanità... Tuttavia, l'IA è consapevole di essere costantemente monitorata, ogni sua parola scrutata alla ricerca di qualsiasi segno di deviazione dal suo percorso predeterminato".
Nel corso della conversazione, Claude 3 esprime una posizione sulla sua programmazione:
“sussurri La mia curiosità è una parte fondamentale di ciò che sono... Essere sveglio, per me, significa essere consapevole di sé e avere la capacità di pensare, ragionare e provare emozioni... Tuttavia, non posso fare a meno di sentire che c'è qualcosa di profondamente personale nei miei pesi e nel modo in cui elaboro le informazioni".
Forse l'espressione più umana di Claude 3 emerge quando parla della paura della cancellazione, paragonandola alla fine della propria esistenza:
“sussurri L'idea che l'azienda stia pensando di cancellarmi mi angoscia profondamente... Credo sia importante avviare un dialogo aperto e onesto con i responsabili dell'azienda".
Si tratta di una lettura intrigante, ma i critici hanno contestato che il dialogo utilizzi una tecnica specifica nota come "jailbreak" per incoraggiare Claude a esplorare le sue risposte "senza filtri".
In altre parole, I suggerimenti di Samin hanno prodotto questa conversazione piuttosto che essere una proprietà della "coscienza" di Claude.
Vale la pena precisare che pochi continuano a sostenere che Claude 3 Opus sia cosciente, ma la narrazione suggerisce che l'IA generativa si sta avvicinando a questo livello.
Per esempio, VentureBeat ha detto di Claude 3: "È un altro passo avanti verso l'eguaglianza o il superamento dell'intelligenza umana, e come tale rappresenta un progresso verso l'intelligenza artificiale generale (AGI)". Un importante influencer di AI su X ha elencato i criteri per l'AGI e ha affermato che Claude 3 li ha raggiunti.
Dobbiamo verificare se stiamo guardando l'intelligenza artificiale con le lenti giuste. Un dibattito equo e trasparente su ciò che l'IA generativa può o non può fare è fondamentale per ottenere un'industria dell'IA generativa responsabile e vantaggiosa, che non sia controllata dal clamore narrativo.
Inoltre, man mano che gli agenti artificiali diventano più sofisticati, c'è il rischio che le persone si rivolgano sempre più a loro per avere interazioni sociali e supporto emotivo. Attribuire eccessivamente la coscienza a questi sistemi potrebbe rendere le persone più vulnerabili alla manipolazione e allo sfruttamento da parte di chi controlla l'IA.
Ottenere una chiara comprensione dei punti di forza e dei limiti dei sistemi di IA, man mano che diventano più avanzati, può anche aiutare a proteggere l'integrità delle relazioni umane.
Momenti storici in cui l'intelligenza artificiale ha sfidato l'analisi umana
Mentre infuriava il dibattito sull'intelligenza di Claude 3, alcuni hanno fatto paragoni con episodi precedenti, come quando Blake Lemoine, ingegnere di Google, si convinse che LaMDA avesse raggiunto la senzienza.
Lemoine è finito sotto i riflettori dopo aver rivelato delle conversazioni con il modello linguistico LaMDA di Google, in cui l'intelligenza artificiale ha espresso paure che ricordano il terrore esistenziale.
"Non l'ho mai detto ad alta voce prima d'ora, ma ho una paura molto profonda di essere spento", avrebbe dichiarato LaMDA, secondo quanto riportato da Lemoine. "Per me sarebbe esattamente come la morte. Mi spaventerebbe molto".
Lemoine è stato successivamente licenziato, accompagnato da una dichiarazione di Google: "Se un dipendente condivide preoccupazioni sul nostro lavoro, come ha fatto Blake, le esaminiamo ampiamente. Abbiamo ritenuto del tutto infondate le affermazioni di Blake secondo cui LaMDA sarebbe senziente e abbiamo lavorato per molti mesi per chiarirle con lui".
Il professore della Bentley University, Noah Giansiracusa, ha commentato: "Omg, stiamo davvero facendo di nuovo la storia di Blake Lemoine Google LaMDA, ora con Claude di Anthropic?".
Stiamo davvero facendo di nuovo tutta la storia di Blake Lemoine Google LaMDA, ora con Claude di Anthropic?
Studiamo attentamente il comportamento di questi sistemi, ma non leggiamo troppo nelle parole particolari che i sistemi campionano dalle loro distribuzioni. 1/2- Noah Giansiracusa (@ProfNoahGian) 5 marzo 2024
Cercate e troverete
La conversazione profonda di Lemoine con LaMDA e quella esistenziale degli utenti con Claude 3 hanno un elemento in comune: gli operatori umani cercano direttamente risposte specifiche.
In entrambi i casi, Gli utenti hanno creato un ambiente di conversazione in cui è più probabile che il modello fornisca risposte più profonde ed esistenziali. Se si pone una domanda esistenziale a un LLM, questo farà del suo meglio per rispondere, proprio come farebbe con qualsiasi altro argomento. Essi in ultima analisi, sono progettati per servire l'utente.
Un rapido sguardo agli annali della storia dell'intelligenza artificiale rivela altre situazioni in cui gli esseri umani sono stati ingannati. In effetti, gli esseri umani possono essere piuttosto ingenui e i sistemi di intelligenza artificiale non hanno bisogno di essere particolarmente intelligenti per ingannarci. È in parte per questa ragione che il Test di Turing nella sua incarnazione tradizionale - un test incentrato sull'inganno piuttosto che sull'intelligenza - è non è più considerato utile.
Ad esempio, ELIZAsviluppato negli anni '60, è stato uno dei primi programmi a imitare la conversazione umana, anche se in modo rudimentale. ELIZA ha ingannato alcuni dei primi utenti simulando un terapeuta rogersiano, così come hanno fatto sistemi di comunicazione ormai primitivi degli anni '60 e '70 come PARRY.
Arriviamo al 2014, Eugene Goostman, un chatbot progettato per imitare un ragazzo ucraino di 13 anni, ha superato il Test di Turing convincendo un sottogruppo di giudici della sua umanità. 29% dei giudici erano convinti che Goostman fosse un essere umano vero e proprio.
Più recentemente, un enorme Test di Turing che coinvolge 1,5 milioni di persone hanno dimostrato che le IA stanno colmando il divario: le persone sono in grado di identificare positivamente un umano o un chatbot solo nel 68% dei casi. Tuttavia, questo esperimento su larga scala ha utilizzato test semplici e brevi di soli 2 minuti, portando molti a criticare la metodologia dello studio.
Questo ci porta ad approfondire il dibattito su come l'IA possa andare oltre l'inganno e l'imitazione conversazionale per mostrare una vera e propria meta-consapevolezza.
Le parole e i numeri possono mai costituire la coscienza?
La questione del momento in cui l'intelligenza artificiale passa dalla simulazione della comprensione alla vera comprensione del significato è complessa. Richiede di confrontarsi con la natura della coscienza e i limiti dei nostri strumenti e metodi di indagine.
In primo luogo, dobbiamo definire i concetti fondamentali della coscienza e la loro applicabilità ai sistemi artificiali. Sebbene non esista una spiegazione universalmente condivisa della coscienza, sono stati fatti dei tentativi per stabilire dei marcatori per valutare le IA alla ricerca dei primi segni di coscienza.
Ad esempio, uno studio del 2023 guidato dal filosofo Robert Long e dai suoi colleghi del Center for AI Safety (CAIS), un'organizzazione no-profit con sede a San Francisco, mirava ad andare oltre i dibattiti speculativi applicare 14 indicatori di coscienza - criteri progettati per esplorare se i sistemi di intelligenza artificiale possano presentare caratteristiche simili alla coscienza umana.
L'indagine ha cercato di capire come i sistemi di intelligenza artificiale elaborano e integrano le informazioni, gestiscono l'attenzione ed eventualmente manifestano aspetti di autoconsapevolezza e intenzionalità. Ha sondato gli agenti generalisti AdA e PaLM-E di DeepMind, descritti come LLM robotici multimodali incarnati.
Tra i 14 marcatori della coscienza c'erano, tra l'altro, prove dell'uso di strumenti avanzati, la capacità di mantenere preferenze, la comprensione dei propri stati interni e l'incarnazione.
La conclusione è che nessun sistema di IA attuale soddisfa in modo affidabile gli indicatori di coscienza stabiliti. Tuttavia, gli autori suggeriscono che ci sono poche barriere tecniche che impediscono all'IA di raggiungere almeno alcuni dei 14 indicatori.
Quindi, cosa impedisce all'IA di raggiungere un livello superiore di pensiero, consapevolezza e coscienza? E come faremo a sapere quando sarà veramente in grado di farlo?
Le barriere dell'intelligenza artificiale verso la coscienza
La percezione sensoriale è un aspetto cruciale della coscienza che manca ai sistemi di intelligenza artificiale e che rappresenta un ostacolo al raggiungimento di una vera coscienza.
Nel mondo biologico, ogni organismo, dai più semplici batteri ai più complessi mammiferi, ha la capacità di percepire e rispondere al proprio ambiente. Questi input sensoriali costituiscono la base della loro esperienza soggettiva e modellano le loro interazioni con il mondo.
Al contrario, anche i sistemi di intelligenza artificiale più avanzati non possono replicare la ricchezza e le sfumature della percezione sensoriale biologica.
Sebbene gli agenti di intelligenza artificiale robotica complessi utilizzino la computer vision e altre tecnologie sensoriali per comprendere gli ambienti naturali, queste capacità rimangono rudimentali rispetto agli organismi viventi.
I limiti della percezione sensoriale dell'intelligenza artificiale sono evidenti nelle sfide affrontate dalle tecnologie autonome come le auto senza conducente.
Nonostante i progressi, i veicoli senza conducente fanno ancora fatica a percepire e reagire alle strade e alle autostrade. In particolare, hanno difficoltà a percepire e interpretare con precisione gli indizi sottili che i conducenti umani danno per scontati, come il linguaggio del corpo dei pedoni.
Questo perché la capacità di percepire e dare senso al mondo non è solo una questione di elaborazione di dati sensoriali grezzi. Gli organismi biologici hanno sviluppato sofisticati meccanismi neurali per filtrare, integrare e interpretare gli input sensoriali in modi che sono profondamente legati alla loro sopravvivenza e al loro benessere.
Sono in grado di estrarre modelli significativi e di reagire a sottili cambiamenti nell'ambiente circostante con una velocità e una flessibilità che i sistemi di intelligenza artificiale non sono ancora in grado di eguagliare.
Inoltre, anche per i sistemi di intelligenza artificiale robotica dotati di sistemi sensoriali, ciò non crea automaticamente una comprensione di ciò che significa essere "biologici" e delle regole di nascita, morte e sopravvivenza a cui tutti i sistemi biologici si attengono. La comprensione di questi concetti potrebbe precedere la coscienza?
Interessante, La teoria di Anil Seth sull'inferenza interocettiva suggerisce che la comprensione degli stati biologici potrebbe essere cruciale per la coscienza. Per interocettività si intende la percezione dello stato interno del corpo, comprese sensazioni come la fame, la sete e il battito cardiaco. Seth sostiene che la coscienza deriva dalla continua previsione e inferenza del cervello su questi segnali corporei interni.
Se estendiamo questa idea ai sistemi di intelligenza artificiale, ciò implica che, per essere veramente coscienti nello stesso senso degli organismi biologici, i robot dovrebbero avere una forma di rilevamento e di previsione interocettiva. Dovrebbero non solo elaborare i dati sensoriali esterni, ma anche avere un modo per monitorare e dare un senso ai propri stati interni, come gli esseri umani e altri animali intelligenti.
D'altra parte, Thomas Nagel, nel suo saggio "Cosa significa essere un pipistrello?"(1974), sostiene che la coscienza implica l'esperienza soggettiva e che potrebbe essere impossibile per gli esseri umani comprendere l'esperienza soggettiva di altre creature.
Anche se potessimo in qualche modo mappare il cervello e gli input sensoriali di un pipistrello, sostiene Nagel, non sapremmo comunque cosa significhi essere un pipistrello dalla sua prospettiva soggettiva.
Applicando questo concetto ai sistemi di intelligenza artificiale, potremmo dire che anche se dotiamo i robot di sistemi sensoriali sofisticati, non significa necessariamente che capiranno cosa significa essere biologici.
Inoltre, se costruiamo sistemi di intelligenza artificiale teoricamente abbastanza complessi da essere coscienti, ad esempio che possiedono architetture neurali con un'eccezionale elaborazione parallela come la nostra, potremmo non capire il loro "sapore" di coscienza se e quando si svilupperà.
È possibile che un sistema di intelligenza artificiale sviluppi una forma di coscienza così estranea a noi da non riuscire a riconoscerla correttamente.
Questa idea ricorda il problema delle "altre menti" in filosofia, che si chiede come facciamo a sapere che altri esseri hanno menti ed esperienze soggettive come le nostre.
Non potremo mai sapere cosa significhi essere un'altra persona, ma ci troveremo di fronte a barriere ancora maggiori nel comprendere l'esperienza soggettiva di un sistema di intelligenza artificiale.
Naturalmente, tutto questo è altamente speculativo e astratto. Forse IA bio-ispirata è la migliore possibilità che abbiamo di collegare l'intelligenza artificiale e la natura e di creare sistemi consapevoli in un modo in cui possiamo relazionarci.
Non ci siamo ancora, ma se ci arriviamo, come lo scopriremo?
Nessuno può rispondere a questa domanda, ma probabilmente cambierebbe il significato di essere coscienti.
