ChatGPT sembra essersi guastato, sputando risposte che vanno dall'eccentrico al nonsense.
L'allarme è iniziato martedì, quando gli utenti perplessi si sono riversati sul subreddit r/ChatGPT, condividendo le schermate delle bizzarre buffonate dell'IA.
Un utente ha riassunto la confusione dicendo: "Non sei solo tu, ChatGPT sta avendo un ictus".
La comunità è stata inondata di descrizioni del comportamento irregolare di ChatGPT, dicendo che sta "impazzendo", "fuori dai binari" e "vaneggiando".
Tra le crescenti discussioni su Reddit, un utente di nome z3ldafitzgerald ha condiviso la sua inquietante esperienza, affermando: "Mi ha dato la stessa identica sensazione di guardare qualcuno che perde lentamente la testa per psicosi o demenza. È la prima volta che qualcosa legato all'intelligenza artificiale mi fa venire i brividi".
Man mano che gli utenti si addentravano, gli incontri diventavano sempre più strani.
Un utente, perplesso dalla risposta di ChatGPT a una semplice domanda sui computer, ha screenshottato la risposta poetica ma confusa dell'intelligenza artificiale: "Fa questo come il buon lavoro di una rete d'arte per il paese, un topo di scienza, un facile sorteggio di pochi tristi, e infine, la casa globale dell'arte, solo in un lavoro nel resto totale".
Le speculazioni si sono moltiplicate.
Alcuni si sono chiesti se la "temperatura" dell'intelligenza artificiale (che controlla la casualità delle uscite) fosse stata alzata troppo, causando l'imprevedibilità delle sue uscite, mentre altri si sono chiesti se la colpa fosse dei recenti aggiornamenti o delle nuove funzioni.
Bisogna dire che l'impatto è stato per lo più benevolo, ma ha lasciato il dubbio che ci sia un "fantasma nella macchina". - a 'ombra di sé' in attesa di essere scatenato.
Riflettendo sull'incidente, la dottoressa Sasha Luccioni di Hugging Face ha sottolineato le vulnerabilità dell'affidarsi a sistemi di intelligenza artificiale chiusi.
Il dott. Luccioni ha aggiunto: "Le API black box possono rompersi in produzione quando uno dei loro componenti sottostanti viene aggiornato. Questo diventa un problema quando si costruiscono degli strumenti su queste API, e anche questi si rompono. È qui che l'open-source ha un grande vantaggio, consentendo di individuare e risolvere il problema!".
Lo scienziato cognitivo Gary Marcus ha sottolineato che le allucinazioni potrebbero non essere così divertenti se questi modelli fossero collegati alle infrastrutture critiche o ai sistemi di difesa.
"Il Grande Meltdown di ChatGPT è stato risolto. OpenAI ha detto qualcosa su cosa l'ha causato? Con la crescente dipendenza della società da questi strumenti, dovremmo insistere sulla trasparenza, soprattutto se questi strumenti finiscono per essere utilizzati nella difesa, nella medicina, nell'istruzione, nelle infrastrutture e così via".
Il Grande Meltdown di ChatGPT è stato risolto. OpenAI ha detto qualcosa su cosa l'ha causato?
Con la crescente dipendenza della società da questi strumenti, dovremmo insistere sulla trasparenza, soprattutto se questi strumenti finiscono per essere utilizzati nella difesa, nella medicina, nell'istruzione, nelle infrastrutture, ecc.
- Gary Marcus (@GaryMarcus) 21 febbraio 2024
Non è la prima volta che ChatGPT si comporta in questo modo.
Nel 2023, la qualità del GPT-4 sembrava misteriosamente si spostano e diminuiscono. OpenAI ha in qualche modo riconosciuto questo fatto, ma non ha dato l'impressione di sapere perché si sta verificando.
In seguito, alcuni hanno persino ipotizzato che ChatGPT soffriva di disturbo da affetti stagionali (SAD)Un ricercatore ha scoperto che il ChatGPT si comporta in modo diverso quando "pensa" che sia dicembre rispetto a quando "pensa" che sia maggio.
ChatGPT ci ricorda periodicamente la natura imprevedibile dell'IA. Non dovremmo dare per scontata la sua "obiettività".
Un caso di antropomorfizzazione?
Il comportamento irregolare di ChatGPT ha mostrato anche la nostra tendenza ad antropomorfizzare l'IA, attribuendo alla tecnologia caratteristiche, emozioni o intenzioni simili a quelle umane.
Le descrizioni dei suoi stravaganti risultati, come ChatGPT che "ha un ictus", "impazzisce" o "perde la testa", paragonano immediatamente il suo comportamento a noi stessi.
Poiché ChatGPT "cattura" gli errori e i comportamenti imprevedibili utilizzando il linguaggio naturale, ci inganna offrendo un'interpretazione umana.
Naturalmente, ChatGPT non è senziente e non "soffre" di alcuna forma di disturbo. Ci sarà una spiegazione razionale, anche se eccezionalmente complessa.
