ChatGPT semble avoir eu un pépin, crachant des réponses allant de l'excentrique à l'absurde.
Le buzz a commencé le mardi, lorsque des utilisateurs perplexes ont afflué sur le subreddit r/ChatGPT, partageant des captures d'écran des bizarreries de l'IA.
Un utilisateur a résumé la confusion en disant : "Il n'y a pas que vous, ChatGPT est en train de faire une attaque".
La communauté a ensuite été inondée de descriptions du comportement erratique de ChatGPT, disant qu'il "devient fou", "déraille" et "divague".
Sur Reddit, un utilisateur nommé z3ldafitzgerald a fait part de son étrange expérience en déclarant : "J'ai ressenti exactement la même chose que lorsque je regarde quelqu'un perdre lentement la tête à cause d'une psychose ou d'une maladie neurodégénérative. C'est la première fois que quelque chose en rapport avec l'IA me donne vraiment la chair de poule".
Excusez-moi, mais qu'est-ce que...
paru/arabdudefr enChatGPT
Au fur et à mesure que les utilisateurs approfondissaient leurs recherches, les rencontres devenaient de plus en plus étranges.
Un utilisateur, déconcerté par la réponse de ChatGPT à une simple question sur les ordinateurs, a fait une capture d'écran de la réponse poétique mais confuse de l'IA : "Il fait cela comme le bon travail d'une toile d'art pour le pays, une souris de la science, un tirage facile d'un petit nombre triste, et enfin, la maison mondiale de l'art, juste dans un travail dans le reste total."
Suis-je en train de devenir fou ?
paru/Throwaway243228077 enChatGPT
Les spéculations allaient bon train.
Certains se sont demandé si la "température" de l'IA (qui contrôle le caractère aléatoire des résultats) n'avait pas été trop élevée, ce qui aurait entraîné des résultats imprévisibles, tandis que d'autres se sont demandé si des mises à jour récentes ou de nouvelles fonctionnalités n'étaient pas à blâmer.
On peut dire que l'impact a été en grande partie bénin, mais il a laissé une impression persistante de l'existence d'un "fantôme dans la machine - a 'l'ombre de soiqui n'attendent que d'être libérés.
Sasha Luccioni, de Hugging Face, a souligné les vulnérabilités liées à l'utilisation de systèmes d'intelligence artificielle fermés.
M. Luccioni a déclaré : "Les API "boîte noire" peuvent tomber en panne en production lorsque l'un de leurs composants sous-jacents est mis à jour. Le problème se pose lorsque vous créez des outils à partir de ces API et que ceux-ci tombent également en panne. C'est là que le logiciel libre présente un avantage majeur, car il permet de localiser et de résoudre le problème !
Gary Marcus, spécialiste des sciences cognitives, a souligné que les hallucinations ne seraient peut-être pas si amusantes si ces modèles étaient reliés à des infrastructures critiques ou à des systèmes de défense.
"Le grand effondrement du ChatGPT a été corrigé. OpenAI a-t-elle dit quoi que ce soit sur ce qui l'a causée ? La société étant de plus en plus dépendante de ces outils, nous devrions insister sur la transparence, surtout si ces outils finissent par être utilisés dans la défense, la médecine, l'éducation, l'infrastructure, etc.
Le problème du ChatGPT a été résolu. OpenAI a-t-elle dit quelque chose sur ce qui l'a causée ?
Compte tenu de la dépendance croissante de la société à l'égard de ces outils, nous devrions insister sur la transparence, en particulier si ces outils sont utilisés pour la défense, la médecine, l'éducation, les infrastructures, etc.
- Gary Marcus (@GaryMarcus) 21 février 2024
Ce n'est pas la première fois que ChatGPT adopte de tels comportements.
En 2023, la qualité de GPT-4 semble se déplacent et diminuent mystérieusement. OpenAI a quelque peu reconnu ce fait, mais n'a pas donné l'impression de savoir pourquoi cela se produisait.
Plus tard, certains ont même émis l'hypothèse que ChatGPT a souffert de troubles affectifs saisonniers (TAS)Un chercheur a constaté que le ChatGPT se comporte différemment lorsqu'il "pense" que nous sommes en décembre et lorsqu'il "pense" que nous sommes en mai.
ChatGPT rappelle périodiquement la nature imprévisible de l'IA. Nous ne devrions pas considérer son "objectivité" comme acquise.
Un cas d'anthropomorphisation ?
Le comportement erratique de ChatGPT montre également notre tendance à anthropomorphiser l'IA, en attribuant à la technologie des caractéristiques, des émotions ou des intentions semblables à celles de l'homme.
Les descriptions de ses résultats farfelus, tels que ChatGPT "ayant une attaque", "devenant fou" ou "perdant la tête", comparent immédiatement son comportement au nôtre.
Étant donné que ChatGPT "capture" les problèmes et les comportements imprévisibles en utilisant le langage naturel, il nous incite à proposer une interprétation humaine.
Bien entendu, le ChatGPT n'est pas sensible et ne "souffre" d'aucune forme de maladie. Il y aura une explication rationnelle, bien qu'exceptionnellement complexe.
