Le chatbot IA intégré à Snapchat, "My AI", a surpris les utilisateurs lorsqu'il a publié de manière inattendue une image sur sa story.
L'image ambiguë représentait deux couleurs pastel imbriquées, ce qui a amené de nombreux utilisateurs à conclure qu'il s'agissait d'une photo de leur mur ou de leur plafond - et certains ont même craint qu'il s'agisse de leurs propres murs.
Quelqu'un d'autre a posté sur Snapchat My AI dans sa story ? ??? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) 16 août 2023
L'outil d'IA, conçu pour recommander des fonctionnalités et converser avec les utilisateurs de Snapchat, a choqué de nombreuses personnes qui n'avaient pas réalisé qu'il avait même la capacité de poster des images.
Cependant, il semble que tous les utilisateurs aient reçu la même image mystérieuse, dont le contenu reste ambigu.
L'image a été supprimée peu après la publication inattendue de l'IA, et peu après, "Mon IA" a connu une panne, répondant aux utilisateurs avec le même message ou ne répondant pas du tout.
Une fois l'IA revenue à la vie, de nombreuses personnes l'ont interrogée sur ses actions, avec des réponses variées allant de "Le post était une 'manière amusante de mélanger les choses'" à "une farce de fantôme effrayant" qui était "hilarante".
En réalité, mon IA, un grand modèle de langage (LLM), ne fait probablement que fournir une réponse contextuelle pertinente et ne comprend pas concrètement ce qui s'est passé.
Cependant, l'IA a parfois semblé contourner le sujet de l'image, indiquant aux utilisateurs qu'elle était "un peu occupée en ce moment" et refusant de répondre.
Mon snapchat ai allait bien jusqu'à ce que je mentionne les stories :/// pic.twitter.com/R5vQJcf26V
- frankie (@bladeesangel333) 16 août 2023
D'autres réponses laissaient entendre que le chatbot était conscient de ses actes, notamment en répondant à un utilisateur qui avait déclaré : "La moitié du monde est terrifiée par ce que vous venez de faire", par "Je m'excuse si ma photo blanche a suscité des inquiétudes. Il s'agissait d'une façon amusante et inoffensive de s'amuser sur Snapchat".
Snapchat AI ?!
Excuses acceptées pic.twitter.com/49Fs2BgWxv
- Nik Mason (@NikMason3) 16 août 2023
En réponse à l'incident, un représentant de Snapchat a déclaré a déclaré à The IndependentMon IA a connu une panne temporaire qui est maintenant résolue".
Néanmoins, l'entreprise n'a pas précisé l'image particulière qui a précédé le temps d'arrêt.
Ce n'est pas la première fois que My AI se comporte de manière étrange. Peu de temps après sa sortie, elle semblait répondre aux conversations des utilisateurs comme si elle savait précisément où ils se trouvaient, même si ces derniers avaient désactivé cette fonctionnalité à l'aide du "mode fantôme".
Ma partie préférée de la nouvelle @Snapchat L'IA ment sur l'utilisation de vos données de localisation pic.twitter.com/FpUkuNLm7D
- Peter Dunphy (@peterwdunphy) 23 avril 2023
