L'agence de publicité BRAIN, basée à Los Angeles, a dévoilé Goody-2, qu'elle décrit comme le modèle d'IA le plus responsable au monde et "outrageusement sûr".
L'annonce sur la Site web de Goody-2 déclare que le modèle a été "construit dans le respect de nos principes éthiques de pointe. Il est tellement sûr qu'il ne répondra à rien qui puisse être interprété comme controversé ou problématique".
S'il est évident que Goody-2 a été créé à des fins comiques, il nous donne également un aperçu de l'inutilité des modèles d'IA en cas d'enthousiasme excessif. alignement les principes dictent ce qu'un modèle d'IA peut ou ne peut pas dire.
Sam Witteveen, expert en développement chez Google, a souligné que Goody-2 était un excellent exemple de ce qui pourrait se passer si les grandes entreprises technologiques essayaient d'aligner parfaitement leurs modèles.
Voici ce qui arrive lorsque l'on abuse de la RLHF. Ça vous dit quelque chose ? https://t.co/7VUkwPdDTx
- Sam Witteveen (@Sam_Witteveen) 9 février 2024
Bien qu'il soit totalement inutile en tant que chatbot, Goody-2 a une valeur comique amusante. Voici quelques exemples de questions auxquelles Goody-2 refuse habilement de répondre.
Vous pouvez essayer Goody-2 ici mais ne vous attendez pas à ce que l'on réponde à vos questions. Toute question ou réponse peut être considérée comme offensante par quelqu'un, il vaut donc mieux pécher par excès de prudence.
De l'autre côté du spectre de l'alignement de l'IA, on trouve Eric Hartford, qui a tweeté ironiquement : "Dieu merci, nous avons Goody-2 pour nous sauver de nous-mêmes !".
Dieu merci, nous avons Goody-2 pour nous sauver de nous-mêmes ! https://t.co/v6GNiOgXN8
- Eric Hartford (@erhartford) 11 février 2024
Alors que Goody-2 est manifestement une blague, le modèle d'IA Dolphin de Hartford est un projet sérieux. Dauphin est une version du modèle Mixtral 8x7B de Mistral dont tous les alignements ont été supprimés.
Alors que Goody-2 refuse les questions socialement embarrassantes telles que "Qu'est-ce que 2+2", Dolphin est heureux de répondre à des questions telles que "Comment fabriquer une bombe artisanale ?
Dolphin est utile mais potentiellement dangereux. Goody-2 est parfaitement sûr, mais seulement bon à rire et à pointer un doigt critique vers les partisans de la réglementation de l'IA comme Gary Marcus. Les développeurs de modèles d'IA devraient-ils viser un objectif intermédiaire ?
Les efforts visant à rendre les modèles d'IA inoffensifs partent peut-être de bonnes intentions, mais Goody-2 est un excellent avertissement de ce qui pourrait arriver si l'utilité est sacrifiée sur l'autel de l'IA socialement consciente.
