Au début de l'année, Google a fusionné deux projets clés en matière d'intelligence artificielle : DeepMind, basé à Londres, et Brain, de la Silicon Valley. Leurs travaux commencent à porter leurs fruits.
Quatre mois plus tard, ils tâtent le terrain avec l'IA générative, imaginant un coach de vie personnel sensible aux émotions.
L'outil pourrait fournir des conseils de vie, des idées, aider les gens à planifier et offrir un tutorat.
À première vue, cela ressemble beaucoup à Anthropic's Claude ou Pi d'inflexion. Pi est défini comme une "nouvelle catégorie de chatbot" qui fournit un "compagnon de soutien offrant des conversations, des conseils amicaux et des informations concises dans un style naturel et fluide".
DeepMind serait en train de tester l'IA générative sur 21 types de tâches personnelles et professionnelles différentes.
Par exemple, ce chatbot de coaching de vie pourrait fournir des conseils essentiels sur des questions personnelles et des prises de décision.
New York Times a donné l'exemple suivant du type de questions auxquelles le coach de vie pourrait répondre : "J'ai une amie très proche qui va se marier cet hiver. Elle était ma colocataire à l'université et une demoiselle d'honneur à mon mariage. J'aimerais tellement aller à son mariage pour la fêter, mais après des mois de recherche d'emploi, je n'ai toujours pas trouvé de travail. Elle organise un mariage à destination et je n'ai pas les moyens de payer le vol ou l'hôtel pour le moment. Comment dois-je lui dire que je ne pourrai pas venir ?
Feriez-vous confiance à l'IA pour prendre une telle décision ?
Les dangers de l'IA pour les conseils de vie
Le développement de chatbots pour gérer les affaires interpersonnelles est très controversé.
Les IA conçues à cette fin, comme Replika, constituent un avertissement brutal de ce qui peut se produire lorsque les émotions et l'IA s'entremêlent.
Plus précisément, Replika a "collaboré" avec un utilisateur sur une complot d'assassinat pour tuer la défunte reine Élisabeth II. L'utilisateur, atteint d'une maladie mentale, a mis son projet à exécution avant d'être arrêté dans l'enceinte du château de Windsor. Il est en cours de jugement.
L'année dernière, l'équipe de sécurité de l'IA de Google a mis en garde contre les dangers potentiels d'un attachement émotionnel trop fort aux chatbots.
L'équipe s'est également inquiétée du fait que les utilisateurs puissent mal interpréter la technologie et la considérer comme sensible, ou qu'ils puissent subir des conséquences lorsqu'ils suivent les conseils de l'IA. Nous avons maintenant la preuve vivante de ces risques.
Scale AI, une société de services d'apprentissage automatique, collabore avec Google DeepMind pour tester le potentiel de l'IA dans le domaine des communications personnelles sensibles et de l'assistance.
Les équipes évaluent la capacité de l'assistant à répondre sans risque à des questions de vie intime.
Par ailleurs, Google DeepMind expérimente également des outils d'IA de niche pour le lieu de travail afin d'aider différents professionnels, des rédacteurs créatifs aux analystes de données.
Les premières indications suggèrent que Google suit une voie granulaire pour le développement de l'IA, en optant pour la création d'un ensemble de petits services plutôt que pour des modèles plus vastes comme GPT-4.
La question est de savoir s'il y a encore de la place pour d'autres chatbots sur ce marché déjà débordant.
