La curiosité est le moteur de la recherche et du développement technologiques, mais alimente-t-elle et amplifie-t-elle les risques liés à l'IA elle-même ? Et que se passera-t-il si l'IA développe sa propre curiosité ?
Par Sam Jeans · 11 min de lecture
La semaine dernière, d'éminents scientifiques spécialisés en IA se sont réunis à Pékin lors du deuxième Dialogue international sur la sécurité de l'IA afin de convenir de ‘ lignes rouges ’ pour le développement de l'IA afin d'atténuer…
Par Eugène van der Watt · 3 min de lecture
Un rapport commandé par le gouvernement américain indique que de nouvelles mesures et politiques de sécurité en matière d'IA sont nécessaires pour prévenir une menace d'extinction de l'espèce humaine. Ce rapport…
Par Eugène van der Watt · 3 min de lecture
Des chercheurs ont mis au point une attaque de jailbreak appelée ArtPrompt, qui utilise l'art ASCII pour contourner les garde-fous d'un LLM. Si vous vous souvenez de l'époque où les ordinateurs ne pouvaient pas gérer les graphismes…
Par Eugène van der Watt · 2 min de lecture
Des utilisateurs de Copilot ont partagé des interactions troublantes avec l'assistant IA de Microsoft, en réponse à des messages faisant référence au chatbot sous le nom de “ SupremacyAGI ”. Copilot pourrait tout simplement…
Par Eugène van der Watt · 2 min de lecture
IBM Security a publié une étude sur son blog Security Intelligence montrant comment des clones vocaux d'IA pourraient être injectés dans une conversation en direct sans que les participants s'en rendent compte…
Par Eugène van der Watt · 2 min de lecture
Des chercheurs du Conseil national de recherches du Canada ont mené des expériences sur quatre grands modèles vision-langage (LVLM) afin de déterminer s'ils présentaient des biais raciaux et sexistes. Modèles d'IA…
Par Eugène van der Watt · 4 min de lecture
D'après une nouvelle étude, les chatbots dotés d'intelligence artificielle, notamment ceux développés par OpenAI, ont tendance à privilégier des tactiques agressives, y compris le recours à l'armement nucléaire. Les recherches menées…
Par Sam Jeans · 4 min de lecture
The RAND think tank published a report in October saying AI “might” help to build a bioweapon, and then published a subsequent report to say it…
Par Eugène van der Watt · 2 min de lecture
Fake AI-cloned voices made the news recently because of a “Biden” robocall, but ordinary people are being affected as the technology becomes more accessible and harder…
Par Eugène van der Watt · 3 min de lecture
