{"id":9513,"date":"2024-01-26T13:06:16","date_gmt":"2024-01-26T13:06:16","guid":{"rendered":"https:\/\/dailyai.com\/?p=9513"},"modified":"2024-01-28T05:47:37","modified_gmt":"2024-01-28T05:47:37","slug":"can-we-increase-visibility-into-ai-agents-to-make-them-safer","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2024\/01\/can-we-increase-visibility-into-ai-agents-to-make-them-safer\/","title":{"rendered":"Peut-on am\u00e9liorer la visibilit\u00e9 des agents d'IA pour les rendre plus s\u00fbrs ?"},"content":{"rendered":"

Les agents d'intelligence artificielle accomplissent des t\u00e2ches complexes et orient\u00e9es vers un but pr\u00e9cis avec une supervision limit\u00e9e. Une \u00e9quipe de chercheurs a propos\u00e9 trois mesures susceptibles d'accro\u00eetre la visibilit\u00e9 des agents d'IA afin de les rendre plus s\u00fbrs.<\/strong><\/p>\n

La plupart des gens pensent \u00e0 l'IA en termes de chatbot, comme ChatGPT. Vous lui envoyez un texte et il g\u00e9n\u00e8re une r\u00e9ponse. L'\u00e9volution vraiment passionnante de l'IA est de la voir d\u00e9ploy\u00e9e en tant qu'agent, un syst\u00e8me capable d'ex\u00e9cuter des t\u00e2ches de mani\u00e8re autonome pour atteindre un objectif final.<\/p>\n

Un exemple simple est le Lapin R1<\/a> qui peut utiliser l'IA comme agent pour naviguer sur le web et r\u00e9server un vol pour un utilisateur. Ces agents n'ont qu'un contr\u00f4le limit\u00e9 sur la mani\u00e8re dont ils accomplissent leurs t\u00e2ches ou sur les autres agents avec lesquels ils interagissent pour atteindre leurs objectifs.<\/p>\n

Les chercheurs ont \u00e9tudi\u00e9 les risques potentiels pos\u00e9s par les agents d'IA ainsi que la mani\u00e8re de les att\u00e9nuer en am\u00e9liorant la visibilit\u00e9 sur le lieu, la raison, le mode et l'utilisateur de certains agents d'IA.<\/p>\n

Les auteurs de la papier<\/a> \u00e9taient issus de l'Institut qu\u00e9b\u00e9cois de l'IA, de l'Universit\u00e9 de Harvard, de la Harvard Law School, de l'Universit\u00e9 d'Oxford, de la Cooperative AI Foundation, de l'Universit\u00e9 de Cambridge et de l'Universit\u00e9 de Toronto.<\/p>\n

Risques li\u00e9s aux agents d'IA<\/h2>\n

Si un agent d'IA se voit assigner un objectif \u00e0 optimiser, il pourrait prendre des raccourcis \u00e9thiques ou juridiques pour atteindre son but ou agir d'une mani\u00e8re qui pourrait causer un pr\u00e9judice substantiel s'il n'y a pas d'\u00eatre humain dans la boucle.<\/p>\n

Les chercheurs ont identifi\u00e9 cinq risques principaux associ\u00e9s \u00e0 des agents d'IA mal supervis\u00e9s.<\/p>\n