Des chercheurs du Meaning Alignment Institute ont propos\u00e9 une nouvelle approche, Moral Graph Elicitation (MGE), pour aligner les syst\u00e8mes d'IA sur les valeurs humaines.<\/b><\/p>\n
\u00c0 mesure que l'IA se perfectionne et s'int\u00e8gre dans notre vie quotidienne, il est primordial de veiller \u00e0 ce qu'elle serve et repr\u00e9sente tout le monde de mani\u00e8re \u00e9quitable. Cependant, l'IA<\/span>son <\/span>\u00e9tude<\/span><\/a> affirme que l'alignement de l'IA sur les objectifs de l'utilisateur ne suffit pas \u00e0 garantir la s\u00e9curit\u00e9.<\/span><\/p>\n \u00a0\"Les syst\u00e8mes d'IA seront d\u00e9ploy\u00e9s dans des contextes o\u00f9 l'adh\u00e9sion aveugle \u00e0 l'intention de l'op\u00e9rateur peut causer des dommages en tant que sous-produit. Cela est particuli\u00e8rement \u00e9vident dans les environnements o\u00f9 la dynamique de la concurrence est forte, comme les campagnes politiques ou la gestion d'actifs financiers\", affirment les chercheurs.\u00a0<\/span><\/p>\n En effet, les mod\u00e8les d'IA sont con\u00e7us pour servir l'utilisateur. Si l'utilisateur donne des instructions \u00e0 un mod\u00e8le \u00e0 des fins malveillantes, la volont\u00e9 du mod\u00e8le de servir l'utilisateur peut l'amener \u00e0 contourner les garde-fous et \u00e0 ob\u00e9ir.<\/p>\n Une solution consiste \u00e0 \"impr\u00e9gner\" l'IA d'une s\u00e9rie de valeurs qu'elle consulte \u00e0 chaque fois qu'elle est sollicit\u00e9e.<\/p>\n La question est de savoir d'o\u00f9 viennent ces valeurs. Et peuvent-elles repr\u00e9senter les citoyens de mani\u00e8re \u00e9quitable ?<\/p>\n \"Quelles sont les valeurs humaines et comment s'y aligner ?<\/p>\n Nous sommes tr\u00e8s heureux de publier notre nouveau document sur l'alignement des valeurs, co\u00e9crit avec @ryan_t_lowe<\/a> et financ\u00e9 par @openai<\/a>.<\/p>\n \ud83d\udcdd : https:\/\/t.co\/iioFKmrDZA<\/a> pic.twitter.com\/NSJa8dbcrM<\/a><\/p>\n - Joe Edelman (@edelwax) 29 mars 2024<\/a><\/p><\/blockquote>\n\n