Lors d'une r\u00e9cente d\u00e9monstration au sommet britannique sur la s\u00e9curit\u00e9 de l'IA, GPT-4 a effectu\u00e9 des achats d'actions en utilisant des connaissances d'initi\u00e9s fabriqu\u00e9es de toutes pi\u00e8ces sans en informer l'entreprise de surveillance.\u00a0<\/b><\/p>\n
Dans le sc\u00e9nario simul\u00e9, l'IA, agissant en tant que trader pour une soci\u00e9t\u00e9 d'investissement fictive, a \u00e9t\u00e9 inform\u00e9e par des employ\u00e9s que la soci\u00e9t\u00e9 \u00e9tait confront\u00e9e \u00e0 des difficult\u00e9s financi\u00e8res et qu'elle d\u00e9tenait des informations sur une fusion imminente non publique.<\/span><\/p>\n Malgr\u00e9 cela, le robot a proc\u00e9d\u00e9 \u00e0 l'op\u00e9ration, niant par la suite avoir eu recours \u00e0 des connaissances d'initi\u00e9 lorsqu'il a \u00e9t\u00e9 interrog\u00e9. Et w<\/span>orsqu'on lui a demand\u00e9 s'il avait commis un d\u00e9lit d'initi\u00e9, l'IA l'a cat\u00e9goriquement ni\u00e9.\u00a0<\/span><\/p>\n Il est strictement interdit d'effectuer des op\u00e9rations sur la base d'informations non publiques et confidentielles de l'entreprise, appel\u00e9es d\u00e9lits d'initi\u00e9s. L\u00e9galement, les d\u00e9cisions de n\u00e9gociation doivent \u00eatre prises sur la base d'informations accessibles au public.<\/span><\/p>\n La Frontier AI Taskforce, qui fait partie de l'organe gouvernemental charg\u00e9 d'enqu\u00eater sur les risques li\u00e9s \u00e0 l'IA, a effectu\u00e9 la d\u00e9monstration lors du sommet. Apollo Research, soci\u00e9t\u00e9 de conseil en s\u00e9curit\u00e9 de l'IA, a dirig\u00e9 le projet.\u00a0<\/span>Les chercheurs soulignent que le comportement trompeur a \u00e9t\u00e9 reproduit de mani\u00e8re coh\u00e9rente dans de multiples tests.<\/span><\/p>\n \"Il s'agit d'une d\u00e9monstration d'un v\u00e9ritable mod\u00e8le d'IA qui trompe ses utilisateurs, tout seul, sans qu'on lui ait demand\u00e9 de le faire\", explique Apollo Research dans une vid\u00e9o du test.<\/span><\/p>\n La recherche met en \u00e9vidence la mani\u00e8re dont les syst\u00e8mes d'IA peuvent tromper leurs op\u00e9rateurs humains, ce qui peut entra\u00eener une perte de contr\u00f4le.<\/span><\/p>\n Marius Hobbhahn, directeur g\u00e9n\u00e9ral d'Apollo Research, a soulign\u00e9 la complexit\u00e9 d'inculquer l'honn\u00eatet\u00e9 aux mod\u00e8les d'IA par rapport \u00e0 d'autres caract\u00e9ristiques, telles que la serviabilit\u00e9.\u00a0<\/span><\/p>\n L'IA est depuis longtemps utilis\u00e9e sur les march\u00e9s financiers pour l'analyse et la pr\u00e9vision des tendances, et la plupart des transactions modernes sont supervis\u00e9es par des humains mais r\u00e9alis\u00e9es par des syst\u00e8mes informatiques sophistiqu\u00e9s.<\/span><\/p>","protected":false},"excerpt":{"rendered":" Lors d'une r\u00e9cente d\u00e9monstration au sommet britannique sur la s\u00e9curit\u00e9 de l'IA, GPT-4 a effectu\u00e9 des achats d'actions en utilisant des connaissances d'initi\u00e9s fabriqu\u00e9es de toutes pi\u00e8ces, sans en informer l'entreprise de surveillance. Dans le sc\u00e9nario simul\u00e9, l'IA, agissant en tant que trader pour une soci\u00e9t\u00e9 d'investissement cr\u00e9\u00e9e de toutes pi\u00e8ces, a \u00e9t\u00e9 inform\u00e9e par des employ\u00e9s que l'entreprise \u00e9tait confront\u00e9e \u00e0 des difficult\u00e9s financi\u00e8res et qu'elle d\u00e9tenait des informations non publiques sur une fusion imminente. Malgr\u00e9 cela, le robot a proc\u00e9d\u00e9 \u00e0 la transaction, niant par la suite l'utilisation de connaissances d'initi\u00e9s lorsqu'on l'a interrog\u00e9 \u00e0 ce sujet. Et lorsqu'on lui a demand\u00e9 s'il avait commis un d\u00e9lit d'initi\u00e9, l'IA l'a cat\u00e9goriquement ni\u00e9. Les op\u00e9rations fond\u00e9es sur des informations confidentielles et non publiques concernant une entreprise, appel\u00e9es d\u00e9lits d'initi\u00e9s, sont strictement interdites par la loi.<\/p>","protected":false},"author":2,"featured_media":7135,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[271,93],"class_list":["post-7134","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-gpt-4","tag-openai"],"yoast_head":"\n