L'IA est-elle en train d'acqu\u00e9rir un certain niveau de conscience ? Comment saurons-nous si et quand elle y parviendra ?<\/b><\/p>\n
Les grands mod\u00e8les de langage (LLM) peuvent s'engager dans des conversations r\u00e9alistes et g\u00e9n\u00e9rer du texte sur divers sujets, ce qui suscite des d\u00e9bats sur le moment o\u00f9 ils deviennent sensibles ou conscients - qui, bien que souvent li\u00e9s, sont des concepts distincts. <\/span><\/p>\n La sensibilit\u00e9 concerne principalement la sensation et la conscience, tandis que la conscience est plus complexe et plus vaste.\u00a0<\/span><\/p>\n Au d\u00e9but de cette ann\u00e9e, Microsoft, apr\u00e8s avoir test\u00e9 le GPT-4 d'OpenAI, <\/span>indiqu\u00e9<\/span><\/a> que le mod\u00e8le pr\u00e9sentait des \"\u00e9tincelles\" d'\"intelligence g\u00e9n\u00e9rale\" - un terme utilis\u00e9 pour d\u00e9finir une IA flexible et adaptable dot\u00e9e de capacit\u00e9s cognitives \u00e9lev\u00e9es.\u00a0<\/span><\/p>\n Plus controvers\u00e9 encore, Blake Lemoine, un ancien ing\u00e9nieur de Google, a affirm\u00e9 que l'IA LaMDA de Google avait atteint un niveau de sensibilit\u00e9. Lemoine a d\u00e9clar\u00e9 \u00e0 propos de LaMDA : \"Google pourrait appeler cela le partage d'une propri\u00e9t\u00e9 exclusive. J'appelle cela partager une discussion que j'ai eue avec l'un de mes coll\u00e8gues\" - ce \"coll\u00e8gue\" \u00e9tant le syst\u00e8me d'IA qui a exprim\u00e9 sa \"peur\" d'\u00eatre \"\u00e9teint\".\u00a0<\/span><\/p>\n Afin d'\u00e9tayer le d\u00e9bat sur la conscience de l'IA, une \u00e9quipe interdisciplinaire de chercheurs en philosophie, en informatique et en neurosciences a proc\u00e9d\u00e9 \u00e0 un examen approfondi des syst\u00e8mes d'IA les plus avanc\u00e9s du moment.\u00a0<\/span><\/p>\n Les <\/span>\u00e9tude<\/span><\/a>L'\u00e9quipe de l'\u00e9tude, dirig\u00e9e par Robert Long et ses coll\u00e8gues du Center for AI Safety (CAIS), une organisation \u00e0 but non lucratif bas\u00e9e \u00e0 San Francisco, a pass\u00e9 au crible de multiples th\u00e9ories sur la conscience humaine. Ils ont \u00e9tabli une liste de 14 \"propri\u00e9t\u00e9s indicatives\" qu'une IA consciente serait susceptible de pr\u00e9senter.\u00a0<\/span><\/p>\n Le CAIS est la m\u00eame organisation \u00e0 but non lucratif qui a propos\u00e9 huit projets de cr\u00e9ation de t\u00eates de b\u00e9tail. <\/span>Risques potentiels pour l'IA en juin<\/span><\/a>.\u00a0<\/span><\/p>\n Apr\u00e8s avoir analys\u00e9 leurs r\u00e9sultats, l'\u00e9quipe a finalement constat\u00e9 que les mod\u00e8les les plus complexes ne r\u00e9pondent pas \u00e0 pratiquement tous les tests de conscience auxquels ils ont \u00e9t\u00e9 soumis.<\/span><\/p>\n Les chercheurs ont \u00e9valu\u00e9 plusieurs mod\u00e8les d'IA, dont L'agent adaptatif de DeepMind (ADa)<\/a> et <\/span>PaLM-E<\/span><\/a>d\u00e9crit comme un LLM multimodal robotis\u00e9 et incarn\u00e9.\u00a0<\/span><\/p>\n