L'OpenAI a r\u00e9cemment r\u00e9v\u00e9l\u00e9 que son conseil d'administration avait le pouvoir d'annuler les d\u00e9cisions prises par le PDG concernant la diffusion de nouveaux mod\u00e8les d'IA, m\u00eame si ceux-ci ont \u00e9t\u00e9 jug\u00e9s s\u00fbrs par la direction de l'entreprise.\u00a0<\/b><\/p>\n
Ces informations ont \u00e9t\u00e9 d\u00e9taill\u00e9es dans un ensemble de lignes directrices d\u00e9voil\u00e9es lundi, d\u00e9crivant la strat\u00e9gie de l'entreprise pour faire face aux risques extr\u00eames potentiels pos\u00e9s par ses syst\u00e8mes d'IA les plus avanc\u00e9s.\u00a0<\/span><\/p>\n Si l'\u00e9quipe dirigeante peut d\u00e9cider initialement de la mise en place d'un nouveau syst\u00e8me d'IA, le conseil d'administration conserve le droit de revenir sur ces d\u00e9cisions.<\/span><\/p>\n Sam Altman, PDG d'OpenAI, a \u00e9t\u00e9 d\u00e9mis de ses fonctions avant d'\u00eatre spectaculairement r\u00e9int\u00e9gr\u00e9, ce qui met en lumi\u00e8re une curieuse dynamique de pouvoir entre les directeurs et les cadres de l'entreprise.\u00a0<\/span><\/p>\n Dans la foul\u00e9e, de nombreuses personnes ont \u00e9mis l'hypoth\u00e8se que M. Altman n'avait pas accord\u00e9 une attention suffisante \u00e0 la s\u00e9curit\u00e9 des mod\u00e8les, qu'il avait \u00e9t\u00e9 \"emport\u00e9 par son travail\", pour ainsi dire. Des rapports ult\u00e9rieurs ont jet\u00e9 le doute sur cette hypoth\u00e8se, notamment celui de Brad Smith, pr\u00e9sident de Microsoft, <\/span>qui a d\u00e9clar\u00e9 qu'il lui semblait peu probable<\/span><\/a> que la s\u00e9curit\u00e9 \u00e9tait le motif principal.\u00a0<\/span><\/p>\n Il y avait aussi le fait qu'OpenAI avait re\u00e7u une \u00e9norme \u00e9valuation et que ses employ\u00e9s voulaient encaisser leurs options d'achat d'actions.\u00a0<\/span><\/p>\n Business Insider a all\u00e9gu\u00e9<\/span><\/a> que les employ\u00e9s d'OpenAI ont utilis\u00e9 leur lettre ouverte d\u00e9clarant qu'ils quitteraient l'entreprise si Altman n'\u00e9tait pas r\u00e9int\u00e9gr\u00e9 comme monnaie d'\u00e9change. Un employ\u00e9 a m\u00eame d\u00e9clar\u00e9 qu'il \u00e9tait un mauvais PDG, bien que ces rapports ne soient pas confirm\u00e9s.\u00a0<\/span><\/p>\n L'OpenAI a maintenant pris des mesures pour apaiser les craintes de ne pas prendre l'IA en toute s\u00e9curit\u00e9, en publiant tout d'abord les r\u00e9sultats de son nouveau projet \".<\/span>Exp\u00e9rience \"superalignement<\/span><\/a>\u00a0et en augmentant les \"pouvoirs\" de leur \u00e9quipe de \"pr\u00e9paration\".\u00a0<\/span><\/p>\n L'\u00e9quipe d'OpenAI <\/span>\u00e9quipe de pr\u00e9paration<\/span><\/a>dirig\u00e9e par Aleksander Madry, actuellement en cong\u00e9 du MIT, \u00e9value en permanence les syst\u00e8mes d'IA dans diverses cat\u00e9gories de risques, notamment la cybers\u00e9curit\u00e9 et les menaces li\u00e9es aux domaines chimique, nucl\u00e9aire et biologique.\u00a0<\/span><\/p>\n Cette \u00e9quipe a pour mission d'identifier et d'att\u00e9nuer tout danger important li\u00e9 \u00e0 la technologie. Selon les lignes directrices, les risques qualifi\u00e9s de \"catastrophiques\" peuvent entra\u00eener des dommages \u00e9conomiques substantiels ou de graves pr\u00e9judices pour de nombreuses personnes.<\/span><\/p>\n M. Madry a expliqu\u00e9 le processus en d\u00e9clarant : \"L'IA n'est pas quelque chose qui nous arrive par hasard et qui peut \u00eatre bon ou mauvais. C'est quelque chose que nous fa\u00e7onnons\". Il a \u00e9galement exprim\u00e9 l'espoir que d'autres entreprises adoptent les lignes directrices de l'OpenAI en mati\u00e8re d'\u00e9valuation des risques.\u00a0<\/span><\/p>\n Son \u00e9quipe, qui a \u00e9t\u00e9 constitu\u00e9e en octobre dans le cadre de trois groupes distincts charg\u00e9s de superviser la s\u00e9curit\u00e9 de l'IA au sein de l'OpenAI, \u00e9valuera les mod\u00e8les d'IA non diffus\u00e9s et classera les risques per\u00e7us comme \u00e9tant \"faibles\", \"moyens\", \"\u00e9lev\u00e9s\" ou \"critiques\". Seuls les mod\u00e8les class\u00e9s \"moyens\" ou \"faibles\" pourront \u00eatre diffus\u00e9s.<\/span><\/p>\n Nous syst\u00e9matisons notre r\u00e9flexion sur la s\u00e9curit\u00e9 gr\u00e2ce \u00e0 notre cadre de pr\u00e9paration, un document \u00e9volutif (actuellement en version b\u00eata) qui d\u00e9taille les investissements techniques et op\u00e9rationnels que nous adoptons pour assurer la s\u00e9curit\u00e9 du d\u00e9veloppement de nos mod\u00e8les d'avant-garde.https:\/\/t.co\/vWvvmR9tpP<\/a><\/p>\n - OpenAI (@OpenAI) 18 d\u00e9cembre 2023<\/a><\/p><\/blockquote>\n\n