OpenAI a nommé l'ancien chef de la NSA et général à la retraite Paul Nakasone à son conseil d'administration. Les opinions de M. Nakasone sur la collecte de renseignements ont suscité l'inquiétude des défenseurs des libertés civiles.
L'OpenAI a été sévèrement critiquée pour son approche de la sécurité de l'IA dans le sillage de l'affaire du l'effondrement de son équipe de superalignement et l'exode des experts en sécurité.
Depuis, elle a mis en place son Comité de sécurité et de sûretéqui bénéficiera de l'expertise considérable de M. Nakasone dans le cadre de ses efforts visant à utiliser l'IA pour lutter contre la cybercriminalité.
Bret Taylor, président du conseil d'administration de l'OpenAI, a déclaré : "L'intelligence artificielle a le potentiel d'avoir un impact positif énorme sur la vie des gens, mais elle ne peut atteindre ce potentiel que si ces innovations sont construites et déployées en toute sécurité. L'expérience inégalée du général Nakasone dans des domaines tels que la cybersécurité aidera l'OpenAI à accomplir sa mission, qui est de veiller à ce que l'intelligence artificielle générale profite à l'ensemble de l'humanité".
Préoccupations en matière de protection de la vie privée
M. Nakasone jouit d'une réputation irréprochable, mais ses opinions sur la collecte de renseignements font l'objet d'un examen plus approfondi dans le cadre de ses nouvelles fonctions.
Alors qu'il était directeur de la NSA, il a écrit un article d'opinion publié dans le Washington Post dans lequel il soutenait le renouvellement de la section 702 de la loi sur la surveillance du renseignement étranger.
La section 702 définit les paramètres de la collecte de renseignements sur des personnes non américaines tout en protégeant la vie privée des citoyens américains.
Bien que la section 702 vise les personnes non américaines se trouvant en dehors des États-Unis, elle entraîne souvent la collecte accessoire de communications impliquant des personnes américaines.
Les critiques soutiennent que cette collecte accidentelle peut conduire à la collecte de quantités substantielles de données sur les citoyens américains sans mandat.
M. Nakasone a déclaré : "Nous avions également besoin d'un moyen raisonnable de travailler avec les entreprises technologiques américaines dont les services sont de plus en plus exploités par des terroristes et d'autres acteurs hostiles à l'étranger pour comploter contre nous. C'est précisément ce que le Congrès a prévu en 2008 en créant la section 702.
Il siège aujourd'hui au conseil d'administration de l'une de ces entreprises.
En 2023, Nakasone a publié une directive à la division SIGINT (signals intelligence) de la NSA, qui est responsable de la surveillance secrète et de la collecte de données dans le monde entier.
La directive stipule que toutes les personnes doivent être traitées avec "dignité et respect", mais indique ensuite comment les espionner.
La directive précise que "la NSA ne doit procéder à des collectes massives que lorsqu'il est déterminé qu'elles sont nécessaires pour faire avancer une priorité validée en matière de renseignement".
Lorsque la directive a été rendue publique, Evan Greer, directeur du groupe de défense des droits numériques Fight for the Future, a déclaré à The InterceptC'est comme si la CIA publiait une déclaration indiquant qu'à l'avenir, elle ne pratiquerait la waterboarding qu'avec dignité et respect. La surveillance de masse est fondamentalement incompatible avec les droits de l'homme et la démocratie.
OpenAI bénéficiera sans aucun doute de l'expérience de Nakasone en matière de protection de ses serveurs et de ses poids contre les regards indiscrets.
Mais on peut se demander quel impact cette décision pourrait avoir sur les utilisateurs de ChatGPT si l'un des anciens collègues de Nakasone au sein de la NSA lui demande une faveur.
