Le groupe militant pour la sécurité de l'IA, PauseAI, a coordonné des manifestations mondiales pour demander une pause dans le développement de modèles d'IA plus puissants que le GPT-4.
Des manifestants se sont rassemblés lundi dans 14 villes du monde entier, dont New York, Londres, Sydney et São Paulo, pour sensibiliser le public aux risques potentiels de l'IA.
L'objectif déclaré de la manifestation selon Site web de PauseAI est de "convaincre les quelques personnes puissantes (ministres) qui se rendront au prochain sommet sur la sécurité de l'IA (le 22 mai) d'être les adultes dans la salle. C'est à nous de leur faire comprendre que les risques sont trop importants pour être ignorés, qu'ils sont les seuls à pouvoir régler le problème".
C'est en train de se passer. Notre deuxième manifestation internationale.https://t.co/FlF1y5jpO2 pic.twitter.com/RmOcRtbKiC
- PauseAI ⏸ (@PauseAI) 12 mai 2024
Le sommet de Séoul sur l'IA, qui se tiendra les 21 et 22 mai, est le suivi, six mois après, du sommet de l'UE sur l'IA. Sommet britannique sur la sécurité de l'IA qui s'est tenue en novembre dernier. L'enthousiasme initial pour la coopération internationale en matière de sécurité de l'IA semble s'estomper. plusieurs participants se retirent du prochain sommet.
PauseAI est pragmatique en reconnaissant que "nous ne pouvons pas attendre des pays ou des entreprises qu'ils risquent leur avantage concurrentiel en interrompant les entraînements à l'IA pendant une longue période si d'autres pays ou entreprises ne font pas de même. C'est pourquoi nous avons besoin d'une Pause mondiale".
Ils souhaitent que l'objectif principal du prochain sommet soit la création d'une agence internationale de sécurité de l'IA, semblable à l'AIEA. Ironiquement, il s'agit là d'un sujet qui OpenAI PDG Sam Altman a également suggéré.
Les manifestations de PauseAI appelant à l'arrêt des modèles plus avancés ont eu lieu le même jour que le lancement de la campagne de sensibilisation de l'Union européenne. OpenAI libéré GPT-4oLe GPT-4 est l'itération la plus rapide et la plus puissante de son modèle GPT-4.
Alors que les fans d'IA s'émerveillent des nouvelles capacités de GPT-4o, les manifestants de PauseAI sont moins enthousiastes face à la croissance exponentielle des nouveaux modèles d'IA.
Les sit-in, les pancartes et la distribution de tracts suffiront-ils à convaincre les dirigeants mondiaux de prendre les mesures significatives dont l'humanité a besoin, selon PauseAI ? La marche inexorable des progrès de l'IA peut-elle être arrêtée assez longtemps pour garantir la mise en place de garde-fous pour l'IA ?
PauseAI pense que c'est possible. Dans un billet publié sur X, le groupe déclare : "L'IAG n'est pas inévitable. Elle nécessite des hordes d'ingénieurs payés des millions de dollars. Elle nécessite une chaîne d'approvisionnement entièrement fonctionnelle et sans restriction pour le matériel le plus complexe. Il faut que chacun d'entre nous permette à ces entreprises de jouer avec notre avenir".
Les manifestations ont permis d'obtenir des mesures contre les OGM alimentaires, les armes nucléaires et le changement climatique. Mais les dangers inhérents à ces questions sont plus largement acceptés par les dirigeants mondiaux.
Les arguments concernant les futurs problèmes de sécurité de l'IA sont en concurrence avec l'enthousiasme croissant suscité par les avantages tangibles de l'IA dont l'humanité fait actuellement l'expérience.
Les manifestants de PauseAI atteindront-ils leur objectif et gagneront-ils la gratitude de l'humanité ? Leurs craintes se révéleront-elles finalement infondées ? Ou seront-ils ceux qui finiront par dire "Nous vous l'avions bien dit".
