Un groupe de scientifiques de premier plan a lancé une initiative volontaire définissant un ensemble de valeurs, de principes et d'engagements pour la conception de protéines d'IA.
Les lettre examine les risques d'utilisation abusive des outils d'intelligence artificielle capables de concevoir de nouvelles protéines avec une rapidité et une efficacité sans précédent.
Si l'IA est extrêmement prometteuse pour relever les défis mondiaux urgents, de la réponse aux pandémies aux solutions énergétiques durables, elle soulève également des questions quant à la possibilité d'une utilisation malveillante, telle que la création de nouvelles armes biologiques.
Alors que les protéines conçues par le système AlphaFold de DeepMind et les plus tard par les chercheurs à la faculté de médecine de l'université de Washington ont démontré une affinité et une spécificité élevées pour les cibles visées, il est toujours possible que ces protéines interagissent avec d'autres molécules de l'organisme de manière inattendue.
Cela pourrait entraîner des effets secondaires indésirables, voire le développement de nouvelles maladies.
Un autre risque est celui d'une utilisation abusive ou malveillante de cette technologie. Tout comme les protéines conçues par l'IA peuvent être utilisées pour créer des thérapies très ciblées, elles pourraient également être conçues pour causer des dommages.
Par exemple, un acteur malveillant pourrait concevoir une protéine ciblant un groupe ethnique spécifique ou exploitant une vulnérabilité génétique particulière.
Comme le souligne David Baker, biophysicien informatique à l'université de Washington et figure clé de l'initiative, "la question était de savoir comment, le cas échéant, la conception des protéines devrait être réglementée et quels en sont les dangers éventuels".
Les plus de 100 signataires estiment que "les avantages des technologies actuelles de l'IA pour l'économie et la société". conception de protéines Les risques de dommages sont bien plus importants que les risques potentiels", mais ils reconnaissent la nécessité d'une approche proactive de la gestion des risques au fur et à mesure que la technologie progresse.
L'IA pour la biologie a le potentiel d'aider à résoudre certains des problèmes les plus importants auxquels notre société est confrontée. L'ouverture scientifique sera essentielle pour que notre domaine progresse. En tant que scientifiques engagés dans ce travail, avec plus de 90 signataires à travers le monde, nous avançons un cadre... pic.twitter.com/4m81j87Vo9
- Alex Rives (@alexrives) 8 mars 2024
La lettre indique que "compte tenu des progrès prévus dans ce domaine, une nouvelle approche proactive de la gestion des risques pourrait être nécessaire pour atténuer le potentiel de développement des technologies d'IA qui pourraient être utilisées à mauvais escient, intentionnellement ou non, pour causer des dommages".
Signé.
Une bonne idée pour la sécurité dans la conception des protéines (alimentée ou non par l'IA) : réglementer et contrôler les machines de synthèse des protéines et les microprogrammes, et non la recherche sur l'IA elle-même.
C'est une idée que j'ai défendue lors du sommet britannique sur la sécurité de l'IA. https://t.co/skcUUcgG5a- Yann LeCun (@ylecun) 8 mars 2024
Dans le cadre de la initiativeLes chercheurs ont formulé un ensemble de valeurs et de principes pour guider le développement responsable des technologies de l'IA dans la conception des protéines.
Il s'agit notamment de "la sûreté, la sécurité, l'équité, la collaboration internationale, l'ouverture, la responsabilité et la poursuite de la recherche au profit de la société". Les signataires ont également accepté de leur plein gré une série d'engagements spécifiques et réalisables fondés sur ces valeurs et principes.
L'un des principaux aspects de l'initiative consiste à améliorer le criblage de la synthèse de l'ADN, une étape cruciale pour transformer les protéines conçues par l'IA en molécules physiques.
Les scientifiques s'engagent à "n'obtenir des services de synthèse d'ADN qu'auprès de fournisseurs qui démontrent qu'ils respectent les pratiques de contrôle de biosécurité en vigueur dans l'industrie, qui visent à détecter les biomolécules dangereuses avant qu'elles ne puissent être fabriquées".
Les progrès de l'IA dans les domaines de la médecine et de la biotechnologie ont été tout à fait incroyables, conduisant à une amélioration de la qualité de la vie. nouveaux antibiotiques et les médicaments anti-âge.
Pour faire avancer ces conclusions, les signataires s'engagent à "travailler en collaboration avec les parties prenantes du monde entier" et à "s'abstenir de toute recherche susceptible d'entraîner un préjudice global ou de permettre une utilisation abusive de nos technologies".
