Un gruppo di scienziati di spicco ha lanciato un'iniziativa volontaria che delinea una serie di valori, principi e impegni per la progettazione di proteine AI.
Il lettera discute il potenziale abuso di strumenti di intelligenza artificiale in grado di progettare nuove proteine con una velocità e un'efficienza senza precedenti.
Se da un lato l'Intelligenza Artificiale è molto promettente per affrontare le sfide globali più urgenti, dalla risposta alle pandemie alle soluzioni energetiche sostenibili, dall'altro solleva interrogativi sulla possibilità di un uso malevolo, come la creazione di nuove armi biologiche.
Mentre le proteine progettate dal sistema AlphaFold di DeepMind e successivamente dai ricercatori dell'Università di Washington hanno dimostrato un'elevata affinità e specificità nei confronti dei bersagli previsti, c'è sempre la possibilità che queste proteine possano interagire con altre molecole dell'organismo in modi inaspettati.
Questo potrebbe portare a effetti collaterali negativi o addirittura allo sviluppo di nuove malattie.
Un altro rischio è il potenziale uso improprio o doloso di questa tecnologia. Così come le proteine progettate dall'intelligenza artificiale possono essere utilizzate per creare terapie altamente mirate, potrebbero anche essere progettate per causare danni.
Ad esempio, un attore malintenzionato potrebbe progettare una proteina che si rivolge a un gruppo etnico specifico o che sfrutta una particolare vulnerabilità genetica.
Come osserva David Baker, biofisico computazionale dell'Università di Washington e figura chiave dell'iniziativa, "La domanda era: come, se in qualche modo, la progettazione delle proteine dovrebbe essere regolamentata e quali sono, se ci sono, i pericoli?".
Gli oltre 100 firmatari ritengono che "i vantaggi delle attuali tecnologie di IA per progettazione di proteine superano di gran lunga il potenziale di danno", ma riconoscono la necessità di un approccio proattivo alla gestione del rischio con il progredire della tecnologia.
L'intelligenza artificiale per la biologia ha il potenziale per contribuire a risolvere alcuni dei problemi più importanti della nostra società. L'apertura scientifica sarà fondamentale per il progresso del nostro settore. Come scienziati impegnati in questo lavoro, con oltre 90 firmatari in tutto il mondo, stiamo portando avanti un quadro... pic.twitter.com/4m81j87Vo9
- Alex Rives (@alexrives) 8 marzo 2024
Nella lettera si legge che "visti i progressi previsti in questo campo, potrebbe essere necessario un nuovo approccio proattivo alla gestione del rischio per mitigare il potenziale dello sviluppo di tecnologie di IA che potrebbero essere utilizzate in modo improprio, intenzionalmente o meno, per causare danni".
Firmato.
Una buona idea per la sicurezza nella progettazione di proteine (alimentate dall'IA o meno): regolamentare e controllare le macchine di sintesi proteica e il firmware, non la ricerca dell'IA stessa.
Si tratta di un'idea che ho promosso al vertice britannico sulla sicurezza dell'intelligenza artificiale. https://t.co/skcUUcgG5a- Yann LeCun (@ylecun) 8 marzo 2024
Come parte del iniziativaI ricercatori hanno articolato una serie di valori e principi per guidare lo sviluppo responsabile delle tecnologie AI nella progettazione delle proteine.
Questi includono "sicurezza, protezione, equità, collaborazione internazionale, apertura, responsabilità e perseguimento della ricerca a beneficio della società". I firmatari hanno inoltre concordato volontariamente una serie di impegni specifici e attuabili, basati su questi valori e principi.
Un aspetto chiave dell'iniziativa si concentra sul miglioramento dello screening della sintesi del DNA, un passaggio cruciale per tradurre le proteine progettate dall'intelligenza artificiale in molecole fisiche.
Gli scienziati si impegnano a "ottenere servizi di sintesi del DNA solo da fornitori che dimostrino di aderire alle pratiche di screening di biosicurezza standard dell'industria, che cercano di individuare biomolecole pericolose prima che possano essere prodotte".
I progressi dell'IA nella medicina e nella biotecnologia sono stati incredibili e hanno portato alla creazione di un'unica struttura. nuovi antibiotici e farmaci anti-invecchiamento.
Per portare avanti questi risultati, i firmatari si impegnano a "lavorare in collaborazione con le parti interessate di tutto il mondo" e ad "astenersi da ricerche che potrebbero portare a danni complessivi o consentire un uso improprio delle nostre tecnologie".
