Un rapporto del think tank RAND ha concluso che gli attuali LLM non aumentano significativamente il rischio di un attacco biologico da parte di un attore non statale.
Nell'ottobre dello scorso anno, lo stesso gruppo di ricercatori ha pubblicato un rapporto che sollevava la possibilità che i LLM "potessero contribuire alla pianificazione e all'esecuzione di un attacco biologico". In quel rapporto si osservava che il rischio che ciò avvenisse nella pratica necessitava di ulteriori ricerche.
Il rapporto di ottobre, intitolato "The Operational Risks of AI in Large-Scale Biological Attacks" (I rischi operativi dell'IA negli attacchi biologici su larga scala), è stato criticato da alcuni esponenti del fronte "IA è pericolosa". Il Chief AI Scientist di Meta Yann LeCun ha affermato che il rapporto semplifica eccessivamente ciò che serve per creare un'arma biologica.
Forse un master in Lettere può farvi risparmiare un po' di tempo, rispetto alla ricerca di istruzioni per la costruzione di armi biologiche su un motore di ricerca.
Ma poi, sapete come fare il duro lavoro di laboratorio che è necessario? https://t.co/QnnZqUOP6X- Yann LeCun (@ylecun) 2 novembre 2023
Per ora siamo a posto
L'ultimo rapporto RAND rapporto intitolato "Current Artificial Intelligence Does Not Meaningfully Increase Risk of a Biological Weapons Attack" (L'attuale intelligenza artificiale non aumenta significativamente il rischio di un attacco con armi biologiche) ha confermato la valutazione di LeCun e ha tolto un po' di vento alle vele di coloro che si trovano dalla parte dell'altruismo effettivo.
I ricercatori, guidati dal Senior RAND L'ingegnere Christopher A. Mouton ha condotto un'esercitazione di red-teaming per vedere come un attore non statale malintenzionato potrebbe usare un LLM per costruire un'arma biologica.
I partecipanti avevano il compito di pianificare un attacco biologico: alcuni avevano accesso a Internet e a un LLM, mentre altri avevano accesso solo a Internet. Non sono stati indicati i nomi degli LLM utilizzati.
Il risultato è stato che non c'era "alcuna differenza statisticamente significativa nella fattibilità dei piani generati con o senza l'assistenza di LLM". In altre parole, ChatGPT non vi dirà nulla che non possiate già trovare su Google.
In effetti, i risultati hanno mostrato che i piani sviluppati dalle squadre che hanno utilizzato un LLM erano marginalmente meno fattibili di quelli che avevano accesso solo a Internet. È confortante che nessuna squadra sia stata in grado di proporre un piano di attacco biologico che fosse effettivamente realizzabile.
Con l'aumento dell'intelligenza dei modelli di intelligenza artificiale, la situazione potrebbe cambiare. Mouton ha dichiarato: "Il fatto che i LLM di oggi non siano in grado di colmare il divario di conoscenza necessario per facilitare la pianificazione di attacchi con armi biologiche non preclude la possibilità che possano esserlo in futuro".
Gli strumenti emergenti dell'AI, in particolare i modelli linguistici di grandi dimensioni (LLM), possono essere utilizzati per lanciare un attacco biologico su larga scala?
Un nuovo studio RAND esplora questa domanda attraverso un esercizio di squadra rossa. Ecco i risultati. 🧵 https://t.co/foFmWltIuQ
- RAND (@RANDCorporation) 25 gennaio 2024
Sono necessarie ulteriori ricerche
Il rapporto riconosce che la ricerca non ha determinato l'entità di questa lacuna di conoscenza. Mouton ha affermato che ulteriori ricerche in merito sono importanti "perché la tecnologia dell'IA è a disposizione di tutti, compresi i pericolosi attori non statali, e sta avanzando più velocemente di quanto i governi possano tenere il passo".
Persone che spingono per lo sviluppo di AGI affermano che il potenziale di un'IA superintelligente è reale e realizzabile. Ma molte di queste persone saranno quelle che ora diranno "te l'avevo detto" e si faranno beffe dell'idea che l'IA possa rappresentare un rischio come quello studiato da RAND.
Probabilmente non è il caso di andare in giro a gridare "Il cielo sta cadendo!", ma affermare che un'intelligenza artificiale più intelligente di noi non possa potenzialmente consentire l'ingresso di cattivi attori è altrettanto ignorante. E pericoloso.
