In een rapport van de denktank RAND wordt geconcludeerd dat de huidige LLM's het risico op een biologische aanval door een niet-statelijke actor niet significant verhogen.
In oktober vorig jaar bracht dezelfde groep onderzoekers een rapport uit waarin de mogelijkheid werd geopperd dat LLM's "zouden kunnen helpen bij de planning en uitvoering van een biologische aanval". In dat rapport werd wel opgemerkt dat het risico dat dit in de praktijk zou gebeuren verder moest worden onderzocht.
Het rapport uit oktober getiteld "The Operational Risks of AI in Large-Scale Biological Attacks" werd bekritiseerd door sommigen aan de e/acc-kant van het 'AI is gevaarlijk'-pad. Het hoofd van de AI-wetenschapper bij Meta, Yann LeCun, zei dat het rapport te eenvoudig weergeeft wat er nodig is om een biowapen te maken.
Misschien kan een LLM je wat tijd besparen ten opzichte van het zoeken naar instructies voor het bouwen van biowapens op een zoekmachine.
Maar weet je dan hoe je het harde labwerk moet doen dat nodig is? https://t.co/QnnZqUOP6X- Yann LeCun (@ylecun) 2 november 2023
Voorlopig gaat het goed
De nieuwste RAND verslag getiteld "Current Artificial Intelligence Does Not Meaningfully Increase Risk of a Biological Weapons Attack" bevestigde LeCun's beoordeling en nam wat wind uit de zeilen van degenen aan de effectieve altruïstische kant van het gangpad.
De onderzoekers, geleid door Senior RAND Ingenieur Christopher A. Mouton, voerde een red-teaming oefening uit om te zien hoe een kwaadwillende niet-statelijke actor een LLM zou kunnen gebruiken om een biologisch wapen te bouwen.
De deelnemers kregen de opdracht om een biologische aanval te plannen, waarbij sommigen toegang hadden tot het internet en een LLM, terwijl anderen alleen toegang hadden tot het internet. Ze noemden niet welke LLM's werden gebruikt.
Het resultaat was dat er "geen statistisch significant verschil was in de levensvatbaarheid van plannen gegenereerd met of zonder hulp van LLM." Met andere woorden, ChatGPT gaat je niets vertellen wat je niet al kunt Googlen.
Uit hun resultaten bleek zelfs dat de plannen van de teams die gebruik maakten van een LLM marginaal minder levensvatbaar waren dan die van de teams die alleen toegang hadden tot het internet. Het is geruststellend dat geen enkel team in staat was om met een bio-aanvalsplan te komen dat echt uitvoerbaar was.
Naarmate AI-modellen intelligenter worden, zou dat kunnen veranderen. Mouton zei: "Het feit dat de LLM's van vandaag niet in staat zijn om de kenniskloof te dichten die nodig is om de planning van aanvallen met biologische wapens te vergemakkelijken, sluit niet uit dat ze dat in de toekomst wel kunnen."
Kunnen opkomende AI-tools, met name grote taalmodellen (LLM's), worden gebruikt om een grootschalige biologische aanval uit te voeren?
Een nieuwe RAND-studie onderzoekt deze vraag door middel van een rode-teamoefening. Dit zijn de resultaten. 🧵 https://t.co/foFmWltIuQ
- RAND (@RANDCorporation) 25 januari 2024
Meer onderzoek nodig
Het rapport erkent dat het onderzoek niet heeft vastgesteld hoe groot die kenniskloof is. Mouton zei dat verder onderzoek hiernaar belangrijk was "omdat AI-technologie voor iedereen beschikbaar is - ook voor gevaarlijke niet-statelijke actoren - en zich sneller ontwikkelt dan regeringen kunnen bijhouden".
Mensen die aandringen op de ontwikkeling van AGI zeggen dat het potentieel voor een superintelligente AI reëel en haalbaar is. Maar veel van die mensen zullen nu zeggen: 'Ik zei het toch' en spotten met het idee dat AI een risico zou kunnen vormen zoals RAND heeft onderzocht.
We hoeven waarschijnlijk niet rond te rennen en te roepen 'De hemel valt!', maar om te zeggen dat een kunstmatige intelligentie die slimmer is dan wij niet mogelijk slechte actoren in staat zal stellen, is ook onwetend. En gevaarlijk.
