Onderzoekers creëren vrijwillige veiligheidsregels voor AI-eiwitontwerp

9 maart 2024

Ai-eiwitten

Een groep vooraanstaande wetenschappers heeft een vrijwillig initiatief gelanceerd waarin een aantal waarden, principes en toezeggingen voor het ontwerpen van AI-eiwitten uiteen worden gezet. 

De brief bespreekt het mogelijke misbruik van AI-tools die in staat zijn om met ongekende snelheid en efficiëntie nieuwe eiwitten te ontwerpen. 

Hoewel AI een enorme belofte inhoudt voor het aanpakken van urgente wereldwijde uitdagingen, van pandemieën tot duurzame energieoplossingen, roept het ook vragen op over de mogelijkheid van kwaadwillig gebruik, zoals het creëren van nieuwe biowapens.

Terwijl de eiwitten die zijn ontworpen door DeepMind's AlphaFold-systeem en later door onderzoekers aan de University of Washington School of Medicine een hoge affiniteit en specificiteit voor hun beoogde doelen hebben aangetoond, bestaat altijd de mogelijkheid dat deze eiwitten op onverwachte manieren met andere moleculen in het lichaam interageren. 

Dit kan leiden tot nadelige bijwerkingen of zelfs de ontwikkeling van nieuwe ziekten.

Een ander risico is de mogelijkheid van misbruik of kwaadwillig gebruik van deze technologie. Net zoals AI-ontworpen eiwitten kunnen worden gebruikt om zeer gerichte therapieën te creëren, kunnen ze ook worden ontworpen om schade aan te richten. 

Een kwaadwillende actor kan bijvoorbeeld een eiwit ontwerpen dat gericht is op een specifieke etnische groep of misbruik maakt van een bepaalde genetische kwetsbaarheid. 

Zoals David Baker, een computationeel biofysicus aan de Universiteit van Washington en een sleutelfiguur achter het initiatief, opmerkt: "De vraag was: hoe, of op welke manier, moet eiwitontwerp worden gereguleerd en wat zijn eventueel de gevaren?".

De meer dan 100 ondertekenaars geloven dat "de voordelen van de huidige AI-technologieën voor eiwitontwerp veel zwaarder wegen dan de potentiële schade", maar erkennen de noodzaak van een proactieve benadering van risicobeheer naarmate de technologie voortschrijdt. 

In de brief staat dat "gezien de verwachte vooruitgang op dit gebied, een nieuwe proactieve benadering van risicobeheer nodig kan zijn om het potentieel te beperken van de ontwikkeling van AI-technologieën die, opzettelijk of anderszins, misbruikt kunnen worden om schade te berokkenen".

Als onderdeel van de initiatiefhebben onderzoekers een reeks waarden en principes geformuleerd die als leidraad moeten dienen voor de verantwoorde ontwikkeling van AI-technologieën bij het ontwerpen van eiwitten.

Deze omvatten "veiligheid, beveiliging, rechtvaardigheid, internationale samenwerking, openheid, verantwoordelijkheid en het nastreven van onderzoek ten voordele van de maatschappij". De ondertekenaars hebben ook vrijwillig ingestemd met een reeks specifieke, uitvoerbare verbintenissen op basis van deze waarden en principes.

Een belangrijk aspect van het initiatief richt zich op het verbeteren van de screening van DNA-synthese, een cruciale stap in het vertalen van door AI ontworpen eiwitten naar fysieke moleculen. 

De wetenschappers verbinden zich ertoe om "alleen DNA synthese diensten af te nemen van leveranciers die kunnen aantonen dat ze zich houden aan de industrienorm voor bioveiligheid screening praktijken, die erop gericht zijn om gevaarlijke biomoleculen op te sporen voordat ze vervaardigd kunnen worden".

De vooruitgang van AI in de geneeskunde en biotechnologie is ongelooflijk geweest en heeft geleid tot nieuwe antibiotica en geneesmiddelen tegen veroudering.

Om deze bevindingen verder te brengen, verbinden de ondertekenaars zich ertoe om "samen te werken met belanghebbenden van over de hele wereld" en "zich te onthouden van onderzoek dat waarschijnlijk zal leiden tot algemene schade of misbruik van onze technologieën mogelijk zal maken".

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Sam Jeans

Sam is een wetenschap- en technologieschrijver die bij verschillende AI-startups heeft gewerkt. Als hij niet aan het schrijven is, leest hij medische tijdschriften of graaft hij door dozen met vinylplaten.

×

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden