Eine Gruppe führender Wissenschaftler hat eine freiwillige Initiative ins Leben gerufen, die eine Reihe von Werten, Grundsätzen und Verpflichtungen für das Design von KI-Proteinen festlegt.
Die Schreiben erörtert den potenziellen Missbrauch von KI-Tools, die in der Lage sind, neue Proteine mit noch nie dagewesener Geschwindigkeit und Effizienz zu entwickeln.
Die KI ist ein vielversprechender Ansatz für die Bewältigung dringender globaler Herausforderungen, von der Pandemiebekämpfung bis hin zu nachhaltigen Energielösungen, wirft aber auch die Frage nach der Möglichkeit eines böswilligen Einsatzes auf, z. B. zur Entwicklung neuartiger Biowaffen.
Während die von DeepMinds AlphaFold-System entworfenen Proteine und später von Forschern an der University of Washington School of Medicine eine hohe Affinität und Spezifität für die vorgesehenen Zielmoleküle gezeigt haben, besteht immer die Möglichkeit, dass diese Proteine mit anderen Molekülen im Körper auf unerwartete Weise interagieren.
Dies könnte zu unerwünschten Nebenwirkungen oder sogar zur Entwicklung neuer Krankheiten führen.
Ein weiteres Risiko ist die Möglichkeit des Missbrauchs oder der böswilligen Nutzung dieser Technologie. So wie KI-entwickelte Proteine zur Entwicklung hochgradig zielgerichteter Therapien eingesetzt werden können, könnten sie auch so konstruiert werden, dass sie Schaden anrichten.
So könnte ein böswilliger Akteur beispielsweise ein Protein entwickeln, das auf eine bestimmte ethnische Gruppe abzielt oder eine bestimmte genetische Schwachstelle ausnutzt.
David Baker, Biophysiker an der University of Washington und eine Schlüsselfigur hinter der Initiative, stellt fest: "Die Frage war: Wie, wenn überhaupt, sollte das Design von Proteinen reguliert werden, und was sind, wenn überhaupt, die Gefahren?"
Die über 100 Unterzeichner sind der Ansicht, dass "die Vorteile der aktuellen KI-Technologien für Proteindesign überwiegen bei weitem das Schadenspotenzial", erkennen jedoch die Notwendigkeit eines proaktiven Ansatzes für das Risikomanagement, da die Technologie voranschreitet.
KI für die Biologie hat das Potenzial, zur Lösung einiger der wichtigsten Probleme unserer Gesellschaft beizutragen. Wissenschaftliche Offenheit wird für den Fortschritt in unserem Bereich entscheidend sein. Als Wissenschaftler, die an dieser Arbeit beteiligt sind, mit mehr als 90 Unterzeichnern in der ganzen Welt, fördern wir einen Rahmen... pic.twitter.com/4m81j87Vo9
- Alex Rives (@alexrives) 8. März 2024
In dem Schreiben heißt es: "Angesichts der zu erwartenden Fortschritte in diesem Bereich könnte ein neuer proaktiver Risikomanagementansatz erforderlich sein, um das Potenzial der Entwicklung von KI-Technologien zu mindern, die absichtlich oder anderweitig missbraucht werden könnten, um Schaden anzurichten."
Unterschrieben.
Eine gute Idee für die Sicherheit bei der Entwicklung von Proteinen (mit oder ohne KI): Regulierung und Kontrolle der Proteinsynthesemaschinen und der Firmware, nicht der KI-Forschung selbst.
Für diese Idee habe ich auf dem UK AI Safety Summit geworben. https://t.co/skcUUcgG5a- Yann LeCun (@ylecun) 8. März 2024
Als Teil der Initiativeformulierten die Forscher eine Reihe von Werten und Grundsätzen, die die verantwortungsvolle Entwicklung von KI-Technologien im Proteindesign leiten sollen.
Dazu gehören "Sicherheit, Gleichberechtigung, internationale Zusammenarbeit, Offenheit, Verantwortung und die Forschung zum Nutzen der Gesellschaft". Die Unterzeichner haben sich außerdem freiwillig auf eine Reihe spezifischer, umsetzbarer Verpflichtungen geeinigt, die auf diesen Werten und Grundsätzen basieren.
Ein wichtiger Aspekt der Initiative ist die Verbesserung des Screenings der DNA-Synthese, ein entscheidender Schritt bei der Umsetzung von KI-entwickelten Proteinen in physische Moleküle.
Die Wissenschaftler verpflichten sich, "DNA-Synthesedienstleistungen nur von Anbietern zu beziehen, die nachweislich den Industriestandards entsprechende Biosicherheits-Screening-Praktiken anwenden, um gefährliche Biomoleküle zu erkennen, bevor sie hergestellt werden können".
Die Fortschritte der künstlichen Intelligenz in der Medizin und Biotechnologie sind unglaublich und haben zu neue Antibiotika und Anti-Aging-Medikamente.
Um diese Erkenntnisse voranzutreiben, verpflichten sich die Unterzeichner, "mit Interessenvertretern aus der ganzen Welt zusammenzuarbeiten" und "auf Forschungsarbeiten zu verzichten, die zu einem allgemeinen Schaden führen oder den Missbrauch unserer Technologien ermöglichen".
