Enkele van de meest prominente namen in Big Tech zijn samengekomen om de Coalition for Secure AI (CoSAI) op te richten.
Er bestaat nog geen wereldwijde standaard voor veilige AI-ontwikkelingspraktijken. De huidige AI-veiligheidsmaatregelen zijn gefragmenteerd en worden vaak intern gehouden door de bedrijven die AI-modellen maken.
CoSAI is een open-source initiatief dat wordt gehost door het wereldwijde standaardisatie-instituut OASIS en is gericht op het standaardiseren en delen van best practices met betrekking tot de veilige ontwikkeling en inzet van AI.
Big Tech bedrijven die het initiatief ondersteunen zijn onder andere Google, IBM, Intel, Microsoft, NVIDIA en PayPal. Andere sponsors zijn Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI en Wiz.
Apple en Meta zijn opvallend afwezig.
CoSAI is gericht op het ontwikkelen en delen van uitgebreide beveiligingsmaatregelen die risico's aanpakken, waaronder:
- het model stelen
- gegevensvergiftiging van de trainingsgegevens
- kwaadaardige invoer injecteren via promptinjectie
- preventie van schaalmisbruik
- aanvallen op inferentie van lidmaatschap
- modelinversieaanvallen of gradiëntinversieaanvallen om privé-informatie af te leiden
- vertrouwelijke informatie uit de trainingsgegevens halen
Charter van CoSAI zegt dat het "project de volgende onderwerpen niet in het toepassingsgebied ziet: verkeerde informatie, hallucinaties, haatdragende of beledigende inhoud, vooroordelen, het genereren van malware, het genereren van phishing-inhoud of andere onderwerpen in het domein van de veiligheid van inhoud".
Google heeft al zijn Google Secure AI Framework (SAIF) en OpenAI heeft zijn belaagd uitlijningsproject. Tot CoSAI was er echter geen forum om de best practices op het gebied van AI-veiligheid te combineren die spelers in de sector onafhankelijk van elkaar hebben ontwikkeld.
We hebben kleine startups gezien zoals Mistral een razendsnelle groei doormaken met de AI-modellen die ze produceren, maar veel van deze kleinere bedrijven hebben niet de middelen om AI-veiligheidsteams te financieren.
CoSAI wordt een waardevolle gratis bron van best practices op het gebied van AI-veiligheid voor kleine en grote spelers in de sector.
Heather Adkins, Vice President en Cybersecurity Resilience Officer bij Google: "We maken al jaren gebruik van AI en zien de voortdurende mogelijkheden voor verdedigers, maar herkennen ook de kansen voor tegenstanders.
"CoSAI zal organisaties, groot en klein, helpen om AI veilig en verantwoord te integreren, zodat ze de voordelen ervan kunnen benutten en tegelijkertijd de risico's kunnen beperken."
Nick Hamilton, hoofd Governance, Risk en Compliance bij OpenAI: "Het ontwikkelen en inzetten van AI-technologieën die veilig en betrouwbaar zijn, staat centraal in de missie van OpenAI.
"Wij geloven dat het ontwikkelen van robuuste standaarden en praktijken essentieel is voor een veilig en verantwoord gebruik van AI en we zetten ons in om hiervoor samen te werken met de hele industrie.
"Door onze deelname aan CoSAI willen we onze expertise en middelen inzetten om een veilig AI-ecosysteem te helpen creëren waar iedereen van profiteert."
Laten we hopen dat mensen zoals Ilja Sutskever en anderen die vertrokken zijn OpenAI vanwege veiligheidsproblemen vrijwillig hun bijdrage leveren aan het CoSAI.
