De regering Biden heeft nog acht AI-bedrijven opgenomen in haar vrijwillige veiligheidskader.
Google, Anthropic, Microsoft, Amazon, OpenAI, Meta en Inflection hebben zich aangesloten bij het vrijwillige kader voor ethische AI-ontwikkeling en -implementatie van het Witte Huis. eind juli.
Deze week kondigde het Witte Huis aan dat Adobe, IBM, Nvidia, Salesforce, Cohere, Scale AI, Palantir en Stability zich bij hen hadden aangesloten.
Het kader van Biden moedigt bedrijven aan om veiligheidsprotocollen en beschermingsmaatregelen te delen, de mogelijkheden en beperkingen van hun AI-technologieën bekend te maken en AI te gebruiken om "de grootste maatschappelijke uitdagingen aan te pakken".
Deze verbintenis doet de wenkbrauwen fronsen aangezien sommige deelnemende bedrijven - met name Palantir - bekend staan om hun militaire AI-toepassingen en binnenlandse bewakingstechnologieën. Het bedrijf is berucht om zijn wereldwijde relaties met verschillende overheden en militaire organisaties.
Palantir CEO Alex Karp onlangs aangemoedigd de VS om AI in te zetten voor wapens en militaire technologie, en de luchtmacht heeft al voerde succesvolle testvluchten uit met een AI-gestuurde jet.
Karp, die in februari sprak op een top over AI-militaire technologie, gaf aan dat het bedrijf gegevensanalyse voor slagveldtoepassingen levert aan het Oekraïense leger. Desondanks stelde Karp dat een "architectuur die transparantie over de gegevensbronnen mogelijk maakt" "bij wet verplicht moet worden gesteld".
Tijdens een hoorzitting van de Senate Armed Services Committee merkte Palantir CTO Shyam Sankar op dat het stoppen van de ontwikkeling van AI de technologische suprematie van de VS ten opzichte van China in gevaar zou kunnen brengen. Hij benadrukte de noodzaak voor de VS om verder te investeren in "capaciteiten die onze tegenstanders de stuipen op het lijf jagen".
Critici suggereren dat het kader van het Witte Huis essentiële ethische overwegingen over het hoofd ziet, zoals de transparantie van generatieve AI-trainingsgegevens, die de meeste bedrijven achter slot en grendel bewaren.
Hoewel het Witte Huis aangaf dat er gewerkt wordt aan een uitvoerend bevel om "de rechten en veiligheid van Amerikanen te beschermen", zijn er geen verdere details vrijgegeven.
De complexiteit van ethische AI is niet beperkt tot Palantir. Andere grote techbedrijven zoals Google en Microsoft hebben hun deel van controverses gehad over militaire contracten.
Google ooit Project Maven geleideen initiatief om AI te gebruiken voor dronebewaking, maar stopte ermee na protesten van werknemers. Palantir heeft het project daarna opgepakt.
Op dit moment zijn de inspanningen van de regering Biden vooral gericht op niet-bindende aanbevelingen en uitvoeringsbesluiten.
Witte Huis stafchef Jeff Zeints vertelde aan Reuters dat de regering "aan elke hefboom trekt die we hebben" om de risico's van AI te beperken.
Ondertussen houdt Chuck Schumer, de leider van de meerderheid in de Senaat van de Verenigde Staten, een reeks "AI Insight Forums". plaats morgen, 13 september.
Het bereik van het vrijwillige kader van het Witte Huis wordt groter
Volgens een informatieblad van de overheid die het raamwerk dekt, dienen de toezeggingen van degenen die zich tot nu toe hebben aangesloten als een "belangrijke brug naar overheidsactie".
Bedrijven hebben ermee ingestemd om hun AI-systemen te onderwerpen aan strenge interne en externe veiligheidstests voordat ze openbaar worden gemaakt.
"Deze tests, die deels zullen worden uitgevoerd door onafhankelijke experts, beschermen tegen enkele van de belangrijkste bronnen van AI-risico's, zoals bioveiligheid en cyberveiligheid," verklaarde het Witte Huis.
De bedrijven verbinden zich er ook toe om informatie over het beheren van AI-risico's te delen binnen de sector en met overheden, maatschappelijke organisaties en de academische wereld.
Dit is gericht op het vormen van een samenwerkingsomgeving voor het verbeteren van AI-veiligheidsprotocollen en biedt een platform voor technische samenwerking bij het tegengaan van pogingen om beveiligingen te omzeilen.
"Bij het ontwikkelen van deze toezeggingen heeft de regering overlegd met Australië, Brazilië, Canada, Chili, Frankrijk, Duitsland, India, Israël, Italië, Japan, Kenia, Mexico, Nederland, Nieuw-Zeeland, Nigeria, de Filippijnen, Singapore, Zuid-Korea, de Verenigde Arabische Emiraten en het Verenigd Koninkrijk", onthulde het Witte Huis.
Er zijn andere initiatieven om de VS weerbaarder te maken tegen AI, zoals een wedstrijd met de naam "AI cyberuitdaging"in samenwerking met DARPA.
De AI-regelgeving lijkt in een stroomversnelling te komen naar een kritische massa, nu ook de EU op weg is naar de definitieve versie van haar AI-wet.
