De Europese Commissie heeft het startsein gegeven voor haar project om de allereerste AI-gedragscode voor algemene doeleinden te ontwikkelen en deze is nauw verbonden met de onlangs aangenomen EU-AI Act.
De Code is bedoeld om een aantal duidelijke basisregels op te stellen voor AI-modellen zoals ChatGPT en Google Gemini, vooral als het gaat om zaken als transparantie, auteursrecht en het beheren van de risico's die deze krachtige systemen met zich meebrengen.
Tijdens een recente online plenaire bijeenkomst kwamen bijna 1.000 experts uit de academische wereld, het bedrijfsleven en het maatschappelijk middenveld bijeen om te helpen vormgeven aan hoe deze Code eruit zal zien.
Het proces wordt geleid door een groep van 13 internationale experts, waaronder Yoshua Bengio, een van de 'godfathers' van AI, die de leiding heeft over de groep die zich richt op technische risico's. Bengio won de Turing Award, wat in feite de Nobelprijs voor informatica is, dus zijn mening heeft verdiend gewicht.
Bengio's pessimistische kijk op de catastrofaal risico die krachtige AI voor de mensheid in petto heeft, geeft een idee van de richting die het team dat hij leidt zal inslaan.
Deze werkgroepen zullen regelmatig bijeenkomen om de code op te stellen en de definitieve versie wordt in april 2025 verwacht. Zodra de Code is afgerond, zal deze een grote impact hebben op elk bedrijf dat zijn AI-producten in de EU wil implementeren.
De EU AI Act legt een strikt regelgevend kader vast voor AI-leveranciers, maar de Gedragscode zal de praktische gids zijn die bedrijven moeten volgen. De code behandelt zaken als het transparanter maken van AI-systemen, zorgen dat ze voldoen aan auteursrechtwetten en maatregelen nemen om de risico's van AI te beheersen.
De teams die de code opstellen zullen een balans moeten vinden tussen hoe AI op een verantwoorde en veilige manier wordt ontwikkeld, zonder innovatie in de kiem te smoren, iets waar de EU nu al om wordt bekritiseerd. De nieuwste AI-modellen en functies van Meta, Apple en OpenAI zijn niet volledig worden ingezet in de EU vanwege de al strenge GDPR privacywetgeving.
De implicaties zijn enorm. Als deze code goed wordt uitgevoerd, kan hij wereldwijde normen voor AI-veiligheid en -ethiek vaststellen, waardoor de EU een leidende rol krijgt in de manier waarop AI wordt gereguleerd. Maar als de code te beperkend of onduidelijk is, kan hij de ontwikkeling van AI in Europa afremmen en innovators naar elders drijven.
Hoewel de EU ongetwijfeld graag zou zien dat haar Code wereldwijd wordt overgenomen, is dit onwaarschijnlijk omdat China en de VS meer voor ontwikkeling dan voor risicomijdend lijken te zijn. De veto van SB 1047 AI-veiligheidswet in Californië is een goed voorbeeld van de verschillende benaderingen van AI-regulering.
Het is onwaarschijnlijk dat AGI voortkomt uit de technologische industrie in de EU, maar het is ook minder waarschijnlijk dat de EU het rampgebied is voor een potentiële AI-ramp.
