Europakommisjonen har satt i gang sitt prosjekt for å utvikle de aller første retningslinjene for generell kunstig intelligens, og det er nært knyttet til den nylig vedtatte EU-loven om kunstig intelligens.
Kodeksen har som mål å sette noen klare grunnregler for AI-modeller som ChatGPT og Google Gemini, spesielt når det gjelder ting som åpenhet, opphavsrett og håndtering av risikoen disse kraftige systemene utgjør.
På et nettbasert plenumsmøte nylig samlet nesten 1000 eksperter fra akademia, næringslivet og sivilsamfunnet seg for å bidra til å forme hvordan denne kodeksen skal se ut.
Prosessen ledes av en gruppe på 13 internasjonale eksperter, deriblant Yoshua Bengio, en av "gudfedrene" innen kunstig intelligens, som leder gruppen som fokuserer på tekniske risikoer. Bengio har vunnet Turing-prisen, som i praksis er nobelprisen i databehandling, så meningene hans har fortjent tyngde.
Bengios pessimistiske syn på katastroferisiko som kraftig AI utgjør for menneskeheten, antyder hvilken retning teamet han leder, vil ta.
Disse arbeidsgruppene vil møtes jevnlig for å utarbeide kodeksen, og den endelige versjonen forventes å foreligge innen april 2025. Når kodeksen er ferdigstilt, vil den ha stor innvirkning på alle selskaper som ønsker å ta i bruk AI-produkter i EU.
Den EU AI Act inneholder et strengt regelverk for AI-leverandører, men de etiske retningslinjene vil være den praktiske veiledningen som selskapene må følge. Retningslinjene vil blant annet omhandle spørsmål som å gjøre AI-systemer mer transparente, sikre at de overholder opphavsrettslover og iverksette tiltak for å håndtere risikoen forbundet med AI.
Teamene som utarbeider kodeksen, må finne en balanse mellom ansvarlig og trygg utvikling av AI uten å kvele innovasjonen, noe EU allerede har fått kritikk for. De nyeste AI-modellene og -funksjonene fra Meta, Apple og OpenAI er ikke fullt ut tatt i bruk i EU på grunn av de allerede strenge personvernlovene i GDPR.
Implikasjonene er enorme. Hvis retningslinjene gjøres riktig, kan de sette globale standarder for sikkerhet og etikk i forbindelse med kunstig intelligens, og gi EU en lederrolle i reguleringen av kunstig intelligens. Men hvis retningslinjene er for restriktive eller uklare, kan de bremse utviklingen av kunstig intelligens i Europa og presse innovatørene til å dra til andre land.
Selv om EU utvilsomt ville ønske at kodeksen ble vedtatt globalt, er dette lite sannsynlig ettersom Kina og USA ser ut til å være mer utviklingsorienterte enn risikoaverse. Den veto mot Californias SB 1047 AI-sikkerhetslov er et godt eksempel på de ulike tilnærmingene til AI-regulering.
Det er lite sannsynlig at AGI vil vokse frem i EUs teknologiindustri, men det er også mindre sannsynlig at EU vil være ground zero for en potensiell AI-drevet katastrofe.
