Oppsummering av første dag av Storbritannias toppmøte om AI-sikkerhet

I dag gikk startskuddet for Storbritannias AI Safety Summit, der politikere, teknologisjefer, forskere og medlemmer av sivile interessegrupper inntok den historiske Bletchley Park.

Den britiske regjeringen presenterte "Bletchley-erklæringen", som fikk støtte fra representanter fra 28 ulike land, deriblant USA og Kina. 

Den erklæring fremhevet de alvorlige risikoene forbundet med de mest avanserte "frontier" AI-systemene, og uttalte utvetydig "Det er potensial for alvorlige, til og med katastrofale skader, enten de er tilsiktet eller utilsiktet, som følge av de mest betydningsfulle egenskapene til disse AI-modellene."

Dokumentet understreket også den globale karakteren til risikoer knyttet til kunstig intelligens og nødvendigheten av internasjonalt samarbeid for å håndtere disse utfordringene: "Mange av risikoene som oppstår som følge av kunstig intelligens, er i sin natur internasjonale, og de håndteres derfor best gjennom internasjonalt samarbeid. Vi er fast bestemt på å samarbeide på en inkluderende måte for å sikre menneskesentrert, pålitelig og ansvarlig kunstig intelligens."

Til tross for den sterke retorikken ble det ikke satt noen konkrete politiske mål i erklæringen, men i stedet ble det avtalt ytterligere møter i Sør-Korea om seks måneder og i Frankrike om et år for å fortsette samtalen. 

Storbritannias statsminister Rishi Sunak fremmet aktivt toppmøtet som en viktig mulighet for globale ledere, selskaper, forskere og sivilsamfunnsgrupper til å komme sammen og legge grunnlaget for internasjonale sikkerhetsstandarder for kunstig intelligens. 

I en videotale sa kong Charles: "Vi er vitne til et av de største teknologiske sprangene i menneskehetens historie", og fortsatte: "Det er helt klart nødvendig å sørge for at denne teknologien, som er i rask utvikling, forblir trygg og sikker."

Se kongens budskap om håp for kunstig intelligens når han taler på Storbritannias aller første toppmøte om kunstig intelligens 👇

Mer om toppmøtet: https://t.co/pdSULcNyn1 pic.twitter.com/cB4Bzu0J3n

- Sky News (@SkyNews) 1. november 2023

Fra USA deltok visepresident Kamala Harris og USAs handelsminister Gina Raimondo. 

Fra Kina uttrykte Wu Zhaohui, viseminister for vitenskap og teknologi, at Kina er villig til å samarbeide med andre, og oppfordret landene til å "styrke dialog og kommunikasjon" og at teknologien er "usikker, uforklarlig og mangler åpenhet".

Rajeev Chandrasekhar, en teknologiminister fra India, snakket om AI deep fakes, "Ved å la innovasjonen gå foran reguleringen åpner vi for den giftigheten, feilinformasjonen og våpenbruken som vi ser på internett i dag, representert ved sosiale medier." 

Elon Musk, som var til stede, sa om AI at man må "håpe på det beste, men forberede seg på det verste".

Elon Musk på Storbritannias første toppmøte om AI-sikkerhet noensinne 🇬🇧pic.twitter.com/j40UNs6Cl2

- Dima Zeniuk (@DimaZeniuk) 1. november 2023

Ledere fra Anthropic, DeepMind, IBM, Meta, Microsoft, Nvidia, OpenAI og Tencent deltok, i tillegg til medlemmer av sivile interessegrupper som Algorithmic Justice League.

Vår administrerende direktør, Dario Amodei, delte de veiledende prinsippene bak Anthropics retningslinjer for ansvarlig skalering på UK AI Safety Summit i Bletchley Park i ettermiddag.

Les kommentarene hans: https://t.co/WCczCCvWaj

- Antropisk (@AnthropicAI) 1. november 2023

Selv om toppmøtet var symboltungt og samlet innflytelsesrike personer, mente kritikerne at det var mer pomp og prakt enn substans, og bemerket at viktige politiske ledere som president Biden, Frankrikes president Emmanuel Macron og Tysklands forbundskansler Olaf Scholz ikke var til stede.

Samtidig utvikler nasjoner over hele verden sine egne lover og regler for å håndtere kunstig intelligens, senest Bidens utøvende ordre - selv om det riktignok ikke er lovgivning i seg selv. 

AI Safety Summit - viktige begivenheter

Her er noen av de viktigste hendelsene fra AI Safety Summit, fra de nyeste (først) til de tidligste (sist):

• "Noen teknologiselskaper velger å prioritere profitt fremfor kundenes velferd", uttalte USAs visepresident Kamala Harris, og understreket nødvendigheten av samarbeid mellom myndigheter, sivilsamfunn og privat sektor for å håndtere utfordringene som kunstig intelligens medfører. Hun anerkjente den amerikanske regjeringens frivillige forpliktelser overfor ledende AI-selskaper for å fremme en trygg utvikling av teknologien, og forsikret at administrasjonen er beredt til å ta ytterligere skritt om nødvendig.
• Harris fremhevet etableringen av det amerikanske AI Safety Institute, som har som oppgave å skape "strenge standarder for å teste sikkerheten til AI-modeller for offentlig bruk". Harris uttrykte videre et ønske om at USAs nasjonale plan for kunstig intelligens skal inspirere den globale politikken, noe hun også nevnte i forbindelse med signeringen av den nylige amerikanske presidentordren. 
• Harris gjentok at kunstig intelligens har to sider, og at den både kan gjøre "dyptgripende godt" og "dyptgripende skade". Hun understreket at det haster med å iverksette globale tiltak for å håndtere de eksistensielle truslene som kunstig intelligens utgjør, og etterlyste en helhetlig tilnærming for å håndtere alle farene forbundet med dette.
• "Bletchley Park-erklæringen" om risiko knyttet til kunstig intelligens ble vedtatt av 28 nasjoner, noe som markerer et viktig skritt i den globale samtalen om sikkerhet knyttet til kunstig intelligens. Erklæringen tar for seg muligheter, risikoer og behovet for internasjonale tiltak når det gjelder KI.
• Republikken Korea ble annonsert som vertskap for det andre toppmøtet om AI-sikkerhet på seks måneder, mens Frankrike skal være vertskap for det tredje toppmøtet om et år.
• "ledelinjer" for utviklingen av kunstig intelligens, og fremhever toppmøtets rolle i å definere den fremtidige utviklingen av kunstig intelligens.
• Michelle Donelan, Storbritannias vitenskapsminister, ga uttrykk for det store ansvaret som ligger i utviklingen av kunstig intelligens, og pekte på teknologiens potensial til enten å styrke menneskeheten eller utgjøre en betydelig trussel.
• Sir Nick Clegg, leder for globale anliggender i Meta, oppfordret til globalt samhold i utviklingen og reguleringen av kunstig intelligens, og understreket viktigheten av konsistens på tvers av store jurisdiksjoner.
• Clegg advarte mot "faren" for å overspekulere om AIs fremtid, og understreket behovet for å ta tak i dagens teknologiske utfordringer, særlig i forbindelse med det kommende valget.

Dag to av arrangementet begynner i morgen, 2. november 2023.