Storbritannias AI Safety Summit, som etter planen skal finne sted 1. og 2. november 2023, har avduket det fullstendige programmet for dag én.
Målet er å forme tilnærminger til utviklingen av trygg kunstig intelligens, og arrangementet vil samle internasjonale myndigheter, store AI-selskaper og ledende forskningseksperter.
Representanter fra Kina er blant annet forventes å delta til tross for økende geopolitiske spenninger med USA.
Den britiske regjeringen har offentliggjorde hele programmet for første dag, og alle detaljer om den andre dagen kommer senere.
Dag 1: Navigere i grenselandet for kunstig intelligens
Dag én inneholder oppgaver knyttet til risiko og sikkerhet i forbindelse med "frontier-modeller", et begrep som har blitt brukt for å definere sofistikerte grunnmodeller som GPT-4.
Åpningsplenum
Toppmøtet starter med et åpningsplenum med kommentarer fra Storbritannias utenriksminister for vitenskap, innovasjon og teknologi, etterfulgt av innlegg fra nasjoner som leder an i utviklingen av kunstig intelligens, og Storbritannias Frontier AI Taskforce.
Rundbordsdiskusjoner
En rekke gruppesamtaler vil gi mulighet for tverrfaglig dialog om ulike kritiske spørsmål:
- Globale sikkerhetsrisikoer som følge av misbruk av kunstig intelligens: Evaluering av sikkerhetsproblemene knyttet til nyere og kommende KI-modeller, med fokus på biosikkerhet og cybersikkerhet.
- Uforutsigbare fremskritt innen avansert KI: Diskuterer konsekvensene av de raske sprangene i AI-kapasiteter, fremveksten av nye prognosemetoder og den fremtidige utviklingen av AI, inkludert hensynet til åpen kildekode.
- Potensielt tap av kontroll over avansert AI: Vi ser på scenarier der kunstig intelligens overgår menneskelig overvåking, de tilhørende risikoene, og utforsker verktøy for forebygging og overvåking.
- Samfunnsmessig integrering av banebrytende KI: Utfordringer knyttet til AIs rolle i valg, fordommer, kriminalitet, sikkerhet på nettet og global ulikhet, samt drøfting av eksisterende mottiltak.
Forbedring av sikkerheten ved grenseoverskridende AI
En annen serie med rundebordssamtaler vil fokusere på å forbedre sikkerheten ved kunstig intelligens:
- Ansvarlig skalering hos AI-utviklere: Debatt om beste praksis for ansvarlig skalering av kapasitet, risikovurdering, styring og ansvarlighet i utviklingen av kunstig intelligens.
- Nasjonale beslutningstakeres rolle i KI: Diskuterer politiske tiltak for å håndtere AI-risiko, inkludert overvåking, ansvarlighet, lisensiering og håndtering av AI-modeller med åpen kildekode.
- Internasjonalt samarbeid om kunstig intelligens: Identifisere områder der globalt samarbeid er avgjørende for å redusere risiko og gripe mulighetene som ligger i banebrytende KI.
- Det vitenskapelige samfunnets bidrag til AI-sikkerhet: Evaluering av dagens tekniske løsninger for AI-sikkerhet, presserende forskningsområder og nye løsninger.
Dagen avsluttes med en paneldiskusjon om hvordan kunstig intelligens kan brukes til å revolusjonere utdanningen for kommende generasjoner, etterfulgt av en avsluttende kommentar fra Storbritannias utenriksminister.
Dag 2: Hvordan forme fremtiden for kunstig intelligens
Statsminister Rishi Sunak vil lede en utvalgt forsamling av regjeringsrepresentanter, bedriftsledere og eksperter for å intensivere diskusjonene om håndtering av nye risikoer knyttet til AI-teknologi.
I en parallell sesjon vil Storbritannias teknologiminister Michelle Donelan møte internasjonale kolleger for å konkretisere de tiltakene som ble diskutert under toppmøtet.
Toppsjefer og politikere fra teknologibransjen deltar på toppmøtet
Toppledere fra Silicon Valley kommer til å delta på toppmøtet, deriblant Sam Altman fra OpenAI, Demis Hassabis fra Google Deepmind og Dario Amodei fra Anthropic.
Andre bemerkelsesverdige deltakere som forventes på toppmøtet, er representanter fra Elon Musks xAI og administrerende direktører Alex Karp, Aidan Gomez og Emad Mostaque fra henholdsvis AI-virksomhetene Palantir, Cohere og Stability.
I tillegg skal også de politiske lederne fra teknologigigantene Meta og Microsoft, Sir Nick Clegg og Brad Smith, samt Googles James Manyika, representere sine respektive selskaper.
I forberedelsene til toppmøtet har de deltakende selskapene vært oppfordres til å støtte en uttalelsesom verdens ledere forventes å undertegne på arrangementet.
Det pågår forhandlinger med representanter fra USA, EU, G7-landene og Kina for å ferdigstille ordlyden i denne uttalelsen. Den forventes å inneholde en alvorlig advarsel om den potensielle "katastrofale skaden" kunstig intelligens kan forårsake hvis den ikke blir kontrollert.
Selskapene blir også bedt om å offentliggjøre sine retningslinjer for "trygg utvikling og bruk av kunstig intelligens", samt sitt syn på hvordan kunstig intelligens kan "løse de mest presserende og viktige problemene for menneskeheten".
USAs visepresident Kamala Harris forventes å delta. Tysklands forbundskansler Olaf Scholz har angivelig takket nei til invitasjonen, men Frankrikes president Emmanuel Macron og representanter fra Kina vil sannsynligvis delta.
Selv om toppmøtet ikke direkte forventes å resultere i opprettelsen av et nytt AI-reguleringsorgan eller internasjonale lover, tar det sikte på å være et avgjørende skritt mot fremtidige reguleringer.
En talsmann for regjeringen understreket toppmøtets samarbeidstilnærming: "AI Safety Summit vil samle et bredt spekter av deltakere, inkludert internasjonale myndigheter, akademia, industrien og sivilsamfunnet, som en del av en samarbeidstilnærming for å drive frem målrettede, raske internasjonale tiltak for en trygg og ansvarlig utvikling av kunstig intelligens."
