Storbritanniens AI Safety Summit, som efter planen skal finde sted den 1. og 2. november 2023, har afsløret det fulde program for den første dag.
Med det formål at forme tilgange til udvikling af sikker AI lover begivenheden en forsamling af internationale regeringer, store AI-virksomheder og førende forskningseksperter.
Især repræsentanter fra Kina er forventes at deltage på trods af eskalerende geopolitiske spændinger med USA.
Den britiske regering har frigivet det fulde program for første dagog alle detaljer om andendagen er stadig på vej.
Dag 1: At navigere i grænseløs AI
Første dag byder på opgaver omkring risici og sikkerhed i forbindelse med 'frontier-modeller', et begreb, der er kommet til at definere sofistikerede grundmodeller som GPT-4.
Åbningsplenum
Topmødet starter med et åbningsplenum med bemærkninger fra Storbritanniens statssekretær for videnskab, innovation og teknologi, efterfulgt af bidrag fra nationer, der er førende inden for AI-udvikling, og Storbritanniens Frontier AI Taskforce.
Rundbordsdiskussioner
En række breakout-sessioner vil muliggøre tværfaglig dialog om forskellige kritiske emner:
- Globale sikkerhedsrisici ved misbrug af avanceret AI: Evaluering af de sikkerhedsproblemer, der stammer fra nylige og kommende avancerede AI-modeller, med fokus på biosikkerhed og cybersikkerhed.
- Uforudsigelige fremskridt inden for avanceret AI-kapacitet: Diskuterer konsekvenserne af hurtige spring i AI-kapaciteter, fremkomsten af nye prognosemetoder og den fremtidige bane for AI-udvikling, herunder open source-overvejelser.
- Potentielt tab af kontrol over avanceret AI: Overvejelser om scenarier, hvor AI overgår menneskeligt tilsyn, de tilknyttede risici og udforskning af værktøjer til forebyggelse og overvågning.
- Samfundsmæssig integration af banebrydende AI: Behandler udfordringer i forbindelse med AI's rolle i valg, fordomme, kriminalitet, onlinesikkerhed og global ulighed, samtidig med at man diskuterer eksisterende modforanstaltninger.
Forbedring af sikkerheden ved grænsekrydsende AI
En anden række rundbordssamtaler vil fokusere på at forbedre AI-sikkerheden:
- Ansvarlig skalering hos AI-udviklere: Debat om bedste praksis for ansvarlig kapacitetsopskalering, risikovurdering, styring og ansvarlighed inden for AI-udvikling på grænsen.
- Nationale beslutningstageres rolle i AI: Diskussion af politiske tiltag til at håndtere AI-risici, herunder overvågning, ansvarlighed, licenser og håndtering af open source AI-modeller.
- Internationalt samarbejde om AI: Identificering af områder, hvor globalt samarbejde er afgørende for at mindske risici og udnytte de muligheder, som banebrydende AI giver.
- Det videnskabelige samfunds bidrag til AI-sikkerhed: Evaluering af de nuværende tekniske løsninger til AI-sikkerhed, presserende forskningsområder og nye løsninger.
Dagen afsluttes med en paneldiskussion om at udnytte AI til at revolutionere uddannelse for kommende generationer, efterfulgt af afsluttende bemærkninger fra Storbritanniens udenrigsminister.
Dag 2: Udformning af fremtidens AI
Premierminister Rishi Sunak vil lede en udvalgt forsamling af regeringsrepræsentanter, virksomhedsledere og eksperter for at intensivere diskussionerne om håndtering af nye risici ved AI-teknologi.
På et parallelt møde vil den britiske teknologiminister Michelle Donelan mødes med sine internationale kolleger for at konkretisere de tiltag, der blev drøftet på topmødet.
Top tech-chefer og politikere deltager i topmødet
Topledere fra Silicon Valley vil deltage i topmødet, herunder Sam Altman fra OpenAI, Demis Hassabis fra Google Deepmind og Dario Amodei fra Anthropic.
Andre bemærkelsesværdige deltagere, der forventes på topmødet, omfatter repræsentanter fra Elon Musks xAI og CEO'erne Alex Karp, Aidan Gomez og Emad Mostaque fra henholdsvis AI-virksomhederne Palantir, Cohere og Stability.
Desuden vil politiske ledere fra tech-giganterne Meta og Microsoft, Sir Nick Clegg og Brad Smith, og Googles James Manyika også repræsentere deres respektive virksomheder.
Som forberedelse til topmødet har de deltagende virksomheder været opfordres til at støtte en erklæringsom verdens ledere forventes at underskrive ved arrangementet.
Løbende forhandlinger med embedsmænd fra USA, EU, G7-landene og Kina har fundet sted for at færdiggøre ordlyden af denne erklæring. Det forventes, at den vil indeholde en alvorlig advarsel om den potentielle "katastrofale skade", som kunstig intelligens kan forårsage, hvis den ikke kontrolleres.
Virksomhederne bliver også bedt om at offentliggøre deres politikker, der beskriver forpligtelser til "sikker udvikling og anvendelse af AI", sammen med deres syn på, hvordan AI kan "løse de mest presserende og vigtige problemer for menneskeheden".
USA's vicepræsident Kamala Harris forventes at deltage. Den tyske kansler Olaf Scholz har angiveligt afvist invitationen, men den franske præsident Emmanuel Macron og repræsentanter fra Kina vil sandsynligvis deltage.
Selv om topmødet ikke forventes at resultere direkte i oprettelsen af et nyt AI-reguleringsorgan eller internationale love, sigter det mod at være et afgørende skridt i retning af fremtidige regler.
En talsmand for regeringen understregede topmødets samarbejdstilgang og sagde: "AI Safety Summit vil samle en bred vifte af deltagere, herunder internationale regeringer, den akademiske verden, industrien og civilsamfundet, som en del af en samarbejdstilgang til at drive en målrettet, hurtig international indsats for en sikker og ansvarlig udvikling af AI."
