Den brittiska regeringen offentliggör tidsplanen för AI Safety Summit

Storbritanniens AI Safety Summit, som planeras äga rum den 1 och 2 november 2023, har presenterat det fullständiga programmet för dag ett.

I syfte att forma metoder för att utveckla säker AI utlovas en samling av internationella regeringar, stora AI-företag och ledande forskningsexperter.

Framför allt är representanter från Kina förväntas delta trots eskalerande geopolitiska spänningar med USA.

Den brittiska regeringen har släppte det fullständiga schemat för första dagenoch närmare information om den andra dagen kommer inom kort. 

Dag 1: Att navigera i gränsområdet för AI

Dag ett innehåller uppgifter kring risker och säkerhet i samband med "frontier models", en term som har kommit att definiera sofistikerade grundmodeller som GPT-4.

Öppnande plenarsammanträde

Toppmötet inleds med ett öppningsplenum med kommentarer från Storbritanniens statssekreterare vid departementet för vetenskap, innovation och teknik, följt av bidrag från länder som leder utvecklingen av AI och Storbritanniens Frontier AI Taskforce.

Diskussioner vid rundabordssamtal

En rad gruppdiskussioner kommer att möjliggöra en tvärvetenskaplig dialog om olika kritiska frågor:

1. Globala säkerhetsrisker från missbruk av AI i gränsområdet: Utvärdering av de säkerhetsproblem som härrör från nya och kommande avancerade AI-modeller, med fokus på bio- och cybersäkerhet.
2. Oförutsägbara framsteg inom AI-kapacitet i framkant: Diskuterar konsekvenserna av snabba språng i AI-kapacitet, tillkomsten av nya prognosmetoder och den framtida banan för AI-utveckling, inklusive överväganden om öppen källkod.
3. Potentiell förlust av kontroll över avancerad AI: Fundera över scenarier där AI överträffar mänsklig tillsyn, de risker som är förknippade med detta och utforska verktyg för förebyggande och övervakning.
4. Samhällelig integration av avancerad AI: Utmaningar som rör AI:s roll i val, fördomar, brottslighet, säkerhet på nätet och global ojämlikhet, samt diskussion om befintliga motåtgärder.

Förbättrad AI-säkerhet i gränsområdet

En annan serie rundabordssamtal kommer att fokusera på att förbättra AI-säkerheten:

1. Ansvarig skalning hos AI-utvecklare: Debatt om bästa praxis för ansvarsfull kapacitetsskalning, riskbedömning, styrning och ansvarsskyldighet inom AI-utveckling i gränsområden.
2. Nationella beslutsfattares roll inom AI: Diskutera politiska åtgärder för att hantera AI-risker, inklusive övervakning, ansvarsskyldighet, licensiering och hantering av AI-modeller med öppen källkod.
3. Internationellt samarbete kring AI: Identifiera områden där globalt samarbete är nödvändigt för att minska riskerna och ta vara på möjligheterna med avancerad AI.
4. Forskarsamhällets bidrag till AI-säkerhet: Utvärdering av nuvarande tekniska lösningar för AI-säkerhet, angelägna forskningsområden och nya lösningar.

Dagen avslutas med en paneldiskussion om hur AI kan användas för att revolutionera utbildningen för kommande generationer, följt av avslutande kommentarer från Storbritanniens utrikesminister.

Dag 2: Att forma framtiden för AI

Premiärminister Rishi Sunak kommer att leda en utvald församling av regeringsföreträdare, företagsledare och experter för att intensifiera diskussionerna om hantering av risker med framväxande AI-teknik.

Under en parallell session kommer Storbritanniens teknikminister Michelle Donelan att återsamlas med internationella motparter för att befästa de åtgärder som diskuterades under toppmötet.

Toppchefer och politiker från teknikbranschen deltar i toppmötet

Toppchefer från Silicon Valley kommer att delta i toppmötet, inklusive Sam Altman från OpenAI, Demis Hassabis från Google Deepmind och Dario Amodei från Anthropic.

Andra viktiga deltagare som väntas till toppmötet är representanter från Elon Musks xAI och VD:arna Alex Karp, Aidan Gomez och Emad Mostaque från AI-företagen Palantir, Cohere respektive Stability. 

Dessutom kommer policycheferna från teknikjättarna Meta och Microsoft, Sir Nick Clegg och Brad Smith, samt Googles James Manyika att representera sina respektive företag.

Som förberedelse inför toppmötet har de deltagande företagen uppmuntras att stödja ett uttalandesom världens ledare förväntas underteckna vid evenemanget. 

Pågående förhandlingar med tjänstemän från USA, EU, G7-länderna och Kina har pågått för att slutföra formuleringen av detta uttalande. Det väntas innehålla en allvarlig varning om den potentiella "katastrofala skada" som AI kan orsaka om den inte kontrolleras.

Företagen uppmanas också att offentliggöra sina policyer med åtaganden för "säker utveckling och användning av AI", samt sin syn på hur AI kan "lösa de mest akuta och viktiga problemen för mänskligheten".

USA:s vicepresident Kamala Harris förväntas delta. Tysklands förbundskansler Olaf Scholz har enligt uppgift tackat nej till inbjudan, men Frankrikes president Emmanuel Macron och representanter från Kina kommer sannolikt att delta.

Även om toppmötet inte direkt förväntas leda till att ett nytt AI-regleringsorgan eller internationella lagar skapas, syftar det till att vara ett avgörande steg mot framtida regleringar. 

En talesman för regeringen betonade toppmötets samarbetsinriktning och sade: "AI Safety Summit kommer att samla ett brett spektrum av deltagare, inklusive internationella regeringar, den akademiska världen, industrin och det civila samhället, som en del av en samarbetsinriktad strategi för att driva riktade, snabba internationella åtgärder för en säker och ansvarsfull utveckling av AI."