De Britse AI Safety Summit, die gepland staat voor 1 en 2 november 2023, heeft het volledige programma voor de eerste dag bekendgemaakt.
Met als doel de ontwikkeling van veilige AI vorm te geven, belooft het evenement een bijeenkomst te worden van internationale regeringen, grote AI-bedrijven en vooraanstaande onderzoeksexperts.
Vertegenwoordigers uit China zijn met name verwacht ondanks de escalerende geopolitieke spanningen met de VS.
De Britse regering heeft het volledige schema voor de eerste dag vrijgegevenVolledige details over de tweede dag volgen nog.
Dag 1: Navigeren door grensgebieden van AI
Op dag één staan taken op het gebied van risico's en veiligheid rondom 'grensverleggende modellen', een term die geavanceerde basismodellen zoals GPT-4 is gaan definiëren.
Plenaire opening
De top begint met een plenaire opening met opmerkingen van de Britse staatssecretaris van het ministerie voor Wetenschap, Innovatie en Technologie, gevolgd door bijdragen van landen die vooroplopen in AI-ontwikkeling en de Frontier AI Taskforce van het Verenigd Koninkrijk.
Rondetafelgesprekken
Een reeks breakoutsessies zal een multidisciplinaire dialoog over verschillende kritieke onderwerpen mogelijk maken:
- Wereldwijde veiligheidsrisico's door AI-misbruik aan de grens: Evalueren van de veiligheidsproblemen die voortkomen uit recente en toekomstige grensverleggende AI-modellen, met de nadruk op bioveiligheid en cyberveiligheid.
- Onvoorspelbare vooruitgang in grensverleggende AI-capaciteiten: Bespreking van de implicaties van snelle sprongen in AI-capaciteiten, de komst van nieuwe voorspellingsmethoden en het toekomstige traject van AI-ontwikkeling, inclusief open source-overwegingen.
- Mogelijk verlies van controle over geavanceerde AI: Het nadenken over scenario's waarin AI het menselijke toezicht overstijgt, de bijbehorende risico's en het verkennen van tools voor preventie en controle.
- Maatschappelijke integratie van grensverleggende AI: Uitdagingen met betrekking tot de rol van AI bij verkiezingen, vooroordelen, misdaad, online veiligheid en mondiale ongelijkheid, naast het bespreken van bestaande tegenmaatregelen.
Verbetering van de AI-veiligheid aan de grens
Een andere reeks rondetafelgesprekken zal zich richten op het verbeteren van de AI-veiligheid:
- Verantwoord schalen bij AI-ontwikkelaars: Debat over de beste praktijken voor verantwoorde capaciteitsvergroting, risicobeoordeling, governance en verantwoordingsplicht binnen grensverleggende AI-ontwikkeling.
- De rol van nationale beleidsmakers in AI: Bespreken van beleidsmaatregelen om AI-risico's te beheren, waaronder monitoring, verantwoordingsplicht, licenties en het beheren van open-source AI-modellen.
- Internationale samenwerking op het gebied van AI: Identificeren van gebieden waar wereldwijde samenwerking essentieel is om risico's te beperken en kansen te grijpen die ontstaan door grensverleggende AI.
- Bijdrage van de wetenschappelijke gemeenschap aan AI-veiligheid: Evaluatie van de huidige technische oplossingen voor AI-veiligheid, urgente onderzoeksgebieden en opkomende oplossingen.
De dag wordt afgesloten met een paneldiscussie over het gebruik van AI om een revolutie teweeg te brengen in het onderwijs voor de komende generaties, gevolgd door slotopmerkingen van de Britse staatssecretaris.
Dag 2: De toekomst van AI vormgeven
Minister-president Rishi Sunak zal een selecte groep regeringsvertegenwoordigers, bedrijfsleiders en experts leiden om de discussies over het beheren van opkomende risico's van AI-technologie te intensiveren.
In een parallelle sessie zal Michelle Donelan, de Britse minister van Technologie, opnieuw bijeenkomen met internationale collega's om de tijdens de top besproken koers te bepalen.
Top tech bazen en politici wonen de top bij
Topmanagers uit Silicon Valley zullen de top bijwonen, waaronder Sam Altman van OpenAI, Demis Hassabis van Google Deepmind en Dario Amodei van Anthropic.
Andere belangrijke deelnemers die op de top worden verwacht, zijn vertegenwoordigers van xAI van Elon Musk en CEO's Alex Karp, Aidan Gomez en Emad Mostaque van respectievelijk AI-ondernemingen Palantir, Cohere en Stability.
Daarnaast zullen ook beleidschefs van techgiganten Meta en Microsoft, Sir Nick Clegg en Brad Smith, en James Manyika van Google hun respectievelijke bedrijven vertegenwoordigen.
Ter voorbereiding op de top hebben de deelnemende bedrijven aangemoedigd om een verklaring te onderschrijvendie de wereldleiders naar verwachting tijdens het evenement zullen ondertekenen.
Er wordt momenteel onderhandeld met ambtenaren van de VS, de EU, de G7-landen en China om de laatste hand te leggen aan de formulering van deze verklaring. Er wordt verwacht dat er een strenge waarschuwing in zal staan over de mogelijke "catastrofale schade" die AI kan aanrichten als er niets aan gedaan wordt.
Bedrijven wordt ook gevraagd om hun beleid bekend te maken waarin ze zich inzetten voor "veilige AI-ontwikkeling en -implementatie", samen met hun visie op hoe AI "de meest urgente en belangrijke problemen voor de mensheid kan aanpakken".
De Amerikaanse vicepresident Kamala Harris zal naar verwachting aanwezig zijn. De Duitse bondskanselier Olaf Scholz heeft de uitnodiging naar verluidt afgewezen, maar de Franse president Emmanuel Macron en vertegenwoordigers van China zullen waarschijnlijk deelnemen.
Hoewel de top naar verwachting niet direct zal leiden tot de oprichting van een nieuwe AI-reguleringsinstantie of internationale wetten, is het wel bedoeld als een cruciale stap in de richting van toekomstige regelgeving.
Een regeringswoordvoerder benadrukte de gezamenlijke aanpak van de top: "De AI Safety Summit brengt een breed scala aan deelnemers samen, waaronder internationale regeringen, de academische wereld, het bedrijfsleven en maatschappelijke organisaties, als onderdeel van een gezamenlijke aanpak om gerichte, snelle internationale actie te stimuleren voor de veilige en verantwoorde ontwikkeling van AI."
