Der britische KI-Sicherheitsgipfel, der am 1. und 2. November 2023 stattfinden soll, hat das vollständige Programm für den ersten Tag vorgestellt.
Mit dem Ziel, Ansätze für die Entwicklung sicherer KI zu entwickeln, verspricht die Veranstaltung eine Zusammenkunft von internationalen Regierungen, großen KI-Unternehmen und führenden Forschungsexperten.
Vor allem Vertreter aus China sind erwartete Teilnahme trotz der eskalierenden geopolitischen Spannungen mit den USA.
Die britische Regierung hat den vollständigen Zeitplan für den ersten Tag veröffentlichtWeitere Einzelheiten über den zweiten Tag werden noch bekannt gegeben.
Tag 1: Navigieren im Grenzbereich der KI
Am ersten Tag stehen Aufgaben im Zusammenhang mit den Risiken und der Sicherheit von "Grenzmodellen" auf dem Programm, ein Begriff, der sich für hochentwickelte Grundmodelle wie das GPT-4 eingebürgert hat.
Eröffnungsplenum
Das Gipfeltreffen beginnt mit einer Eröffnungsplenarsitzung, bei der der britische Staatssekretär des Ministeriums für Wissenschaft, Innovation und Technologie das Wort ergreift, gefolgt von Beiträgen von Ländern, die bei der KI-Entwicklung führend sind, und der britischen Frontier AI Taskforce.
Diskussionen am runden Tisch
Eine Reihe von Breakout-Sitzungen wird einen multidisziplinären Dialog über verschiedene kritische Themen ermöglichen:
- Globale Sicherheitsrisiken durch den Missbrauch von KI an der Grenze: Bewertung der Sicherheitsbedenken, die sich aus den jüngsten und künftigen KI-Modellen ergeben, mit Schwerpunkt auf Biosicherheit und Cybersicherheit.
- Unvorhersehbare Fortschritte bei der KI-Fähigkeit an der Grenze: Erörterung der Auswirkungen der raschen Fortschritte bei den KI-Fähigkeiten, des Aufkommens neuer Prognosemethoden und der künftigen Entwicklung der KI, einschließlich Überlegungen zu Open-Source.
- Potenzieller Verlust der Kontrolle über fortschrittliche KI: Überlegungen zu Szenarien, in denen KI die menschliche Aufsicht übersteigt, zu den damit verbundenen Risiken und zur Erforschung von Instrumenten zur Prävention und Überwachung.
- Gesellschaftliche Integration von Pionier-KI: Herausforderungen im Zusammenhang mit der Rolle der KI bei Wahlen, Voreingenommenheit, Kriminalität, Online-Sicherheit und globaler Ungleichheit sowie die Erörterung bestehender Gegenmaßnahmen.
Verbesserung der KI-Sicherheit an den Grenzen
Eine weitere Reihe von Rundtischgesprächen wird sich auf die Verbesserung der KI-Sicherheit konzentrieren:
- Verantwortungsvolle Skalierung bei KI-Entwicklern: Debatte über die besten Praktiken für die verantwortungsvolle Skalierung von Fähigkeiten, Risikobewertung, Governance und Rechenschaftspflicht bei der Entwicklung von KI in Grenzbereichen.
- Die Rolle der nationalen Entscheidungsträger im Bereich KI: Erörterung politischer Maßnahmen zum Umgang mit KI-Risiken, einschließlich Überwachung, Rechenschaftspflicht, Lizenzierung und Verwaltung von Open-Source-KI-Modellen.
- Internationale Zusammenarbeit bei KI: Identifizierung von Bereichen, in denen eine globale Zusammenarbeit unerlässlich ist, um Risiken zu mindern und Chancen zu nutzen, die sich durch die neuartige KI ergeben.
- Der Beitrag der Wissenschaft zur KI-Sicherheit: Bewertung der aktuellen technischen Lösungen für KI-Sicherheit, dringende Forschungsbereiche und neue Lösungen.
Der Tag endet mit einer Podiumsdiskussion über die Nutzung von KI zur Revolutionierung der Bildung für kommende Generationen, gefolgt von abschließenden Bemerkungen des britischen Außenministers.
Tag 2: Die Zukunft der KI gestalten
Premierminister Rishi Sunak wird eine ausgewählte Versammlung von Regierungsvertretern, Unternehmensleitern und Experten leiten, um die Diskussionen über den Umgang mit neu entstehenden Risiken der KI-Technologie zu intensivieren.
In einer parallelen Sitzung wird die britische Technologieministerin Michelle Donelan erneut mit internationalen Partnern zusammentreffen, um die auf dem Gipfel besprochenen Maßnahmen zu konkretisieren.
Top-Tech-Bosse und Politiker nehmen an dem Gipfel teil
Top-Führungskräfte aus dem Silicon Valley, darunter Sam Altman von OpenAI, Demis Hassabis von Google Deepmind und Dario Amodei von Anthropic, werden an dem Gipfel teilnehmen.
Zu den weiteren namhaften Teilnehmern des Gipfels gehören Vertreter von Elon Musks xAI sowie die CEOs Alex Karp, Aidan Gomez und Emad Mostaque von den KI-Unternehmen Palantir, Cohere bzw. Stability.
Darüber hinaus werden auch die Leiter der Tech-Giganten Meta und Microsoft, Sir Nick Clegg und Brad Smith, sowie James Manyika von Google ihre jeweiligen Unternehmen vertreten.
Zur Vorbereitung des Gipfels haben die teilnehmenden Unternehmen aufgefordert, eine Erklärung zu unterstützendie von den Staats- und Regierungschefs auf der Veranstaltung unterzeichnet werden soll.
Der Wortlaut dieser Erklärung wird derzeit unter Beteiligung von Vertretern der USA, der EU, der G7-Staaten und Chinas ausgehandelt. Es wird erwartet, dass sie eine strenge Warnung vor dem potenziellen "katastrophalen Schaden" enthält, den KI anrichten könnte, wenn sie unkontrolliert bleibt.
Die Unternehmen werden außerdem aufgefordert, ihre Richtlinien offenzulegen, in denen sie sich zur "sicheren Entwicklung und zum Einsatz von KI" verpflichten, sowie ihre Ansichten darüber, wie KI "die dringendsten und wichtigsten Probleme der Menschheit lösen kann".
Es wird erwartet, dass US-Vizepräsidentin Kamala Harris teilnehmen wird. Der deutsche Bundeskanzler Olaf Scholz hat Berichten zufolge die Einladung abgelehnt, aber der französische Präsident Emmanuel Macron und Vertreter von China wird wahrscheinlich teilnehmen.
Es wird zwar nicht erwartet, dass das Gipfeltreffen direkt zur Schaffung einer neuen KI-Regulierungsbehörde oder internationaler Gesetze führen wird, aber es soll ein entscheidender Schritt in Richtung künftiger Vorschriften sein.
Ein Sprecher der Regierung betonte den gemeinschaftlichen Ansatz des Gipfels: "Der KI-Sicherheitsgipfel wird ein breites Spektrum von Teilnehmern zusammenbringen, darunter internationale Regierungen, Hochschulen, die Industrie und die Zivilgesellschaft, als Teil eines gemeinschaftlichen Ansatzes, um gezielte, schnelle internationale Maßnahmen zur sicheren und verantwortungsvollen Entwicklung von KI voranzutreiben."
