Den britiske vicepremierminister Oliver Dowden vil advare det internationale samfund om AI's potentiale til at destabilisere den globale orden.
I sin tale til FN's generalforsamling i New York vil Dowden understrege, at det haster med at regulere kunstig intelligens, da dens hurtige udvikling kan overgå regeringernes evne til at garantere dens sikkerhed.
Storbritannien gør sig klar til at være vært for det globale AI Safety Summit i november med fokus på AI-regulering.
Dowden udtaler: "Startskuddet er gået til et globalt konkurrencepræget kapløb, hvor både individuelle virksomheder og lande vil stræbe efter at flytte grænserne så langt og hurtigt som muligt."
Han vil desuden fremhæve, at den globale regulering halter bagefter de nuværende fremskridt inden for AI. AI's ekstreme udviklingstempo gør teknologien svær at indfange gennem love og regler.
Dowden vil understrege, at AI-virksomheder ikke skal overlades til at "lave deres egne lektier", og at regeringer og borgere skal have tillid til, at AI-associerede risici håndteres på passende vis.
Dowden vil dog også advare mod at se AI udelukkende som en kraft for det gode eller det onde og bemærker, at "det vil være et værktøj til begge dele." AI's dobbelte anvendelse komplicerer også reguleringsmekanismerne, da de algoritmer, der kræves for at "gøre godt", også kan være dem, der kan forvolde skade.
Warner bemærkede også skiftet i diskursen omkring AI-sikkerhed og sagde, at dette emne stort set blev ignoreret for et par år siden.
Flere førende AI-virksomheder er enige om, at der er behov for regulering. USA's første AI Insight Forum fandt sted i denne måned og oplevede gensidig enighed fra deltagere i hele AI-industrien, herunder Elon Musk og OpenAI's CEO Sam Altman.
Men Yasmin Afina, der er forsker ved Chatham House, fortalte BBC, at Det bliver en udfordring at nå frem til en hurtig international aftale om kunstig intelligens. Hun sammenlignede AI's kompleksitet med atomvåben og bemærkede de langvarige forhandlinger, der er nødvendige for atomaftaler.
Afina understregede også vigtigheden af at inkludere marginaliserede samfund og mindre lande i disse diskussioner for at sikre, at de ikke bliver kørt ud på et sidespor. Langt størstedelen af samtalerne omkring AI-regulering fokus på Kina, USA og Europa.
Warner, som var en del af det nu opløste AI-råd, der rådgav regeringen, mener, at Storbritannien kan blive førende inden for AI-sikkerhedsteknologi, forudsat at der investeres tilstrækkeligt.
