Storbritanniens vice premiärminister Oliver Dowden kommer att varna det internationella samfundet för AI:s potential att destabilisera den globala ordningen.
I sitt anförande inför FN:s generalförsamling i New York kommer Dowden att betona vikten av att reglera AI eftersom dess snabba utveckling kan komma att överträffa regeringarnas kapacitet att garantera dess säkerhet.
Storbritannien förbereder sig för att stå värd för det globala AI Safety Summit i november, med fokus på reglering av AI.
Dowden konstaterar: "Startskottet har gått för en global tävling där såväl enskilda företag som länder kommer att sträva efter att tänja på gränserna så långt och så snabbt som möjligt."
Han kommer vidare att belysa att den globala regleringen släpar efter de nuvarande framstegen inom AI. AI:s extrema utvecklingstakt gör tekniken svår att fånga upp genom lagar och regler.
Dowden kommer att betona att AI-företag inte ska lämnas att "göra sin egen hemläxa", och understryka behovet av att regeringar och medborgare kan lita på att risker förknippade med AI hanteras på ett adekvat sätt.
Men Dowden varnar också för att se AI som en kraft för gott eller ont, och konstaterar att "det kommer att vara ett verktyg för båda". AI:s dubbla användningsområden komplicerar också regleringsmekanismerna, eftersom de algoritmer som krävs för att "göra gott" också kan vara de som kan orsaka skada.
Warner noterade också förändringen i diskursen kring AI-säkerhet och konstaterade att detta ämne i stort sett ignorerades för några år sedan.
Flera ledande AI-bolag är överens om behovet av reglering. USA:s första AI Insight Forum ägde rum den här månaden och såg ömsesidig överenskommelse från deltagare i hela AI-industrin, inklusive Elon Musk och OpenAI:s VD Sam Altman.
Men Yasmin Afina, forskare vid Chatham House, berättade för BBC att Det kommer att bli en utmaning att nå ett snabbt internationellt avtal om AI. Hon jämförde AI:s komplexitet med kärnvapen och pekade på de utdragna förhandlingar som krävs för kärnvapenavtal.
Afina betonade också vikten av att inkludera marginaliserade grupper och mindre länder i dessa diskussioner för att säkerställa att de inte hamnar vid sidan av. Den stora majoriteten av konversationerna kring AI-reglering fokus på Kina, USA och Europa.
Warner, som ingick i det numera upplösta AI-rådet som gav råd till regeringen, tror att Storbritannien kan bli ledande inom AI-säkerhetsteknik, förutsatt att det finns tillräckliga investeringar.
