Det nybildade Center For AI Safety (CAIS) publicerade tisdagen den 30 maj ett uttalande som undertecknats av 350 AI-ledare, akademiker, ingenjörer och andra framstående personer.
Bland de viktigaste undertecknarna finns AI-pionjärerna Geoffery Hinton och Yoshua Bengio, OpenAI:s VD Sam Altman och flera kollegor, VD:arna för DeepMind, Anthropic och andra ledande AI-företag samt ledande akademiker från MIT, Berkeley, University of Cambridge och andra ledande akademiska institutioner världen över.
"Att minska risken för utrotning på grund av AI bör vara en global prioritering vid sidan av andra samhälleliga risker som pandemier och kärnvapenkrig" Center för AI-säkerhet (CAIS) uttalande om AI - 30 maj 2023.
Maj har präglats av en intensifierad debatt kring AI:s samhällseffekter.
OpenAI:s VD Sam Altman vittnade inför kongressen om AI-säkerhet, och en av AI:s tidiga pionjärer, Geoffrey Hinton, lämnade Google för att tala öppet om AI.
CAIS bygger på teknikledarnas intentioner att gå samman och skapa en sammanhängande plan för att minska riskerna med AI samtidigt som man betonar dess användningsområden och fördelar. Riskerna är både omedelbara, t.ex. massförluster av arbetstillfällen, och medellånga eller långsiktiga, t.ex. att autonom AI börjar överträffa mänsklig intelligens och vi tappar kontrollen.
Dan Hendrycks, chef för Center for AI Safety, berättade för Sky News"Människan har varit den dominerande arten på jorden på grund av vår intelligens. Men nu, när AI blir allt kraftfullare och intelligentare, kommer vi inte att ha samma position i framtiden."
AI: materiella och immateriella risker
Hur slutar din favoritfilm med AI-tema? Det finns något nästan medfött med riskerna med AI, en instinktiv rädsla för vad som händer när "robotarna tar över".
Men just nu är de långsiktiga riskerna med AI främst immateriella och till stor del baserade på gissningar, abstraktioner och prognoser.
Den första påtagliga effekten av AI kommer sannolikt att märkas på arbetsmarknaden, där över 375 miljoner jobb kommer att vara i farozonen fram till 2030. AI utvecklas snabbt, så detta kan visa sig vara en konservativ uppskattning. AI riskerar också att leda till diskriminering, efterliknande, cybersäkerhetsrisker och vapenanvändning.
Teknikledare och akademiker erkänner att vi befinner oss i en period av snabb innovation, där den tekniska utvecklingen går snabbare än forskningen.
Detta har hänt flera gånger under mänsklighetens historia, till exempel under atom- och kärnkraftens framväxt och skapandet av internet. Tidigare under månaden uppmuntrade OpenAI:s Sam Altman till bildandet av en internationell byrå för AI, liknande Internationella atomenergiorganet bildades på 1950-talet.
Oavsett vilka riskerna med AI är, kommer vi sannolikt att kollidera med dem direkt, eftersom det är svårt att föreställa sig att big tech kan tygla deras framsteg, och malla analytiker anser att självreglering är en önskedröm.
Skeptiker tvivlar på framstegen inom AI
AI-debatten är ingen enkelriktad trafik, och vissa är skeptiska till hur snabbt debatten har eskalerat mot ett narrativ på utrotningsnivå.
Vi misslyckas till exempel fortfarande med att bygga effektiva AI-system, som förarlösa bilar, vilket skulle framstå som rudimentärt om AI skulle ta över planeten.
AI:s datoriserade intelligens är dessutom svår att jämföra med mänsklig intelligens. Människor och andra biologiska organismer kan bearbeta komplexa sensoriska data från de fem sinnena på bara några millisekunder. Robotar kan inte ens konkurrera med spädbarn när det gäller sensoriska uppgifter.
Mer anmärkningsvärt är den mänskliga hjärnans energieffektivitet - den använder mindre ström än en glödlampa. För närvarande kräver datacentren bakom AI som ChatGPT samma mängd energi som en stad. Biologins försprång gentemot datorer handlar om mer än intelligens.
Men även om det är lätt att peka på brister i de futuristiska visionerna om robotar som tar över planeten, utesluter det inte att människor använder AI för att utöka sina egna möjligheter i negativ riktning, vilket är en mycket mer överhängande risk. För närvarande ligger risken hos oss snarare än hos själva tekniken.
Även om AI har en lång väg att gå innan den bokstavligen går omkring bland oss, är CAIS-uttalandet en viktig milstolpe för att mildra överhängande risker, såsom AI-jobb som ersätter AI, bedrägeri och vapenanvändning.
För att öka trovärdigheten i budskapet behöver vi snart se bevis på samarbete mellan huvudpersonerna, vilket innebär mer än undertecknande av uttalanden.
