Det nyopprettede Center For AI Safety (CAIS) offentliggjorde tirsdag 30. mai en uttalelse signert av 350 AI-ledere, akademikere, ingeniører og andre prominente personer.
Blant de viktigste underskriverne finner vi AI-pionerene Geoffery Hinton og Yoshua Bengio, OpenAIs administrerende direktør Sam Altman og flere kolleger, administrerende direktører i DeepMind, Anthropic og andre ledende AI-selskaper, samt ledende akademikere fra MIT, Berkeley, University of Cambridge og andre av verdens fremste akademiske institusjoner.
"Å redusere risikoen for utryddelse som følge av kunstig intelligens bør være en global prioritet på linje med andre samfunnsrisikoer som pandemier og atomkrig." Uttalelse fra Center for AI Safety (CAIS) om kunstig intelligens - 30. mai 2023.
Mai har vært preget av en intensivert debatt om AIs samfunnsmessige konsekvenser.
OpenAIs administrerende direktør Sam Altman vitnet for Kongressen om AI-sikkerhet, og en av AIs tidlige pionerer, Geoffrey Hinton, forlot Google for å snakke åpent om AI.
CAIS bygger på teknologiledernes intensjoner om å gå sammen og danne en helhetlig plan for å redusere risikoen ved kunstig intelligens, samtidig som de legger vekt på bruken og fordelene. Risikoen er både umiddelbar, f.eks. massetap av arbeidsplasser, og på mellomlang eller lang sikt, f.eks. hvis autonom AI begynner å overgå menneskelig intelligens og vi mister kontrollen.
Dan Hendrycks, direktør for Center for AI Safety, fortalte Sky News"Mennesket har vært den dominerende arten på jorden på grunn av vår intelligens. Men nå som kunstig intelligens blir kraftigere og mer intelligent, kommer vi ikke til å ha den samme posisjonen i fremtiden."
AI: materielle og immaterielle risikoer
Hvordan slutter favorittfilmen din med AI-tema? Det er noe nesten medfødt ved risikoen ved kunstig intelligens, en instinktiv frykt for hva som skjer når "robotene tar over".
Akkurat nå er imidlertid de langsiktige risikoene ved KI først og fremst uhåndgripelige og i stor grad basert på antagelser, abstraksjoner og prognoser.
Den første konkrete effekten av kunstig intelligens vil trolig merkes på arbeidsmarkedet, der over 375 millioner jobber vil være i fare innen 2030. AI utvikler seg raskt, så dette kan vise seg å være et konservativt anslag. AI kan også medføre risiko for diskriminering, etterligning, cybersikkerhetsrisiko og våpenbruk.
Teknologiledere og akademikere erkjenner at vi er inne i en periode med rask innovasjon, der den teknologiske utviklingen går raskere enn forskningen.
Dette har skjedd flere ganger i menneskehetens historie, for eksempel i forbindelse med utviklingen av atom- og kjernekraft og etableringen av internett. Tidligere denne måneden oppfordret Sam Altman fra OpenAI til å opprette et internasjonalt byrå for kunstig intelligens, i likhet med Det internasjonale atomenergibyrået dannet på 1950-tallet.
Uansett hva risikoen ved AI er, vil vi sannsynligvis kollidere med dem frontalt, ettersom det er vanskelig å se for seg at big tech vil kunne stanse utviklingen, og mnoen analytikere mener at selvregulering er en ønskedrøm.
Skeptikere tviler på utviklingen av kunstig intelligens
AI-debatten er ikke enveiskjørt, og noen er skeptiske til hvor raskt debatten har eskalert mot en fortelling på utryddelsesnivå.
Vi klarer for eksempel fortsatt ikke å bygge effektive AI-systemer, som førerløse biler, noe som ville fremstå som rudimentært hvis AI skulle ta over planeten.
Dessuten er det vanskelig å sammenligne AIs datastyrte intelligens med menneskelig intelligens. Mennesker og andre biologiske organismer kan bearbeide komplekse sensoriske data på tvers av de fem sansene på bare millisekunder. Roboter kan ikke engang konkurrere med babyer når det gjelder sensoriske oppgaver.
Mer oppsiktsvekkende er energieffektiviteten til menneskehjernen - den bruker mindre strøm enn en lyspære. I dag krever datasentrene bak AI-er som ChatGPT like mye strøm som en by. Biologiens forsprang på datamaskiner handler om mer enn intelligens.
Men selv om det er lett å påpeke svakheter ved de futuristiske visjonene om roboter som overtar planeten, utelukker det ikke at mennesker kan bruke AI til å utvide sine egne evner i negativ retning, noe som er en langt mer umiddelbar risiko. Foreløpig ligger risikoen hos oss, og ikke hos selve teknologien.
Selv om det er langt igjen før AI bokstavelig talt vandrer blant oss, er CAIS-erklæringen en viktig milepæl for å redusere overhengende risikoer, som for eksempel erstatning av AI-jobber, bedrageri og våpenbruk.
For å gjøre budskapet mer troverdig må vi snart se bevis på samarbeid mellom hovedpersonene, noe som innebærer mer enn signerte erklæringer.
