Det nydannede Center for AI Safety (CAIS) udsendte tirsdag den 30. maj en erklæring, som er underskrevet af 350 AI-ledere, akademikere, ingeniører og andre fremtrædende personer.
Blandt de vigtigste underskrivere er AI-pionererne Geoffery Hinton og Yoshua Bengio, OpenAI's CEO Sam Altman og flere kolleger, CEO'erne for DeepMind, Anthropic og andre førende AI-virksomheder samt højtstående akademikere fra MIT, Berkeley, University of Cambridge og andre topakademiske institutioner verden over.
"At mindske risikoen for udryddelse på grund af kunstig intelligens bør være en global prioritet på linje med andre samfundsmæssige risici som pandemier og atomkrig" -. Udtalelse fra Center for AI-sikkerhed (CAIS) om AI - 30. maj 2023.
Maj har været præget af en intensiveret debat om AI's samfundsmæssige konsekvenser.
OpenAI's CEO Sam Altman vidnede i Kongressen om AI-sikkerhed, og en af AI's tidlige pionerer, Geoffrey Hinton, forlod Google for at tale åbent om AI.
CAIS bygger på teknologiledernes intentioner om at gå sammen og danne en sammenhængende plan for at mindske risiciene ved AI og samtidig understrege dens anvendelser og fordele. Risiciene er både umiddelbare, f.eks. massefyringer, og mellem- eller langsigtede, f.eks. hvis autonom AI begynder at overgå menneskelig intelligens, og vi mister kontrollen.
Dan Hendrycks, direktør for Center for AI Safety, fortalte Sky News"Mennesket har været den dominerende art på jorden på grund af vores intelligens. Men nu, hvor kunstig intelligens bliver stærkere og mere intelligent, vil vi ikke indtage den samme position i fremtiden."
AI: håndgribelige og uhåndgribelige risici
Hvordan slutter din yndlingsfilm med AI-tema? Der er noget næsten medfødt ved risikoen for kunstig intelligens, en instinktiv frygt for, hvad der sker, når "robotterne tager over".
Men lige nu er de langsigtede risici ved AI primært uhåndgribelige og i vid udstrækning baseret på formodninger, abstraktioner og fremskrivninger.
Den første håndgribelige effekt af AI vil sandsynligvis kunne mærkes på jobmarkedet, hvor over 375 millioner jobs vil være i fare inden 2030. AI udvikler sig hurtigt, så dette kan vise sig at være et konservativt skøn. AI risikerer også diskrimination, efterligning, cybersikkerhedsrisici og brug af våben.
Teknologiledere og akademikere anerkender, at vi er på vej gennem en periode med hurtig innovation, hvor den teknologiske udvikling overhaler forskningen.
Det er sket flere gange i menneskehedens historie, f.eks. i forbindelse med udviklingen af atom- og kerneenergi og skabelsen af internettet. Tidligere på måneden opfordrede OpenAI's Sam Altman til dannelsen af et internationalt agentur for kunstig intelligens i stil med Det Internationale Atomenergiagentur dannet i 1950'erne.
Uanset hvilke risici der er forbundet med kunstig intelligens, vil vi sandsynligvis støde direkte ind i dem, da det er svært at forestille sig, at big tech kan bremse deres fremskridt, og mAlle analytikere mener, at selvregulering er en ønskedrøm.
Skeptikere tvivler på fremskridt inden for AI
AI-debatten er ikke envejstrafik, og nogle er skeptiske over for, hvor hurtigt debatten er eskaleret til en fortælling på udryddelsesniveau.
For eksempel er vi stadig ikke i stand til at bygge effektive AI-systemer, såsom førerløse biler, som ville virke rudimentære, hvis AI skulle overtage planeten.
Desuden er AI's computeriserede intelligens svær at sammenligne med menneskelig intelligens. Mennesker og andre biologiske organismer kan behandle komplekse sansedata på tværs af de fem sanser på bare millisekunder. Robotter kan ikke engang konkurrere med babyer når det gælder sensoriske opgaver.
Mere bemærkelsesværdigt er den menneskelige hjernes energieffektivitet - den bruger mindre strøm end en elpære. I øjeblikket kræver datacentrene bag AI'er som ChatGPT samme mængde strøm som en by. Biologiens forspring i forhold til computere handler om mere end intelligens.
Men selv om det er let at påpege fejl i de futuristiske visioner om robotter, der overtager planeten, udelukker det ikke, at mennesker bruger AI til at udvide deres egne evner i negativ retning, hvilket er en langt mere umiddelbar risiko. Indtil videre ligger risikoen hos os snarere end hos selve teknologien.
Selvom AI har lang vej igen, før den bogstaveligt talt er iblandt os, er CAIS-erklæringen en vigtig milepæl i forhold til at afbøde overhængende risici, såsom AI-jobudskiftning, bedrag og våbenbrug.
For at gøre budskabet mere troværdigt er vi nødt til snart at se beviser på samarbejde mellem hovedpersonerne, som er mere end blot underskrifter.
