Sam Altman siger, at internationalt agentur bør overvåge AI-modeller

13. maj 2024
  • OpenAI's CEO Sam Altman siger, at et internationalt agentur bør overvåge de mest kraftfulde AI-modeller
  • Altman siger, at fremtidige avancerede AI-modeller kan være i stand til at forårsage betydelig global skade
  • Lovgivningen er måske ikke fleksibel nok til at tage højde for hurtigt skiftende AI-teknologier

OpenAI CEO, Sam Altmansiger, at der bør oprettes et internationalt agentur, som skal overvåge fremtidens kraftfulde AI-modeller for at garantere sikkerheden.

I et interview på All-In-podcasten, Altman sagde, at vi snart vil se avancerede AI-modeller, der vil være betydeligt mere kraftfulde og potentielt farligere.

Altman sagde: "Jeg tror, at der vil komme et tidspunkt i en ikke særlig fjern fremtid, hvor vi ikke taler om årtier og årtier fra nu, hvor avancerede AI-systemer er i stand til at forårsage betydelig global skade."

Den US og EU myndigheder har begge vedtaget lovgivning for at regulere AI, men Altman mener ikke, at ufleksibel lovgivning kan holde trit med, hvor hurtigt AI udvikler sig. Han er også kritisk over for individuelle US stater, der forsøger at regulere AI uafhængigt.

Når vi taler om forventede avancerede AI-systemer, Altman "Og for den slags systemer på samme måde, som vi har globalt tilsyn med atomvåben eller syntetisk bio eller ting, der virkelig kan have en meget negativ indvirkning langt ud over et enkelt lands område.

Jeg kunne godt tænke mig at se en form for internationalt agentur, der kigger på de mest kraftfulde systemer og sikrer en rimelig sikkerhedstest."

Altman sagde, at denne form for internationalt tilsyn ville være nødvendigt for at forhindre, at en superintelligent AI kunne "flygte og forbedre sig selv igen og igen".

Altman anerkendte, at selvom det er nødvendigt at føre tilsyn med kraftfulde AI-modeller, kan overregulering af AI kvæle fremskridtet.

Hans foreslåede tilgang ligner international regulering af atomkraft. Det Internationale Atomenergiagentur fører tilsyn med medlemslande, der har adgang til betydelige mængder af nukleart materiale.

"Hvis vi kun vil se på modeller, der er trænet på computere, der koster mere end 10 milliarder eller mere end 100 milliarder dollars, ville jeg have det fint med det. Der ville være en grænse, som ville være fin. Og jeg tror ikke, at det lægger nogen lovgivningsmæssig byrde på nystartede virksomheder," forklarede han.

Altman forklarede, hvorfor han mente, at agenturets tilgang var bedre end at forsøge at lovgive om AI.

"Grunden til, at jeg har presset på for en agenturbaseret tilgang, er, at det handler om det store billede og ikke ... at skrive det i love, ... om 12 måneder vil det hele være skrevet forkert ... Og jeg tror ikke, at selv om disse mennesker var ægte verdenseksperter, så tror jeg ikke, at de kunne gøre det rigtigt. Hvis vi ser på 12 eller 24 måneder," sagde han.

Hvornår bliver GPT-5 udgivet?

På spørgsmålet om en udgivelsesdato for GPT-5, Altman var forudsigeligt afvisende, men antydede, at det måske ikke sker på den måde, vi tror.

"Vi tager os god tid, når vi udgiver større modeller ... Jeg ved heller ikke, om vi vil kalde den GPT-5," sagde han.

Altman pegede på de iterative forbedringer OpenAI har lavet på GPT-4 og sagde, at disse bedre indikerer, hvordan virksomheden vil udrulle fremtidige forbedringer.

Så det ser ud til, at det er mindre sandsynligt, at vi får en udgivelse af "GPT-5", og mere sandsynligt, at vi får tilføjet yderligere funktioner til GPT-4.

Vi bliver nødt til at vente på OpenAI's opdateringsmeddelelser senere i dag for at se, om vi får flere ledetråde om, hvad ChatGPT ændringer, vi kan forvente at se.

Hvis du vil lytte til hele interviewet, kan du gøre det her Lyt til det her.

Deltag i fremtiden


TILMELD DIG I DAG

Klar, kortfattet, omfattende. Få styr på AI-udviklingen med DailyAI

Eugene van der Watt

Eugene har en baggrund som elektronikingeniør og elsker alt, hvad der har med teknologi at gøre. Når han tager en pause fra at læse AI-nyheder, kan du finde ham ved snookerbordet.

×
 
 

GRATIS PDF EKSKLUSIVT
Vær på forkant med DailyAI


 

Tilmeld dig vores ugentlige nyhedsbrev og få eksklusiv adgang til DailyAI's seneste e-bog: 'Mastering AI Tools: Din 2024-guide til forbedret produktivitet'.



 
 

*Ved at tilmelde dig vores nyhedsbrev accepterer du vores Politik for beskyttelse af personlige oplysninger og vores Vilkår og betingelser