OpenAI CEO, Sam Altmansiger, at der bør oprettes et internationalt agentur, som skal overvåge fremtidens kraftfulde AI-modeller for at garantere sikkerheden.
I et interview på All-In-podcasten, Altman sagde, at vi snart vil se avancerede AI-modeller, der vil være betydeligt mere kraftfulde og potentielt farligere.
Altman sagde: "Jeg tror, at der vil komme et tidspunkt i en ikke særlig fjern fremtid, hvor vi ikke taler om årtier og årtier fra nu, hvor avancerede AI-systemer er i stand til at forårsage betydelig global skade."
Den US og EU myndigheder har begge vedtaget lovgivning for at regulere AI, men Altman mener ikke, at ufleksibel lovgivning kan holde trit med, hvor hurtigt AI udvikler sig. Han er også kritisk over for individuelle US stater, der forsøger at regulere AI uafhængigt.
Når vi taler om forventede avancerede AI-systemer, Altman "Og for den slags systemer på samme måde, som vi har globalt tilsyn med atomvåben eller syntetisk bio eller ting, der virkelig kan have en meget negativ indvirkning langt ud over et enkelt lands område.
Jeg kunne godt tænke mig at se en form for internationalt agentur, der kigger på de mest kraftfulde systemer og sikrer en rimelig sikkerhedstest."
Altman sagde, at denne form for internationalt tilsyn ville være nødvendigt for at forhindre, at en superintelligent AI kunne "flygte og forbedre sig selv igen og igen".
Altman anerkendte, at selvom det er nødvendigt at føre tilsyn med kraftfulde AI-modeller, kan overregulering af AI kvæle fremskridtet.
Hans foreslåede tilgang ligner international regulering af atomkraft. Det Internationale Atomenergiagentur fører tilsyn med medlemslande, der har adgang til betydelige mængder af nukleart materiale.
"Hvis vi kun vil se på modeller, der er trænet på computere, der koster mere end 10 milliarder eller mere end 100 milliarder dollars, ville jeg have det fint med det. Der ville være en grænse, som ville være fin. Og jeg tror ikke, at det lægger nogen lovgivningsmæssig byrde på nystartede virksomheder," forklarede han.
Altman forklarede, hvorfor han mente, at agenturets tilgang var bedre end at forsøge at lovgive om AI.
"Grunden til, at jeg har presset på for en agenturbaseret tilgang, er, at det handler om det store billede og ikke ... at skrive det i love, ... om 12 måneder vil det hele være skrevet forkert ... Og jeg tror ikke, at selv om disse mennesker var ægte verdenseksperter, så tror jeg ikke, at de kunne gøre det rigtigt. Hvis vi ser på 12 eller 24 måneder," sagde han.
Hvornår bliver GPT-5 udgivet?
På spørgsmålet om en udgivelsesdato for GPT-5, Altman var forudsigeligt afvisende, men antydede, at det måske ikke sker på den måde, vi tror.
"Vi tager os god tid, når vi udgiver større modeller ... Jeg ved heller ikke, om vi vil kalde den GPT-5," sagde han.
Altman pegede på de iterative forbedringer OpenAI har lavet på GPT-4 og sagde, at disse bedre indikerer, hvordan virksomheden vil udrulle fremtidige forbedringer.
Så det ser ud til, at det er mindre sandsynligt, at vi får en udgivelse af "GPT-5", og mere sandsynligt, at vi får tilføjet yderligere funktioner til GPT-4.
Vi bliver nødt til at vente på OpenAI's opdateringsmeddelelser senere i dag for at se, om vi får flere ledetråde om, hvad ChatGPT ændringer, vi kan forvente at se.
Hvis du vil lytte til hele interviewet, kan du gøre det her Lyt til det her.
