Sam Altman anser att internationella organ bör övervaka AI-modeller

13 maj 2024
  • OpenAI:s VD Sam Altman säger att en internationell myndighet bör övervaka de mest kraftfulla AI-modellerna
  • Altman säger att framtida AI-modeller kan komma att orsaka betydande global skada
  • Lagstiftningen kanske inte är tillräckligt flexibel för att ta hänsyn till snabbt föränderlig AI-teknik

OpenAI VD, Sam Altman, säger att en internationell byrå bör inrättas för att övervaka kraftfulla framtida AI-modeller för att garantera säkerheten.

I en intervju i podcasten All-In, Altman sa att vi snart kommer att få se AI-modeller som är betydligt kraftfullare och potentiellt farligare.

Altman "Jag tror att det kommer att komma en tid i en inte alltför avlägsen framtid, som om vi inte pratar om årtionden och årtionden från och med nu, där AI-system i framkant kan orsaka betydande global skada."

Den US och EU myndigheter har båda antagit lagstiftning för att reglera AI, men Altman tror inte att stelbent lagstiftning kan hålla jämna steg med hur snabbt AI utvecklas. Han är också kritisk till enskilda US stater som försöker reglera AI på egen hand.

På tal om förväntade avancerade AI-system, Altman "Och för den typen av system på samma sätt som vi har global tillsyn av kärnvapen eller syntetisk bioteknik eller saker som verkligen kan ha en mycket negativ inverkan långt bortom ett lands gränser.

Jag skulle vilja se någon form av internationell byrå som tittar på de mest kraftfulla systemen och säkerställer rimliga säkerhetstester."

Altman sade att denna typ av internationell tillsyn skulle vara nödvändig för att förhindra att en superintelligent AI kan "fly och rekursivt självförbättra sig".

Altman konstaterade att det visserligen är nödvändigt att övervaka kraftfulla AI-modeller, men att en överreglering av AI kan hämma utvecklingen.

Hans föreslagna tillvägagångssätt liknar den internationella regleringen av kärnkraft. Internationella atomenergiorganet (IAEA) har tillsyn över medlemsländer som har tillgång till betydande mängder kärnmaterial.

"Om vi bara ska titta på modeller som tränas på datorer som kostar mer än 10 miljarder eller mer än 100 miljarder dollar eller vad som helst, skulle jag ha det bra med det. Det skulle finnas någon linje som skulle vara bra. Och jag tror inte att det lägger någon regleringsbörda på startups", förklarade han.

Altman förklarade varför han ansåg att en byråstrategi var bättre än att försöka lagstifta om AI.

"Anledningen till att jag har drivit på för ett byråbaserat tillvägagångssätt för att få en helhetsbild och inte ... skriva in det i lagar, ... om 12 månader kommer allt att skrivas fel ... Och jag tror inte ens om dessa människor var som, verkliga världsexperter, tror jag inte att de kunde få det rätt. Om vi tittar på 12 eller 24 månader", sa han.

När kommer GPT-5 att släppas?

På frågan om ett lanseringsdatum för GPT-5, Altman var som väntat inte tillmötesgående men antydde att det kanske inte blir som vi tror.

"Vi tar god tid på oss när vi lanserar större modeller... Jag vet inte heller om vi kommer att kalla den GPT-5", säger han.

Altman pekade på de iterativa förbättringarna OpenAI har gjort på GPT-4 och sa att dessa bättre visar hur företaget kommer att rulla ut framtida förbättringar.

Så det verkar som om vi är mindre benägna att se en release av "GPT-5" och mer benägna att få ytterligare funktioner till GPT-4.

Vi måste vänta på OpenAIuppdateringar senare idag för att se om vi får några fler ledtrådar om vad ChatGPT förändringar vi kan förvänta oss att se.

Om du vill lyssna på hela intervjun kan du göra det här lyssna på det här.

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Eugene van der Watt

Eugene kommer från en bakgrund som elektronikingenjör och älskar allt som har med teknik att göra. När han tar en paus från att konsumera AI-nyheter hittar du honom vid snookerbordet.

×
 
 

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI


 

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".



 
 

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar