OpenAI CEO, Sam Altmanzegt dat er een internationaal agentschap moet worden opgericht om toezicht te houden op krachtige AI-modellen in de toekomst om de veiligheid te garanderen.
In een interview op de All-In podcast, Altman zei dat we binnenkort grensverleggende AI-modellen zullen zien die aanzienlijk krachtiger en mogelijk gevaarlijker zullen zijn.
Altman zei: "Ik denk dat er een tijd komt in de niet al te verre toekomst, we hebben het niet over tientallen jaren vanaf nu, waarin grensverleggende AI-systemen in staat zijn om aanzienlijke wereldwijde schade te veroorzaken."
De US en EU autoriteiten hebben beide wetgeving aangenomen om AI te reguleren, maar Altman gelooft niet dat starre wetgeving de snelle vooruitgang van AI kan bijhouden. Hij is ook kritisch over individuele US staten die proberen AI onafhankelijk te reguleren.
Over verwachte geavanceerde AI-systemen gesproken, Altman zei: "En voor dat soort systemen hebben we op dezelfde manier wereldwijd toezicht op kernwapens of synthetische bio of dingen die echt een zeer negatieve impact kunnen hebben ver buiten het bereik van één land.
Ik zou graag een soort internationaal agentschap zien dat naar de krachtigste systemen kijkt en zorgt voor redelijke veiligheidstests."
Altman zei dat dit soort internationaal toezicht nodig zou zijn om te voorkomen dat een superintelligente AI kan "ontsnappen en zichzelf recursief kan verbeteren".
Altman erkende dat toezicht op krachtige AI-modellen noodzakelijk is, maar dat overregulering van AI de vooruitgang in de kiem kan smoren.
De aanpak die hij voorstelt is vergelijkbaar met internationale nucleaire regelgeving. De Internationale Organisatie voor Atoomenergie houdt toezicht op lidstaten die toegang hebben tot aanzienlijke hoeveelheden nucleair materiaal.
"Als we alleen gaan kijken naar modellen die zijn getraind op computers die meer dan 10 miljard of meer dan 100 miljard of wat dan ook kosten, zou ik dat prima vinden. Er zou een lijn zijn die prima is. En ik denk niet dat dat een regelgevende last legt op startups," legde hij uit.
Altman legde uit waarom hij vond dat de aanpak van agentschappen beter was dan proberen AI wettelijk vast te leggen.
"De reden dat ik heb aangedrongen op een agentschap-gebaseerde aanpak voor de grote lijnen en niet... het in wetten schrijven,... over 12 maanden zal het allemaal verkeerd geschreven zijn... En ik denk dat zelfs als deze mensen echte wereldexperts zouden zijn, ik niet denk dat ze het goed zouden kunnen krijgen. Als je kijkt naar 12 of 24 maanden," zei hij.
Wanneer komt GPT-5 uit?
Gevraagd naar een releasedatum voor de GPT-5, Altman was voorspelbaar onverbiddelijk, maar liet doorschemeren dat het misschien niet gebeurt zoals we denken.
"We nemen onze tijd bij het uitbrengen van grote modellen... Ik weet ook niet of we het GPT-5 zullen noemen," zei hij.
Altman wees op de iteratieve verbeteringen OpenAI heeft gemaakt op GPT-4 en zei dat deze beter aangeven hoe het bedrijf toekomstige verbeteringen zal uitrollen.
Het lijkt er dus op dat er minder kans is op een release van "GPT-5" en meer kans op extra functies die worden toegevoegd aan GPT-4.
We moeten wachten op OpenAIupdate-aankondigingen later vandaag om te zien of we meer aanwijzingen krijgen over wat ChatGPT veranderingen die we kunnen verwachten.
Als je het volledige interview wilt beluisteren, kun je beluister het hier.
