Het Open Source Initiative (OSI) heeft een bijgewerkte conceptdefinitie uitgebracht van wat open-source AI is en zegt dat de modellen van Meta daar niet voor in aanmerking komen, ondanks de beweringen van het bedrijf.
Mark Zuckerberg heeft zich uitgesproken over Meta's toewijding aan wat volgens hem open-source AI is. Maar hoewel modellen zoals Llama 3.1 minder ondoorzichtig zijn dan de propriëtaire modellen van OpenAI of Google, suggereren discussies in de OSI-gemeenschap dat Meta de term losjes gebruikt.
Op een online openbaar stadhuisevenement op vrijdag besprak het OSI de criteria waaraan een echt open-source AI-model volgens het OSI zou moeten voldoen. De OSI noemt deze criteria de "4 vrijheden" en zegt dat een open-source AI "een AI-systeem is dat beschikbaar wordt gesteld onder voorwaarden en op een manier die de vrijheden toekennen aan:
- Gebruik het systeem voor elk doel en zonder toestemming te vragen.
- Bestudeer hoe het systeem werkt en inspecteer de onderdelen.
- Het systeem wijzigen voor welk doel dan ook, inclusief het wijzigen van de uitvoer.
- Deel het systeem zodat anderen het kunnen gebruiken, met of zonder aanpassingen, voor welk doel dan ook."
Om een AI-model te kunnen aanpassen, moeten de OSI's Open AI-definitie zegt dat de gewichten en broncode open moeten zijn en dat de trainingsdataset beschikbaar moet zijn.
De licentie van Meta legt een aantal beperkingen op aan hoe de modellen gebruikt kunnen worden en Meta heeft geweigerd om de trainingsgegevens vrij te geven die gebruikt zijn om de modellen te trainen. Als je accepteert dat de OSI de hoeder is van wat "open-source" betekent, dan is de implicatie dat Meta de waarheid verdraait als het zijn modellen "open" noemt.
De OSI is een Californische organisatie van openbaar nut die vertrouwt op de inbreng van de gemeenschap om open-source standaarden te ontwikkelen. Sommigen in die gemeenschap hebben Mark Zuckerberg beschuldigd van het "open wassen" van Meta's modellen en het pesten van de industrie om zijn versie te accepteren in plaats van de definitie van de OSI.
Shuji Sado, voorzitter van Open Source Group Japan, zei: "Het is mogelijk dat Zuckerberg een andere definitie van Open Source heeft dan wij," en suggereerde dat het onduidelijke juridische landschap rond AI-trainingsgegevens en auteursrecht hier de reden van zou kunnen zijn.
Open Source AI-definitie - Wekelijkse update 23 september https://t.co/flbb3yGCmx
- Open Source Initiatief @[email protected] (@OpenSourceOrg) 23 september 2024
Woorden zijn belangrijk
Dit klinkt misschien allemaal als een discussie over semantiek, maar afhankelijk van de definitie die de AI-industrie hanteert, kan dit ernstige juridische gevolgen hebben.
Meta heeft een moeilijke tijd achter de rug met de EU GDPR-wetgeving over zijn onverzadigbare honger naar de sociale mediagegevens van gebruikers. Sommige mensen beweren dat Meta's losse definitie van "open-source AI" een poging is om nieuwe wetten zoals de GDPR te omzeilen. EU AI Act.
De wet voorziet in een beperkte uitzondering voor AI-modellen voor algemene doeleinden (GPAIM's) die worden vrijgegeven onder open source licenties. Deze modellen zijn vrijgesteld van bepaalde transparantieverplichtingen, hoewel ze nog steeds een samenvatting moeten geven van de inhoud die is gebruikt om het model te trainen.
Aan de andere kant is de voorgestelde SB 1047 Californië AI-veiligheidswet ontmoedigt bedrijven als Meta om hun modellen af te stemmen op de OSI-definitie. Het wetsvoorstel verplicht complexe veiligheidsprotocollen voor "open" modellen en stelt ontwikkelaars aansprakelijk voor schadelijke wijzigingen en misbruik door slechte actoren.
SB 1047 definieert open-source AI-tools als "kunstmatige intelligentiemodellen die vrijelijk beschikbaar worden gesteld en vrijelijk kunnen worden aangepast en gedistribueerd". Betekent dit dat een AI-model dat kan worden verfijnd door een gebruiker "open" is of zou de definitie alleen van toepassing zijn als het model alle OSI-vakjes aankruist?
Voorlopig biedt de vaagheid Meta de marketingvoordelen en ruimte om te onderhandelen over wetgeving. Op een gegeven moment zal de industrie zich moeten committeren aan een definitie. Zal het gedefinieerd worden door een groot techbedrijf zoals Meta of door een gemeenschapsgedreven organisatie zoals de OSI?
