AI med åpen kildekode, særlig Metas Llama-modeller, har utløst debatt om risikoen ved å slippe kraftige AI-modeller fri for alle.
I forrige uke samlet en gruppe demonstranter seg utenfor Metas kontorer i San Francisco og fordømte selskapets beslutning om å offentliggjøre AI-modellene sine.
På et banner sto det: "Ikke bruk åpen kildekode for dommedag."
Protesten ble lagt ut på Forum for effektiv altruisme og uttalte følgende som begrunnelse: "Metas banebrytende AI-modeller er grunnleggende utrygge ... Før de lanserer enda mer avanserte modeller - som vil ha farligere evner - ber vi Meta om å ta ansvarlig lansering på alvor og stoppe irreversibel spredning."
Demonstrantene skapte også en nettside her, som siterer Zuckerberg bagatelliserer sikkerheten konsekvenser av modellutgivelser med åpen kildekode.
Kort fortalt begrenser fremtredende selskaper som OpenAI og Google sine store språkmodeller (LLM-er) til API-tilgang. De er lukkede "svarte bokser", noe som betyr at offentligheten ikke kan se hva som skjer inne i modellen - bare hva som er input og output.
Meta skapte derimot overskrifter ved å tilby LLaMA-modellene sine åpent til AI-forskningsmiljøet. Dette gjør det mulig for teknisk kyndige personer å tilpasse og stille inn modellene slik at de utnytter sitt fulle potensial, i motsetning til lukkede AI-er som er programmert med sikkerhetsrekkverk.
Metas tilnærming til AI-utvikling
Meta har hatt en litt antagonistisk rolle i utviklingen av kunstig intelligens.
Mens Google, OpenAI, Microsoft og nystartede selskaper som Anthropic og Inflection skynder seg å bygge lukkede AI-er som holdes under lås og slå, har Meta valgt å kaste sine open source-modeller ut i det offentlige rom som en levende granat.
Åpen kildekode for kunstig intelligens truer markedsstrukturene Microsoft, OpenAI osv. er avhengige av for å tjene penger på produktene sine.
Metas lamamodell ble som kjent lekket på 4Chan før den offisielle lanseringen, og det tok ikke lang tid før selskapet gikk et skritt videre ved å lansere Llama 2.
Demonstrantene hevder at Metas initiativer for åpen kildekode symboliserer en "irreversibel spredning" av muligens farlig teknologi. Andre er imidlertid helt uenige, og hevder at AI med åpen kildekode er avgjørende for å demokratisere teknologien og skape tillit via åpenhet.
Holly Elmore, som sto i spissen for fredagens protest utenfor Meta, understreket at når modellvekter som påvirker modellens inn- og utdata, er i det offentlige rom, mister skaperne kontrollen. Modeller med åpen kildekode kan modifiseres og omkonstrueres med uetiske eller ulovlige konsekvenser.
Elmore, som tidligere har vært tilknyttet tenketanken Rethink Priorities, uttalte: "Å frigjøre vekter er en farlig politikk ... Jo kraftigere modellene blir, desto farligere kommer denne politikken til å bli."
AI med åpen kildekode vil fortsatt være et kontroversielt tema, men å overlate kontrollen over teknologien til noen få utvalgte er muligens ikke et gunstig alternativ.
