{"id":1702,"date":"2023-06-14T10:34:37","date_gmt":"2023-06-14T10:34:37","guid":{"rendered":"https:\/\/dailyai.com\/?p=1702"},"modified":"2023-06-28T22:11:46","modified_gmt":"2023-06-28T22:11:46","slug":"ai-companies-want-regulation-but-is-it-for-the-right-reasons","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2023\/06\/ai-companies-want-regulation-but-is-it-for-the-right-reasons\/","title":{"rendered":"AI-selskaper \u00f8nsker regulering, men er det av de rette grunnene?"},"content":{"rendered":"

AI-selskaper presser p\u00e5 for regulering. Er motivasjonen deres paranoia eller altruisme? Eller sikrer regulering konkurransemessige m\u00e5l?<\/b><\/p>\n

I begynnelsen av mai skrev Luke Sernau, en senior programvareingeni\u00f8r hos Google, et uformelt notat om AI med \u00e5pen kildekode. Det ble spredt p\u00e5 Googles interne systemer f\u00f8r konsulentselskapet Semi-Analysis, <\/span>verifisert og publisert den<\/span><\/a>.\u00a0<\/span><\/p>\n

Her er noen utdrag:<\/span><\/p>\n

\"Vi har sett oss mye over skulderen i OpenAI. Hvem kommer til \u00e5 passere neste milep\u00e6l? Hva blir det neste trekket?<\/span><\/p>\n

Men den ubehagelige sannheten er at vi ikke er i posisjon til \u00e5 vinne dette v\u00e5penkappl\u00f8pet, og det er heller ikke OpenAI. Mens vi har kranglet, har en tredje fraksjon i det stille spist lunsjen v\u00e5r. Jeg snakker selvf\u00f8lgelig om \u00e5pen kildekode.<\/span><\/p>\n

De er rett og slett i ferd med \u00e5 overkj\u00f8re oss. Ting vi anser som \"store \u00e5pne problemer\", er l\u00f8st og i folks hender i dag. Selv om v\u00e5re modeller fortsatt har et lite forsprang n\u00e5r det gjelder kvalitet, blir avstanden forbausende raskt mindre.<\/span><\/p>\n

Modeller med \u00e5pen kildekode er raskere, mer tilpasningsdyktige, mer private og mer effektive. De gj\u00f8r ting med $100 og 13B-parametere som vi sliter med p\u00e5 $10M og 540B. Og de gj\u00f8r det p\u00e5 uker, ikke m\u00e5neder.<\/span><\/p>\n

I begynnelsen av mars fikk open source-fellesskapet sin f\u00f8rste virkelig kapable grunnmodell i hendene, da Metas LLaMA ble lekket til offentligheten.<\/span><\/p>\n

Den hadde ingen instruksjon eller samtaleinnstilling, og ingen RLHF. Likevel forsto samfunnet umiddelbart betydningen av det de hadde f\u00e5tt. En enorm str\u00f8m av innovasjon fulgte, og det gikk bare noen dager mellom de store utviklingene...<\/span><\/p>\n

Her er vi, knapt en m\u00e5ned senere, og det finnes varianter med instruksjonsjustering, kvantisering, kvalitetsforbedringer, menneskelige evalueringer, multimodalitet, RLHF, etc., etc., hvorav mange bygger p\u00e5 hverandre. Viktigst av alt er at de har l\u00f8st skaleringsproblemet i den grad at hvem som helst kan flikke p\u00e5 det.<\/span><\/p>\n

Mange av de nye ideene kommer fra vanlige folk. Inngangsbarrieren for oppl\u00e6ring og eksperimentering har sunket fra den totale produksjonen til en stor forskningsorganisasjon til \u00e9n person, en kveld og en kraftig b\u00e6rbar datamaskin.\"<\/span><\/p>\n

Sernaus notat ble plukket opp av store nyhetsbyr\u00e5er og utl\u00f8ste en debatt om hvorvidt big tech-teknologiens press for regulering skjuler et motiv for \u00e5 tvinge AI med \u00e5pen kildekode ut av spillet. <\/span>Ben Schrekcinger fra Politico skriver<\/span><\/a>\"\u00c5pen kildekode er ogs\u00e5 vanskeligere \u00e5 forby, siden nye instanser kan dukke opp hvis myndighetene fors\u00f8ker \u00e5 stenge et nettsted eller et verkt\u00f8y som bruker den. Kombinert med andre desentraliserende funksjoner har disse \u00e5pen kildekode-prosjektene potensial til \u00e5 forstyrre ikke bare Silicon Valleys forretningsmodell, men ogs\u00e5 styringsmodellene i Washington og Brussel.\"<\/span><\/p>\n

Open source-milj\u00f8et for kunstig intelligens blomstrer allerede. Utviklere l\u00f8ser utfordringer p\u00e5 f\u00e5 dager som det tar Google og OpenAI m\u00e5neder eller \u00e5r \u00e5 l\u00f8se. Sernau hevder at smidige milj\u00f8er med \u00e5pen kildekode-utviklere er bedre rustet til \u00e5 bygge iterative modeller enn big tech, ettersom de er mer mangfoldige, effektive og pragmatiske.<\/p>\n

Hvis dette er tilfelle, kan big tech-teknologiens dominans over AI bli kortvarig.<\/p>\n

Meta LLaMA-lekkasjen<\/span><\/h2>\n

Metas LLaMA-modell, en stor spr\u00e5kmodell (LLM) i likhet med ChatGPT, ble lekket p\u00e5 4chan<\/a> en uke etter at selskapet sendte ut innsynsbegj\u00e6ringer. <\/span>Den 3. mars dukket det opp en nedlastbar torrent p\u00e5 meldingsforumet, og den spredte seg som ild i t\u00f8rt gress.<\/span><\/p>\n

\"\"
Metas LLaMA er en grunnleggende, 65 milliarder parametere stor spr\u00e5kmodell (LLM).<\/figcaption><\/figure>\n

Som Sernau p\u00e5peker, fortsatte open source-fellesskapet med \u00e5 modifisere LLaMA, og la til imponerende funksjonalitet uten bruk av bedriftens dataressurser.\u00a0<\/span><\/p>\n

Det er billigere enn noensinne \u00e5 bygge kraftige AI-modeller, og \u00e5pen kildekode-milj\u00f8er presser p\u00e5 for \u00e5 demokratisere tilgangen. Mens LLaMA i stor grad er en ferdig trent modell, er andre modeller med \u00e5pen kildekode, som BLOOM, trent opp av frivillige. <\/span><\/p>\n

Oppl\u00e6ringen av BLOOM krevde en superdatamaskin utstyrt med 384 NVIDIA A100 80 GB GPU-er, som heldigvis ble donert av den franske regjeringen. Open source AI-selskapet Together kunngjorde nylig $20 millioner i s\u00e5kornfinansiering, og AI-fokuserte skyleverand\u00f8rer som CoreWeave<\/a> tilby maskinvare under markedspris. <\/span><\/p>\n

\u00c5pen kildekode-prosjekter har ulike m\u00e5ter \u00e5 fokusere ressurser p\u00e5 og utkonkurrere de store teknologiene p\u00e5.\u00a0<\/span>Big tech vil nok gjerne at vi skal tro at deres AI-er er et produkt av flere ti\u00e5r med arbeid og milliarder av dollar i investeringer -<\/span> er \u00e5pen kildekode-samfunnet sannsynligvis uenig.<\/p>\n

P\u00e5 et arrangement i India spurte den tidligere Google-sjefen Rajan Anandan OpenAI-sjef Sam Altman om indiske ingeni\u00f8rer kunne bygge grunnleggende AI-modeller med en investering p\u00e5 $10 millioner kroner.<\/span><\/p>\n

Altman svarte: \"Det er helt h\u00e5pl\u00f8st \u00e5 konkurrere med oss p\u00e5 trening av grunnmodeller. Du b\u00f8r ikke pr\u00f8ve, og det er din jobb \u00e5 like \u00e5 pr\u00f8ve uansett. Og jeg tror p\u00e5 begge disse tingene. Jeg tror det er ganske h\u00e5pl\u00f8st.\"<\/span><\/p>\n

Men i notatet sitt uttrykker Sernau at \u00e5pen kildekode allerede konkurrerer med big tech. Han sier: \"Det blir enda vanskeligere \u00e5 beholde et konkurransefortrinn innen teknologi n\u00e5 som det er rimelig \u00e5 drive med banebrytende forskning innen LLM. Forskningsinstitusjoner over hele verden bygger p\u00e5 hverandres arbeid og utforsker l\u00f8sningsrommet p\u00e5 en m\u00e5te som langt overg\u00e5r v\u00e5r egen kapasitet.\"<\/span><\/p>\n

Open source-utviklere bygger alternativer til de store teknologiselskapenes AI-er og g\u00e5r forbi dem n\u00e5r det gjelder ytelse og brukerstatistikk. <\/span><\/p>\n

For eksempel ble Stable Diffusion med \u00e5pen kildekode mer popul\u00e6r enn OpenAIs DALL-E i l\u00f8pet av noen m\u00e5neder etter lanseringen.\u00a0<\/span><\/p>\n

\"Stabil
Den \u00e5pne kildekodebaserte Stable Diffusion gikk raskt forbi OpenAIs egenutviklede DALL-E. Kilde: Google Trends: Google Trends.<\/figcaption><\/figure>\n

I hvilken grad kan vi lirke fra hverandre potensielle baktanker her? Har big tech-bransjens regulatoriske fremst\u00f8t noen altruistisk verdi?<\/span><\/p>\n

AI-fellesskapet med \u00e5pen kildekode<\/span><\/h2>\n

I tillegg til LLaMA finnes det minst tre st\u00f8rre eksempler p\u00e5 AI-prosjekter med \u00e5pen kildekode:<\/span>
\n<\/span><\/p>\n