Her er nogle uddrag:<\/span><\/p>\n \"Vi har kigget os meget over skulderen hos OpenAI. Hvem passerer den n\u00e6ste milep\u00e6l? Hvad bliver det n\u00e6ste tr\u00e6k?<\/span><\/p>\n Men den ubehagelige sandhed er, at vi ikke er i stand til at vinde dette v\u00e5benkapl\u00f8b, og det er OpenAI heller ikke. Mens vi har sk\u00e6ndtes, har en tredje fraktion stille og roligt spist vores frokost. Jeg taler selvf\u00f8lgelig om open source.<\/span><\/p>\n Kort sagt, de overhaler os. Ting, vi betragter som \"store \u00e5bne problemer\", er l\u00f8st og i folks h\u00e6nder i dag. Selv om vores modeller stadig har en lille fordel, n\u00e5r det g\u00e6lder kvalitet, lukkes hullet forbavsende hurtigt.<\/span><\/p>\n Open source-modeller er hurtigere, kan tilpasses mere, er mere private og er mere effektive. De g\u00f8r ting med $100 og 13B params, som vi k\u00e6mper med p\u00e5 $10M og 540B. Og de g\u00f8r det p\u00e5 uger, ikke m\u00e5neder.<\/span><\/p>\n I begyndelsen af marts fik open source-samfundet fingrene i deres f\u00f8rste virkelig dygtige foundation-model, da Metas LLaMA blev l\u00e6kket til offentligheden.<\/span><\/p>\n Den havde ingen instruktion eller samtaleindstilling og ingen RLHF. Ikke desto mindre forstod samfundet straks betydningen af det, de havde f\u00e5et. En enorm str\u00f8m af innovation fulgte, med kun f\u00e5 dages mellemrum mellem st\u00f8rre udviklinger...<\/span><\/p>\n Her er vi, knap en m\u00e5ned senere, og der er varianter med instruktionstuning, kvantisering, kvalitetsforbedringer, menneskelige evalueringer, multimodalitet, RLHF osv. osv. Vigtigst af alt har de l\u00f8st skaleringsproblemet i en s\u00e5dan grad, at alle kan v\u00e6re med.<\/span><\/p>\n Mange af de nye ideer kommer fra almindelige mennesker. Adgangsbarrieren for uddannelse og eksperimenter er faldet fra den samlede produktion fra en stor forskningsorganisation til en person, en aften og en stor b\u00e6rbar computer.\"<\/span><\/p>\n Sernaus memo blev taget op af store nyhedsbureauer og udl\u00f8ste en debat om, hvorvidt big tech's pres for regulering d\u00e6kker over et motiv om at tvinge open source AI ud af spillet. <\/span>Ben Schrekcinger fra Politico skriver<\/span><\/a>\"Open source-kode er ogs\u00e5 sv\u00e6rere at forbyde, da nye instanser kan dukke op, hvis myndighederne fors\u00f8ger at lukke en hjemmeside eller et v\u00e6rkt\u00f8j, der bruger den. Kombineret med andre decentraliserende funktioner har disse open source-projekter potentiale til at forstyrre ikke bare Silicon Valleys forretningsmodel, men ogs\u00e5 styringsmodellerne i Washington og Bruxelles.\"<\/span><\/p>\n Open source AI-f\u00e6llesskabet trives allerede i bedste velg\u00e5ende. Udviklere l\u00f8ser udfordringer p\u00e5 f\u00e5 dage, som tager Google og OpenAI m\u00e5neder eller \u00e5r. Sernau h\u00e6vder, at smidige f\u00e6llesskaber af open source-udviklere er bedre rustet til at bygge iterative modeller end big tech, da de er mere forskelligartede, effektive og pragmatiske.<\/p>\n Hvis det er tilf\u00e6ldet, kan big tech's dominans over AI v\u00e6re kortvarig.<\/p>\n Metas LLaMA-model, en stor sprogmodel (LLM) ligesom ChatGPT, var l\u00e6kket p\u00e5 4chan<\/a> en uge efter, at virksomheden sendte anmodninger om adgang. <\/span>Den 3. marts dukkede en torrent, der kunne downloades, op p\u00e5 messaging-forummet og spredte sig som en steppebrand.<\/span><\/p>\n Som Sernau siger, fortsatte open source-f\u00e6llesskabet med at modificere LLaMA og tilf\u00f8jede imponerende funktionalitet uden virksomhedens computerressourcer.\u00a0<\/span><\/p>\n Det er billigere end nogensinde at bygge kraftfulde AI-modeller, og open source-f\u00e6llesskaber presser p\u00e5 for at demokratisere adgangen. Mens LLaMA stort set er en forudtr\u00e6net model, er andre open source-modeller som BLOOM blevet tr\u00e6net af frivillige. <\/span><\/p>\n Tr\u00e6ning af BLOOM kr\u00e6vede en supercomputer udstyret med 384 NVIDIA A100 80GB GPU'er, som heldigvis blev doneret af den franske regering. Open source AI-virksomheden Together annoncerede for nylig $20m seed funding, og AI-fokuserede cloud-udbydere som CoreWeave<\/a> tilbyde hardware til priser under markedet. <\/span><\/p>\n Open source-projekter har forskellige muligheder for at fokusere ressourcer og udkonkurrere big tech.\u00a0<\/span>Big tech vil sikkert gerne have os til at tro, at deres AI'er er produktet af \u00e5rtiers arbejde og milliarder af dollars i investeringer -<\/span> Open source-samfundet er nok ikke enig.<\/p>\n Ved en begivenhed i Indien spurgte den tidligere Google-direkt\u00f8r Rajan Anandan OpenAI's CEO Sam Altman, om indiske ingeni\u00f8rer kunne bygge grundl\u00e6ggende AI-modeller med en investering p\u00e5 $10 millioner.<\/span><\/p>\n Altman svarede: \"Det er helt h\u00e5bl\u00f8st at konkurrere med os om at tr\u00e6ne grundmodeller. Du skal ikke pr\u00f8ve, og det er dit job at kunne lide at pr\u00f8ve alligevel. Og jeg tror p\u00e5 begge dele. Jeg synes, det er ret h\u00e5bl\u00f8st.\"<\/span><\/p>\n Men i sit memo udtrykker Sernau, at open source allerede konkurrerer med big tech. Han siger: \"Det bliver endnu sv\u00e6rere at fastholde en konkurrencem\u00e6ssig fordel inden for teknologi, nu hvor banebrydende forskning i LLM'er er overkommelig. Forskningsinstitutioner over hele verden bygger videre p\u00e5 hinandens arbejde og udforsker l\u00f8sningsrummet p\u00e5 en m\u00e5de, der langt overg\u00e5r vores egen kapacitet.\"<\/span><\/p>\n Open source-udviklere bygger alternativer til big tech's AI'er og overhaler dem i performance og brugerstatistik. <\/span><\/p>\n For eksempel blev open-source Stable Diffusion mere popul\u00e6r end OpenAI's DALL-E i l\u00f8bet af f\u00e5 m\u00e5neder efter lanceringen.\u00a0<\/span><\/p>\n I hvor h\u00f8j grad kan vi udrede potentielle bagtanker her? Har big tech's regulatoriske fremst\u00f8d nogen altruistisk v\u00e6rdi?<\/span><\/p>\n Ud over LLaMA er der mindst tre st\u00f8rre eksempler p\u00e5 open source AI-projekter:<\/span> Det er v\u00e6rd at bem\u00e6rke, at mens nogle af disse udviklere (f.eks. Stable Diffusion) tilbyder deres modeller via intuitive, brugervenlige dashboards, kr\u00e6ver andre, s\u00e5som BLOOM, betydelige ressourcer for at k\u00f8re. Til at begynde med skal du bruge omkring 360 GB RAM for at k\u00f8re BLOOM, men der er mange smarte tricks til at f\u00e5 ressourcekravene ned.\u00a0<\/span><\/p>\n Efterh\u00e5nden som AI-kompatibel hardware falder i pris, og open source-modeller bliver enklere at implementere, er det meget muligt, at stort set alle kan implementere modeller, der ligner ChatGPT. Googles memo-l\u00e6kage n\u00e6vner eksempler p\u00e5 folk, der har tunet og implementeret LLaMA p\u00e5 forbrugerenheder, herunder en MacBook.\u00a0<\/span><\/p>\n For virksomheder med betydelige IT-ressourcer, <\/span>Open source-modeller sparer penge og giver datasuver\u00e6nitet og kontrol over tr\u00e6ning og optimering.\u00a0<\/span><\/p>\n Det er dog ikke alle, der er optimistiske med hensyn til virkningen af kraftfuld open source AI. For eksempel tweetede cybersikkerhedsforskeren Jeffrey Ladis: \"G\u00f8r dig klar til masser af personlig spam og phishing-fors\u00f8g,\" og \"Open sourcing af disse modeller var en forf\u00e6rdelig id\u00e9.\"<\/span><\/p>\n Spredning af AI g\u00f8r os alle mindre sikre. Det virker som en god ting at forhindre, og ogs\u00e5 som en ret vanskelig udfordring!<\/p>\n Jeg ville ikke blive s\u00e5 overrasket, hvis det lykkedes en statslig akt\u00f8r at f\u00e5 fat i OpenAI's frontier-modeller i l\u00f8bet af det n\u00e6ste \u00e5r eller to. https:\/\/t.co\/PUEWvfUFqk<\/a><\/p>\n - Jeffrey Ladish (@JeffLadish) 10. maj 2023<\/a><\/p><\/blockquote>\n En anden observat\u00f8r tweetede: \"Open source er en trussel, men ikke p\u00e5 den m\u00e5de, du tror. Det er en trussel, fordi AI i h\u00e6nderne p\u00e5 folk, der kan bruge det til deres egne form\u00e5l, bliver endnu sv\u00e6rere at regulere eller holde styr p\u00e5, og det er et st\u00f8rre problem.\"\u00a0<\/span><\/p>\n Google og OpenAI h\u00e6vder, at de er bange for open source AI, der er \"ingen voldgrav\" mellem dem alle. Men det er ikke helt sandt.<\/p>\n Open source er en trussel, men ikke p\u00e5 den m\u00e5de, du tror. Det er en trussel, fordi AI i h\u00e6nderne p\u00e5 folk, der kan bruge det til deres egne form\u00e5l, bliver endnu sv\u00e6rere at... pic.twitter.com\/g6kMh3TshY<\/a><\/p>\n - Theo (@tprstly) 5. maj 2023<\/a><\/p><\/blockquote>\n Yann LeCun, der ofte betragtes som en \"AI-gudfader\" sammen med Geoffrey Hinton og Yoshio Bengman, <\/span>h\u00e6vder det modsatte<\/span><\/a>\"N\u00e5r LLM'er bliver den vigtigste kanal, hvorigennem alle f\u00e5r adgang til information, vil folk (og regeringer) *kr\u00e6ve*, at den er \u00e5ben og gennemsigtig. Grundl\u00e6ggende infrastruktur skal v\u00e6re \u00e5ben.\"\u00a0<\/span><\/p>\n LeCun var ogs\u00e5 uenig i de almindelige fort\u00e6llinger om AI-risici: \"Jeg synes, at omfanget af AI-tilpasningsproblemet er blevet latterligt overdrevet, og vores evne til at l\u00f8se det er blevet st\u00e6rkt undervurderet.\" Elon Musk slog tilbage i Twitter-tr\u00e5den og sagde: \"Tror du virkelig, at AI er et en\u00e6gget sv\u00e6rd?\"\u00a0<\/span><\/p>\n Tror du virkelig, at AI er et en\u00e6gget sv\u00e6rd?<\/p>\n - Elon Musk (@elonmusk) 1. april 2023<\/a><\/p><\/blockquote>\n Andre kommentatorer trak paralleller mellem AI-regulering og kryptografi, hvor den amerikanske regering fors\u00f8gte at forbyde offentlige kryptografiske metoder ved at <\/span>at klassificere dem som \"ammunition\"<\/span><\/a> - <\/b>kaldet \"Kryptokrigen\".\u00a0<\/span><\/p>\n Nu har stort set alle ret til at bruge kryptering - men den kamp var sv\u00e6r at vinde - ligesom det kan v\u00e6re tilf\u00e6ldet med open source AI.<\/span><\/p>\n Open source er mere end bare software, kode og teknologi. Det er princippet, tankegangen eller troen p\u00e5, at et kooperativt, \u00e5bent og gennemsigtigt arbejdsmilj\u00f8 overg\u00e5r konkurrencen p\u00e5 et lukket marked.<\/span><\/p>\n OpenAI, der engang var en non-profit virksomhed med fokus p\u00e5 offentligt samarbejde og open source-udvikling, har st\u00f8t og roligt fjernet sig fra sit navn.<\/span><\/p>\n Startup-virksomheden overgik til en \"for-profit\"-virksomhed i 2019, hvilket effektivt afsluttede virksomhedens forhold til open source-f\u00e6llesskabet.\u00a0<\/span>Investeringen fra Microsoft afkoblede OpenAI fra enhver form for \"\u00e5ben\" F&U-aktivitet. <\/span><\/p>\n I midten af maj annoncerede virksomheden en <\/span>open source-model i st\u00f8beskeen<\/span><\/a>men de har ikke v\u00e6ret \u00e6rlige med detaljerne.\u00a0<\/span><\/p>\n Nu presser OpenAI p\u00e5 for en regulering, der vil ramme nye AI-virksomheder h\u00e5rdest, for ikke at n\u00e6vne en potentiel kriminalisering af open source-f\u00e6llesskabet.\u00a0<\/span><\/p>\n Det har f\u00e5et nogle til at kritisere OpenAI's pres for regulering som ren forretning - en forretning, der handler om at beskytte deres profitable modeller mod open source-f\u00e6llesskaber, der \u00f8nsker at demokratisere AI.\u00a0<\/span><\/p>\n Kombinationen af Googles l\u00e6kkede memo, big tech's pres for regulering og Altmans nedg\u00f8relse af AI-projekter p\u00e5 gr\u00e6srodsniveau f\u00e5r nogle til at l\u00f8fte \u00f8jenbrynene. Der er faktisk blevet sat sp\u00f8rgsm\u00e5lstegn ved legitimiteten af AI's risici - som retf\u00e6rdigg\u00f8r regulering.\u00a0\u00a0<\/span><\/p>\n Da Center for AI Safety (CAIS) for eksempel offentliggjorde sin seismiske erkl\u00e6ring om AI-risiko, der var underskrevet af flere AI-chefer, var der nogle eksterne observat\u00f8rer, der ikke var overbeviste.<\/span><\/p>\n I et udvalg af ekspertreaktioner p\u00e5 erkl\u00e6ringen <\/span>udgivet af Science Media Centre<\/span><\/a>Dr. Mhairi Aitken, Ethics Research Fellow ved Alan Turing Institute, sagde:<\/span><\/p>\nMeta LLaMA-l\u00e6kagen<\/span><\/h2>\n
![\"\"](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/shutterstock_2297594185.jpg\")
![\"Stabil](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/stable-1024x576.png\")
Open source AI-f\u00e6llesskabet<\/span><\/h2>\n
\n<\/span><\/p>\n\n
\n
\n
\n
OpenAI's fremmedg\u00f8relse af open source AI<\/span><\/h2>\n
Er open source AI en risiko for big tech?<\/span><\/h2>\n