H\u00e4r \u00e4r n\u00e5gra utdrag:<\/span><\/p>\n \"Vi har tittat oss mycket \u00f6ver axeln p\u00e5 OpenAI. Vem kommer att passera n\u00e4sta milstolpe? Vad kommer n\u00e4sta steg att vara?<\/span><\/p>\n Men den obekv\u00e4ma sanningen \u00e4r att vi inte \u00e4r positionerade f\u00f6r att vinna den h\u00e4r kapprustningen och inte heller OpenAI. Medan vi har k\u00e4bblat har en tredje fraktion i tysthet \u00e4tit v\u00e5r lunch. Jag talar naturligtvis om \u00f6ppen k\u00e4llkod.<\/span><\/p>\n Enkelt uttryckt, de springer om oss. Saker som vi betraktar som \"stora \u00f6ppna problem\" \u00e4r l\u00f6sta och finns i folks h\u00e4nder idag. \u00c4ven om v\u00e5ra modeller fortfarande har ett litet f\u00f6rspr\u00e5ng n\u00e4r det g\u00e4ller kvalitet, minskar gapet f\u00f6rv\u00e5nansv\u00e4rt snabbt.<\/span><\/p>\n Modeller med \u00f6ppen k\u00e4llkod \u00e4r snabbare, mer anpassningsbara, mer privata och mer kapabla. De g\u00f6r saker med $100 och 13B params som vi k\u00e4mpar med p\u00e5 $10M och 540B. Och de g\u00f6r det p\u00e5 veckor, inte m\u00e5nader.<\/span><\/p>\n I b\u00f6rjan av mars fick open source-gemenskapen tag p\u00e5 sin f\u00f6rsta riktigt kapabla grundmodell, n\u00e4r Metas LLaMA l\u00e4ckte ut till allm\u00e4nheten.<\/span><\/p>\n Den inneh\u00f6ll inga instruktioner eller konversationstoner och ingen RLHF. \u00c4nd\u00e5 f\u00f6rstod samh\u00e4llet omedelbart betydelsen av vad de hade f\u00e5tt. En enorm str\u00f6m av innovationer f\u00f6ljde, med bara n\u00e5gra dagar mellan de stora utvecklingarna...<\/span><\/p>\n H\u00e4r \u00e4r vi, knappt en m\u00e5nad senare, och det finns varianter med instruktionstuning, kvantifiering, kvalitetsf\u00f6rb\u00e4ttringar, m\u00e4nskliga utv\u00e4rderingar, multimodalitet, RLHF, etc., etc., varav m\u00e5nga bygger p\u00e5 varandra. Viktigast av allt \u00e4r att de har l\u00f6st skalningsproblemet i den utstr\u00e4ckning som alla kan tinker.<\/span><\/p>\n M\u00e5nga av de nya id\u00e9erna kommer fr\u00e5n vanliga m\u00e4nniskor. Intr\u00e4desbarri\u00e4ren f\u00f6r utbildning och experiment har sjunkit fr\u00e5n den totala produktionen fr\u00e5n en stor forskningsorganisation till en person, en kv\u00e4ll och en stor b\u00e4rbar dator.\"<\/span><\/p>\n Sernaus memo plockades upp av stora nyhetsbyr\u00e5er och utl\u00f6ste debatt om huruvida big tech's press f\u00f6r reglering maskerar ett motiv f\u00f6r att tvinga AI med \u00f6ppen k\u00e4llkod ur spelet. <\/span>Ben Schrekcinger fr\u00e5n Politico skriver<\/span><\/a>, \"\u00f6ppen k\u00e4llkod \u00e4r ocks\u00e5 sv\u00e5rare att f\u00f6rbjuda eftersom nya instanser kan dyka upp om tillsynsmyndigheter f\u00f6rs\u00f6ker st\u00e4nga ner en webbplats eller ett verktyg som anv\u00e4nder den. I kombination med andra decentraliserande funktioner har dessa projekt med \u00f6ppen k\u00e4llkod potential att st\u00f6ra inte bara Silicon Valleys aff\u00e4rsmodell, utan \u00e4ven styrmodellerna i Washington och Bryssel.\"<\/span><\/p>\n AI-communityn med \u00f6ppen k\u00e4llkod \u00e4r redan blomstrande. Utvecklare l\u00f6ser utmaningar p\u00e5 n\u00e5gra dagar som tar Google och OpenAI m\u00e5nader eller \u00e5r. Sernau menar att agila grupper av open source-utvecklare \u00e4r b\u00e4ttre rustade f\u00f6r att bygga iterativa modeller \u00e4n big tech, eftersom de \u00e4r mer m\u00e5ngsidiga, effektiva och pragmatiska.<\/p>\n Om s\u00e5 \u00e4r fallet kan Big Techs dominans \u00f6ver AI bli kortvarig.<\/p>\n Metas LLaMA-modell, en stor spr\u00e5kmodell (LLM) som ChatGPT, var l\u00e4ckt ut p\u00e5 4chan<\/a> en vecka efter att f\u00f6retaget skickat ut beg\u00e4ran om tillg\u00e5ng. <\/span>Den 3 mars d\u00f6k en nedladdningsbar torrent upp p\u00e5 meddelandeforumet och spreds som en l\u00f6peld.<\/span><\/p>\n Som Sernau p\u00e5pekar fortsatte open source-gruppen att modifiera LLaMA och l\u00e4gga till imponerande funktionalitet utan att anv\u00e4nda f\u00f6retagets datorresurser.\u00a0<\/span><\/p>\n Att bygga kraftfulla AI-modeller \u00e4r billigare \u00e4n n\u00e5gonsin, och \u00f6ppen k\u00e4llkodssamh\u00e4llen driver p\u00e5 f\u00f6r att demokratisera tillg\u00e5ngen. LLaMA \u00e4r till stor del en f\u00f6rtr\u00e4nad modell, medan andra modeller med \u00f6ppen k\u00e4llkod, som BLOOM, tr\u00e4nades av frivilliga. <\/span><\/p>\n Training BLOOM kr\u00e4vde en superdator utrustad med 384 NVIDIA A100 80GB GPU:er som lyckligtvis sk\u00e4nktes av den franska regeringen. AI-f\u00f6retaget Together med \u00f6ppen k\u00e4llkod Together tillk\u00e4nnagav nyligen $20m seedfinansiering, och AI-fokuserade molnleverant\u00f6rer som CoreWeave<\/a> erbjuda h\u00e5rdvara under marknadspris. <\/span><\/p>\n Open source-projekt har olika s\u00e4tt att fokusera resurser och utman\u00f6vrera stora teknikf\u00f6retag.\u00a0<\/span>Big tech vill nog g\u00e4rna att vi ska tro att deras AI \u00e4r resultatet av decennier av arbete och investeringar p\u00e5 miljarder dollar -<\/span> Open Source-gemenskapen h\u00e5ller f\u00f6rmodligen inte med.<\/p>\n P\u00e5 temat att stora teknikf\u00f6retag separerar sig sj\u00e4lva fr\u00e5n mindre AI-projekt fr\u00e5gade Rajan Anandan, tidigare Google-chef, OpenAI:s VD Sam Altman vid ett evenemang i Indien om indiska ingenj\u00f6rer kunde bygga grundl\u00e4ggande AI-modeller med en investering p\u00e5 $10 miljoner.<\/span><\/p>\n Altman svarade: \"Det \u00e4r helt hoppl\u00f6st att konkurrera med oss n\u00e4r det g\u00e4ller att utbilda foundationmodeller. Du borde inte f\u00f6rs\u00f6ka, och det \u00e4r ditt jobb att tycka om att f\u00f6rs\u00f6ka \u00e4nd\u00e5. Och jag tror p\u00e5 b\u00e5da de sakerna. Jag tycker att det \u00e4r ganska hoppl\u00f6st.\"<\/span><\/p>\n Men i sitt memo uttrycker Sernau att open source redan konkurrerar med big tech. Han s\u00e4ger: \"Att h\u00e5lla fast vid en konkurrensf\u00f6rdel inom teknik blir \u00e4nnu sv\u00e5rare nu n\u00e4r banbrytande forskning i LLM \u00e4r \u00f6verkomlig. Forskningsinstitutioner \u00f6ver hela v\u00e4rlden bygger vidare p\u00e5 varandras arbete och utforskar l\u00f6sningsutrymmet p\u00e5 ett s\u00e4tt som vida \u00f6verstiger v\u00e5r egen kapacitet.\"<\/span><\/p>\n Open source-utvecklare bygger alternativ till big tech-bolagens AI:er och g\u00e5r om dem i prestanda och anv\u00e4ndarstatistik. <\/span><\/p>\n Den \u00f6ppna k\u00e4llkodsmodellen Stable Diffusion blev till exempel mer popul\u00e4r \u00e4n OpenAI:s DALL-E inom n\u00e5gra m\u00e5nader efter lanseringen.\u00a0<\/span><\/p>\n I vilken utstr\u00e4ckning kan vi skilja p\u00e5 potentiella baktankar h\u00e4r? Har big tech's regleringsdrivkraft n\u00e5gon altruistisk f\u00f6rtj\u00e4nst?<\/span><\/p>\n F\u00f6rutom LLaMA finns det \u00e5tminstone tre st\u00f6rre exempel p\u00e5 AI-projekt med \u00f6ppen k\u00e4llkod:<\/span> Det \u00e4r v\u00e4rt att notera att medan vissa av dessa utvecklare (t.ex. Stable Diffusion) erbjuder sina modeller via intuitiva, l\u00e4ttanv\u00e4nda instrumentpaneler, kr\u00e4ver andra, som BLOOM, betydande resurser f\u00f6r att k\u00f6ra. Till att b\u00f6rja med beh\u00f6ver du cirka 360 GB RAM f\u00f6r att k\u00f6ra BLOOM, men det finns m\u00e5nga smarta knep f\u00f6r att minska resurskraven.\u00a0<\/span><\/p>\n Eftersom AI-kapabel h\u00e5rdvara kommer ner i pris och modeller med \u00f6ppen k\u00e4llkod blir enklare att distribuera, \u00e4r det mycket m\u00f6jligt att praktiskt taget vem som helst kan distribuera modeller som liknar ChatGPT. Google memo-l\u00e4ckan citerar exempel p\u00e5 m\u00e4nniskor som st\u00e4ller in och distribuerar LLaMA p\u00e5 konsumentenheter, inklusive en MacBook.\u00a0<\/span><\/p>\n F\u00f6r f\u00f6retag med betydande IT-resurser, <\/span>modeller med \u00f6ppen k\u00e4llkod sparar pengar och ger datasuver\u00e4nitet och kontroll \u00f6ver utbildning och optimering.\u00a0<\/span><\/p>\n Det \u00e4r dock inte alla som \u00e4r optimistiska n\u00e4r det g\u00e4ller effekterna av kraftfull AI med \u00f6ppen k\u00e4llkod. Till exempel twittrade cybers\u00e4kerhetsforskaren Jeffrey Ladis: \"G\u00f6r dig redo f\u00f6r massor av personlig skr\u00e4ppost och n\u00e4tfiskef\u00f6rs\u00f6k\" och \"Att \u00f6ppna dessa modeller var en fruktansv\u00e4rd id\u00e9.\"<\/span><\/p>\n AI-spridningen g\u00f6r oss alla mindre s\u00e4kra. Det verkar vara en bra sak att f\u00f6rhindra, men ocks\u00e5 en ganska sv\u00e5r utmaning!<\/p>\n Jag skulle inte bli s\u00e5 f\u00f6rv\u00e5nad om en statlig akt\u00f6r lyckades f\u00e5 tag p\u00e5 OpenAI:s gr\u00e4nsmodeller under det n\u00e4rmaste \u00e5ret eller tv\u00e5 https:\/\/t.co\/PUEWvfUFqk<\/a><\/p>\n - Jeffrey Ladish (@JeffLadish) 10 maj 2023<\/a><\/p><\/blockquote>\n En annan observat\u00f6r twittrade: \"Open source \u00e4r ett hot, men inte p\u00e5 det s\u00e4tt du tror. Det \u00e4r ett hot eftersom AI i h\u00e4nderna p\u00e5 m\u00e4nniskor som kan anv\u00e4nda det f\u00f6r sina egna syften blir \u00e4nnu sv\u00e5rare att reglera eller h\u00e5lla reda p\u00e5, och det \u00e4r ett st\u00f6rre problem.\"\u00a0<\/span><\/p>\n Google och OpenAI h\u00e4vdar att de \u00e4r r\u00e4dda f\u00f6r AI med \u00f6ppen k\u00e4llkod, att det \"inte finns n\u00e5gon vallgrav\" mellan dem alla. Men det \u00e4r inte riktigt sant.<\/p>\n \u00d6ppen k\u00e4llkod \u00e4r ett hot, men inte p\u00e5 det s\u00e4tt du tror. Det \u00e4r ett hot eftersom AI i h\u00e4nderna p\u00e5 m\u00e4nniskor som kan anv\u00e4nda det f\u00f6r sina egna syften blir \u00e4nnu sv\u00e5rare att... pic.twitter.com\/g6kMh3TshY<\/a><\/p>\n - Theo (@tprstly) 5 maj 2023<\/a><\/p><\/blockquote>\n Yann LeCun, ofta betraktad som en \"AI-gudfader\" tillsammans med Geoffrey Hinton och Yoshio Bengman, <\/span>h\u00e4vdar motsatsen<\/span><\/a>\"N\u00e4r LLM blir den huvudsakliga kanalen genom vilken alla f\u00e5r tillg\u00e5ng till information kommer m\u00e4nniskor (och regeringar) att * kr\u00e4va * att den \u00e4r \u00f6ppen och transparent. Grundl\u00e4ggande infrastruktur m\u00e5ste vara \u00f6ppen.\"\u00a0<\/span><\/p>\n LeCun var ocks\u00e5 oenig med de vanliga ber\u00e4ttelserna om AI-risker: \"Jag tror att omfattningen av AI-anpassningsproblemet har varit l\u00f6jligt \u00f6verdrivet och v\u00e5r f\u00f6rm\u00e5ga att l\u00f6sa det underskattas i stor utstr\u00e4ckning.\" Elon Musk slog tillbaka i Twitter-tr\u00e5den och sa: \"Tror du verkligen att AI \u00e4r ett eneggat sv\u00e4rd?\"\u00a0<\/span><\/p>\n Tror du verkligen att AI \u00e4r ett eneggat sv\u00e4rd?<\/p>\n - Elon Musk (@elonmusk) 1 april 2023<\/a><\/p><\/blockquote>\n Andra kommentatorer drog paralleller mellan AI-reglering och kryptografi, d\u00e4r den amerikanska regeringen f\u00f6rs\u00f6kte f\u00f6rbjuda offentliga kryptografiska metoder genom att <\/span>klassa dem som \"ammunition\"<\/span><\/a> - <\/b>som kallas \"kryptokrigen\".\u00a0<\/span><\/p>\n Nu har i stort sett alla r\u00e4tt att anv\u00e4nda kryptering - men den kampen var sv\u00e5r att vinna - vilket kan vara fallet med AI med \u00f6ppen k\u00e4llkod.<\/span><\/p>\n \u00d6ppen k\u00e4llkod \u00e4r mer \u00e4n bara programvara, kod och teknik. Det \u00e4r principen, tankes\u00e4ttet eller \u00f6vertygelsen om att en samarbetsinriktad, \u00f6ppen och transparent arbetsmilj\u00f6 \u00f6vertr\u00e4ffar konkurrensen p\u00e5 en sluten marknad.<\/span><\/p>\n OpenAI, som en g\u00e5ng var ett icke-vinstdrivande f\u00f6retag med fokus p\u00e5 offentligt samarbete och utveckling av \u00f6ppen k\u00e4llkod, har stadigt avvikit fr\u00e5n sin namne.<\/span><\/p>\n Startup-f\u00f6retaget \u00f6vergick till att bli ett vinstdrivande f\u00f6retag 2019, vilket i praktiken avslutade f\u00f6retagets relation med open source-gemenskapen.\u00a0<\/span>Investeringar fr\u00e5n Microsoft gjorde att OpenAI inte l\u00e4ngre kunde bedriva n\u00e5gon form av \"\u00f6ppen\" FoU-verksamhet. <\/span><\/p>\n I mitten av maj meddelade bolaget att man <\/span>\u00f6ppen k\u00e4llkodsmodell i pipeline<\/span><\/a>men de har inte varit uppriktiga med detaljerna.\u00a0<\/span><\/p>\n Nu driver OpenAI p\u00e5 f\u00f6r en reglering som skulle sl\u00e5 h\u00e5rdast mot framv\u00e4xande AI-f\u00f6retag, f\u00f6r att inte tala om en potentiell kriminalisering av open source-communityn.\u00a0<\/span><\/p>\n Detta har f\u00e5tt vissa att kritisera OpenAI:s str\u00e4van efter reglering som inget annat \u00e4n aff\u00e4rer - aff\u00e4rer som handlar om att skydda sina vinstmodeller fr\u00e5n open source-grupper som vill demokratisera AI.\u00a0<\/span><\/p>\n Kombinationen av Googles l\u00e4ckta memo, big tech:s krav p\u00e5 reglering och Altmans nedv\u00e4rdering av AI-projekt p\u00e5 gr\u00e4srotsniv\u00e5 f\u00e5r en att h\u00f6ja p\u00e5 \u00f6gonbrynen. Faktum \u00e4r att legitimiteten f\u00f6r AI:s risker - som motiverar reglering - har ifr\u00e5gasatts.\u00a0\u00a0<\/span><\/p>\n N\u00e4r till exempel Center for AI Safety (CAIS) publicerade sitt uttalande om AI-risker, som undertecknats av flera AI-vd:ar, var vissa externa observat\u00f6rer inte \u00f6vertygade.<\/span><\/p>\n I ett urval av expertreaktioner p\u00e5 uttalandet <\/span>publicerad av Science Media Centre<\/span><\/a>Dr Mhairi Aitken, Ethics Research Fellow vid Alan Turing Institute, sade:<\/span><\/p>\nMeta LLaMA-l\u00e4ckan<\/span><\/h2>\n
![\"\"](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/shutterstock_2297594185.jpg\")
![\"Stabil](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/stable-1024x576.png\")
AI-communityt med \u00f6ppen k\u00e4llkod<\/span><\/h2>\n
\n<\/span><\/p>\n\n
\n
\n
\n
OpenAI:s alienering av AI med \u00f6ppen k\u00e4llkod<\/span><\/h2>\n
\u00c4r AI med \u00f6ppen k\u00e4llkod en risk f\u00f6r big tech?<\/span><\/h2>\n