{"id":11711,"date":"2024-04-24T11:04:46","date_gmt":"2024-04-24T11:04:46","guid":{"rendered":"https:\/\/dailyai.com\/?p=11711"},"modified":"2024-04-24T11:07:18","modified_gmt":"2024-04-24T11:07:18","slug":"microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2024\/04\/microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm\/","title":{"rendered":"Microsoft lanserar Phi-3 Mini, en liten men kraftfull LM"},"content":{"rendered":"

Microsoft lanserade Phi-3 Mini, en liten spr\u00e5kmodell som \u00e4r en del av f\u00f6retagets strategi att utveckla l\u00e4tta, funktionsspecifika AI-modeller.<\/strong><\/p>\n

Utvecklingen av spr\u00e5kmodeller har inneburit allt st\u00f6rre parametrar, tr\u00e4ningsdataset och kontextf\u00f6nster. Att skala upp storleken p\u00e5 dessa modeller gav kraftfullare funktioner, men till en kostnad.<\/p>\n

Det traditionella tillv\u00e4gag\u00e5ngss\u00e4ttet f\u00f6r att utbilda en LLM \u00e4r att l\u00e5ta den konsumera stora m\u00e4ngder data, vilket kr\u00e4ver enorma dataresurser. Att utbilda en LLM som GPT-4, till exempel, ber\u00e4knas ha tagit cirka 3 m\u00e5nader och kostat \u00f6ver $21 miljoner.<\/p>\n

GPT-4 \u00e4r en bra l\u00f6sning f\u00f6r uppgifter som kr\u00e4ver komplexa resonemang, men \u00f6verfl\u00f6dig f\u00f6r enklare uppgifter som att skapa inneh\u00e5ll eller en s\u00e4ljchattbot. Det \u00e4r som att anv\u00e4nda en schweizisk arm\u00e9kniv n\u00e4r allt du beh\u00f6ver \u00e4r en enkel brev\u00f6ppnare.<\/p>\n

Med endast 3,8B parametrar \u00e4r Phi-3 Mini liten. \u00c4nd\u00e5 s\u00e4ger Microsoft att det \u00e4r en idealisk l\u00e4ttviktsl\u00f6sning till l\u00e5g kostnad f\u00f6r uppgifter som att sammanfatta ett dokument, extrahera insikter fr\u00e5n rapporter och skriva produktbeskrivningar eller inl\u00e4gg i sociala medier.<\/p>\n

MMLU:s j\u00e4mf\u00f6relsesiffror visar att Phi-3 Mini och de st\u00f6rre Phi-modellerna som \u00e4nnu inte sl\u00e4ppts sl\u00e5r st\u00f6rre modeller som Mistral<\/span><\/span><\/span><\/span> 7B och Gemma 7B.<\/p>\n

\"\"
Phi-3-modellernas prestanda p\u00e5 Massive Multitask Language Understanding (MMLU) benchmark j\u00e4mf\u00f6rt med andra modeller av liknande storlek. K\u00e4lla: Microsoft Microsoft<\/figcaption><\/figure>\n

Microsoft s\u00e4ger att Phi-3-small (7B parametrar) och Phi-3-medium (14B parametrar) kommer att finnas tillg\u00e4ngliga i Azure AI Model Catalog \"inom kort\".<\/p>\n

St\u00f6rre modeller som GPT-4 \u00e4r fortfarande guldstandarden och vi kan nog f\u00f6rv\u00e4nta oss att GPT-5 blir \u00e4nnu st\u00f6rre.<\/p>\n

SLM:er som Phi-3 Mini erbjuder n\u00e5gra viktiga f\u00f6rdelar som st\u00f6rre modeller inte har. SLM:er \u00e4r billigare att finjustera, kr\u00e4ver mindre ber\u00e4kning och kan k\u00f6ras p\u00e5 enheten \u00e4ven i situationer d\u00e4r det inte finns n\u00e5gon internetuppkoppling.<\/p>\n

Att distribuera en SLM vid kanten ger mindre latens och maximal sekretess eftersom data inte beh\u00f6ver skickas fram och tillbaka till molnet.<\/p>\n

H\u00e4r \u00e4r Sebastien Bubeck, VP f\u00f6r GenAI-forskning p\u00e5 Microsoft AI, med en demo av Phi-3 Mini. Den \u00e4r supersnabb och imponerande f\u00f6r att vara en s\u00e5 liten modell.<\/p>\n

\n

phi-3 \u00e4r h\u00e4r, och det \u00e4r ... bra :-).<\/p>\n

Jag gjorde en snabb kort demo f\u00f6r att ge dig en k\u00e4nsla av vad phi-3-mini (3.8B) kan g\u00f6ra. H\u00e5ll \u00f6gonen \u00f6ppna f\u00f6r den \u00f6ppna viktreleasen och fler tillk\u00e4nnagivanden i morgon bitti!<\/p>\n

(Och naturligtvis skulle detta inte vara komplett utan den vanliga tabellen med benchmarks!) pic.twitter.com\/AWA7Km59rp<\/a><\/p>\n

- Sebastien Bubeck (@SebastienBubeck) 23 april 2024<\/a><\/p><\/blockquote>\n