{"id":11711,"date":"2024-04-24T11:04:46","date_gmt":"2024-04-24T11:04:46","guid":{"rendered":"https:\/\/dailyai.com\/?p=11711"},"modified":"2024-04-24T11:07:18","modified_gmt":"2024-04-24T11:07:18","slug":"microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2024\/04\/microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm\/","title":{"rendered":"Microsoft lanserer Phi-3 Mini, en liten, men kraftig LM"},"content":{"rendered":"

Microsoft lanserte Phi-3 Mini, en liten spr\u00e5kmodell som er et ledd i selskapets strategi for \u00e5 utvikle lette, funksjonsspesifikke AI-modeller.<\/strong><\/p>\n

Utviklingen av spr\u00e5kmodeller har g\u00e5tt i retning av stadig st\u00f8rre parametere, treningsdatasett og kontekstvinduer. Skalering av st\u00f8rrelsen p\u00e5 disse modellene har gitt kraftigere funksjoner, men til en viss pris.<\/p>\n

Den tradisjonelle m\u00e5ten \u00e5 trene opp en LLM p\u00e5 er \u00e5 la den bruke enorme datamengder, noe som krever enorme databehandlingsressurser. Oppl\u00e6ring av en LLM som GPT-4, for eksempel, ansl\u00e5s \u00e5 ha tatt rundt tre m\u00e5neder og \u00e5 ha kostet over $21 millioner.<\/p>\n

GPT-4 er en flott l\u00f8sning for oppgaver som krever komplekse resonnementer, men overkill for enklere oppgaver som innholdsproduksjon eller en salgschatbot. Det er som \u00e5 bruke en sveitsisk lommekniv n\u00e5r alt du trenger er en enkel brev\u00e5pner.<\/p>\n

Med bare 3,8B parametere er Phi-3 Mini bitteliten. Likevel sier Microsoft at den er en ideell, lett og rimelig l\u00f8sning for oppgaver som \u00e5 oppsummere et dokument, trekke ut innsikt fra rapporter og skrive produktbeskrivelser eller innlegg i sosiale medier.<\/p>\n

MMLUs referansetall viser at Phi-3 Mini og de st\u00f8rre Phi-modellene som enn\u00e5 ikke er lansert, sl\u00e5r st\u00f8rre modeller som Mistral<\/span><\/span><\/span><\/span> 7B og Gemma 7B.<\/p>\n

\"\"
Phi-3-modellenes ytelse p\u00e5 Massive Multitask Language Understanding (MMLU)-referansen sammenlignet med andre modeller av tilsvarende st\u00f8rrelse. Kilde: Microsoft Microsoft<\/figcaption><\/figure>\n

Microsoft sier at Phi-3-small (7B parametere) og Phi-3-medium (14B parametere) vil v\u00e6re tilgjengelig i Azure AI Model Catalog \"om kort tid\".<\/p>\n

St\u00f8rre modeller som GPT-4 er fortsatt gullstandarden, og vi kan nok forvente at GPT-5 blir enda st\u00f8rre.<\/p>\n

SLM-er som Phi-3 Mini har noen viktige fordeler som st\u00f8rre modeller ikke har. SLM-er er billigere \u00e5 finjustere, krever mindre databehandling og kan kj\u00f8res p\u00e5 enheten selv i situasjoner der det ikke er tilgang til Internett.<\/p>\n

En SLM i utkanten gir mindre ventetid og maksimalt personvern fordi det ikke er behov for \u00e5 sende data frem og tilbake til skyen.<\/p>\n

Her er Sebastien Bubeck, VP for GenAI-forskning hos Microsoft AI, med en demonstrasjon av Phi-3 Mini. Den er superrask og imponerende til \u00e5 v\u00e6re en s\u00e5 liten modell.<\/p>\n

\n

phi-3 er her, og den er ... god :-).<\/p>\n

Jeg har laget en kort demo for \u00e5 gi deg en f\u00f8lelse av hva phi-3-mini (3.8B) kan gj\u00f8re. F\u00f8lg med for utgivelsen av \u00e5pne vekter og flere kunngj\u00f8ringer i morgen tidlig!<\/p>\n

(Og selvf\u00f8lgelig ville ikke dette v\u00e6rt komplett uten den vanlige tabellen med referanseverdier!) pic.twitter.com\/AWA7Km59rp<\/a><\/p>\n

- Sebastien Bubeck (@SebastienBubeck) 23. april 2024<\/a><\/p><\/blockquote>\n