{"id":11711,"date":"2024-04-24T11:04:46","date_gmt":"2024-04-24T11:04:46","guid":{"rendered":"https:\/\/dailyai.com\/?p=11711"},"modified":"2024-04-24T11:07:18","modified_gmt":"2024-04-24T11:07:18","slug":"microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2024\/04\/microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm\/","title":{"rendered":"Microsoft lancerer Phi-3 Mini, en lille, men kraftfuld LM"},"content":{"rendered":"

Microsoft har lanceret Phi-3 Mini, en lille sprogmodel, som er en del af virksomhedens strategi om at udvikle lette, funktionsspecifikke AI-modeller.<\/strong><\/p>\n

Udviklingen af sprogmodeller har set stadig st\u00f8rre parametre, tr\u00e6ningsdatas\u00e6t og kontekstvinduer. Skalering af st\u00f8rrelsen p\u00e5 disse modeller gav mere kraftfulde funktioner, men det havde en pris.<\/p>\n

Den traditionelle tilgang til at tr\u00e6ne en LLM er at lade den bruge enorme m\u00e6ngder data, hvilket kr\u00e6ver enorme computerressourcer. Tr\u00e6ning af en LLM som GPT-4 ansl\u00e5s f.eks. at have taget omkring 3 m\u00e5neder og kostet over $21 millioner.<\/p>\n

GPT-4 er en god l\u00f8sning til opgaver, der kr\u00e6ver komplekse r\u00e6sonnementer, men overkill til enklere opgaver som oprettelse af indhold eller en salgs-chatbot. Det er som at bruge en schweizerkniv, n\u00e5r alt, hvad du har brug for, er en simpel brev\u00e5bner.<\/p>\n

Med kun 3,8B parametre er Phi-3 Mini lille. Alligevel siger Microsoft, at det er en ideel, let og billig l\u00f8sning til opgaver som at opsummere et dokument, uddrage indsigter fra rapporter og skrive produktbeskrivelser eller indl\u00e6g p\u00e5 sociale medier.<\/p>\n

MMLU-benchmark-tallene viser, at Phi-3 Mini og de endnu ikke udgivne st\u00f8rre Phi-modeller sl\u00e5r st\u00f8rre modeller som Mistral<\/span><\/span><\/span><\/span> 7B og Gemma 7B.<\/p>\n

\"\"
Phi-3-modellernes pr\u00e6station p\u00e5 Massive Multitask Language Understanding (MMLU)-benchmark sammenlignet med andre modeller af samme st\u00f8rrelse. Kilde: Microsoft: Microsoft<\/figcaption><\/figure>\n

Microsoft siger, at Phi-3-small (7B parametre) og Phi-3-medium (14B parametre) vil v\u00e6re tilg\u00e6ngelige i Azure AI Model Catalog \"inden l\u00e6nge\".<\/p>\n

St\u00f8rre modeller som GPT-4 er stadig guldstandarden, og vi kan nok forvente, at GPT-5 bliver endnu st\u00f8rre.<\/p>\n

SLM'er som Phi-3 Mini har nogle vigtige fordele, som st\u00f8rre modeller ikke har. SLM'er er billigere at finjustere, kr\u00e6ver mindre beregning og kan k\u00f8re p\u00e5 enheden, selv i situationer, hvor der ikke er internetadgang.<\/p>\n

Implementering af en SLM p\u00e5 kanten resulterer i mindre ventetid og maksimal beskyttelse af personlige oplysninger, fordi der ikke er behov for at sende data frem og tilbage til skyen.<\/p>\n

Her er Sebastien Bubeck, VP for GenAI-forskning hos Microsoft AI, med en demonstration af Phi-3 Mini. Den er superhurtig og imponerende af s\u00e5 lille en model at v\u00e6re.<\/p>\n

\n

phi-3 er her, og den er ... god :-).<\/p>\n

Jeg har lavet en kort demo for at give dig en fornemmelse af, hvad phi-3-mini (3.8B) kan g\u00f8re. Hold \u00f8je med udgivelsen af \u00e5bne v\u00e6gte og flere meddelelser i morgen tidlig!<\/p>\n

(Og selvf\u00f8lgelig ville dette ikke v\u00e6re komplet uden den s\u00e6dvanlige tabel med benchmarks!) pic.twitter.com\/AWA7Km59rp<\/a><\/p>\n

- Sebastien Bubeck (@SebastienBubeck) 23. april 2024<\/a><\/p><\/blockquote>\n