{"id":11711,"date":"2024-04-24T11:04:46","date_gmt":"2024-04-24T11:04:46","guid":{"rendered":"https:\/\/dailyai.com\/?p=11711"},"modified":"2024-04-24T11:07:18","modified_gmt":"2024-04-24T11:07:18","slug":"microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm","status":"publish","type":"post","link":"https:\/\/dailyai.com\/it\/2024\/04\/microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm\/","title":{"rendered":"Microsoft lancia Phi-3 Mini, un piccolo ma potente LM"},"content":{"rendered":"

Microsoft ha lanciato Phi-3 Mini, un piccolo modello linguistico che fa parte della strategia dell'azienda di sviluppare modelli di intelligenza artificiale leggeri e specifici per ogni funzione.<\/strong><\/p>\n

La progressione dei modelli linguistici ha visto parametri, dataset di addestramento e finestre di contesto sempre pi\u00f9 grandi. La scalata delle dimensioni di questi modelli ha fornito capacit\u00e0 pi\u00f9 potenti, ma a un costo.<\/p>\n

L'approccio tradizionale all'addestramento di un LLM consiste nel fargli consumare enormi quantit\u00e0 di dati, il che richiede enormi risorse di calcolo. Si stima che l'addestramento di un LLM come il GPT-4, ad esempio, abbia richiesto circa 3 mesi e sia costato oltre $21m.<\/p>\n

GPT-4 \u00e8 un'ottima soluzione per le attivit\u00e0 che richiedono un ragionamento complesso, ma \u00e8 eccessivo per le attivit\u00e0 pi\u00f9 semplici come la creazione di contenuti o un chatbot di vendita. \u00c8 come usare un coltellino svizzero quando invece \u00e8 sufficiente un semplice tagliacarte.<\/p>\n

Con soli 3,8B parametri, Phi-3 Mini \u00e8 minuscolo. Tuttavia, Microsoft sostiene che si tratta di una soluzione leggera e a basso costo ideale per attivit\u00e0 come la sintesi di un documento, l'estrazione di informazioni dai rapporti e la scrittura di descrizioni di prodotti o post sui social media.<\/p>\n

I dati dei benchmark MMLU mostrano che Phi-3 Mini e i modelli Phi pi\u00f9 grandi, ancora da rilasciare, battono modelli pi\u00f9 grandi come Mistral<\/span><\/span><\/span><\/span> 7B e Gemma 7B.<\/p>\n

\"\"
Prestazioni dei modelli Phi-3 nel benchmark Massive Multitask Language Understanding (MMLU) rispetto ad altri modelli di dimensioni simili. Fonte: Microsoft<\/figcaption><\/figure>\n

Microsoft afferma che Phi-3-small (7B parametri) e Phi-3-medium (14B parametri) saranno disponibili \"a breve\" nell'Azure AI Model Catalog.<\/p>\n

I modelli pi\u00f9 grandi come il GPT-4 sono ancora il gold standard e possiamo probabilmente aspettarci che il GPT-5 sar\u00e0 ancora pi\u00f9 grande.<\/p>\n

Le SLM come Phi-3 Mini offrono alcuni importanti vantaggi che i modelli pi\u00f9 grandi non offrono. Gli SLM sono pi\u00f9 economici da mettere a punto, richiedono meno calcolo e possono essere eseguiti sul dispositivo anche in situazioni in cui non \u00e8 disponibile l'accesso a Internet.<\/p>\n

L'implementazione di un SLM ai margini consente di ridurre la latenza e di massimizzare la privacy, perch\u00e9 non \u00e8 necessario inviare i dati avanti e indietro al cloud.<\/p>\n

Ecco Sebastien Bubeck, vicepresidente della ricerca GenAI di Microsoft AI con una dimostrazione di Phi-3 Mini. \u00c8 velocissimo e impressionante per un modello cos\u00ec piccolo.<\/p>\n

\n

phi-3 \u00e8 arrivato, ed \u00e8... buono :-).<\/p>\n

Ho realizzato una breve demo per darvi un'idea di cosa pu\u00f2 fare phi-3-mini (3.8B). Rimanete sintonizzati per il rilascio dei pesi aperti e per ulteriori annunci domani mattina!<\/p>\n

(E naturalmente non sarebbe completo senza la consueta tabella dei benchmark). pic.twitter.com\/AWA7Km59rp<\/a><\/p>\n

- Sebastien Bubeck (@SebastienBubeck) 23 aprile 2024<\/a><\/p><\/blockquote>\n