{"id":11711,"date":"2024-04-24T11:04:46","date_gmt":"2024-04-24T11:04:46","guid":{"rendered":"https:\/\/dailyai.com\/?p=11711"},"modified":"2024-04-24T11:07:18","modified_gmt":"2024-04-24T11:07:18","slug":"microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2024\/04\/microsoft-launches-phi-3-mini-a-tiny-but-powerful-lm\/","title":{"rendered":"A Microsoft lan\u00e7a o Phi-3 Mini, um LM pequeno mas potente"},"content":{"rendered":"

A Microsoft lan\u00e7ou o Phi-3 Mini, um modelo de linguagem min\u00fasculo que faz parte da estrat\u00e9gia da empresa para desenvolver modelos de IA leves e com fun\u00e7\u00f5es espec\u00edficas.<\/strong><\/p>\n

A evolu\u00e7\u00e3o dos modelos lingu\u00edsticos tem-se caracterizado por par\u00e2metros, conjuntos de dados de treino e janelas de contexto cada vez maiores. O aumento do tamanho destes modelos proporcionou capacidades mais poderosas, mas com um custo.<\/p>\n

A abordagem tradicional para treinar um LLM consiste em faz\u00ea-lo consumir grandes quantidades de dados, o que exige enormes recursos inform\u00e1ticos. Estima-se que a forma\u00e7\u00e3o de um LLM como o GPT-4, por exemplo, tenha levado cerca de 3 meses e custado mais de $21m.<\/p>\n

O GPT-4 \u00e9 uma \u00f3ptima solu\u00e7\u00e3o para tarefas que exigem um racioc\u00ednio complexo, mas \u00e9 um exagero para tarefas mais simples, como a cria\u00e7\u00e3o de conte\u00fados ou um chatbot de vendas. \u00c9 como usar um canivete su\u00ed\u00e7o quando tudo o que precisamos \u00e9 de um simples abridor de cartas.<\/p>\n

Com apenas 3,8B de par\u00e2metros, o Phi-3 Mini \u00e9 min\u00fasculo. Ainda assim, a Microsoft afirma que \u00e9 uma solu\u00e7\u00e3o leve e econ\u00f3mica ideal para tarefas como resumir um documento, extrair informa\u00e7\u00f5es de relat\u00f3rios e escrever descri\u00e7\u00f5es de produtos ou publica\u00e7\u00f5es em redes sociais.<\/p>\n

Os valores de refer\u00eancia do MMLU mostram que o Phi-3 Mini e os modelos Phi maiores, ainda por lan\u00e7ar, batem modelos maiores como Mistral<\/span><\/span><\/span><\/span> 7B e Gemma 7B.<\/p>\n

\"\"
Desempenho dos modelos Phi-3 no benchmark Massive Multitask Language Understanding (MMLU) em compara\u00e7\u00e3o com outros modelos de tamanho semelhante. Fonte: Microsoft<\/figcaption><\/figure>\n

A Microsoft afirma que o Phi-3-small (par\u00e2metros 7B) e o Phi-3-medium (par\u00e2metros 14B) estar\u00e3o dispon\u00edveis no Cat\u00e1logo de Modelos de IA do Azure \"em breve\".<\/p>\n

Os modelos maiores, como o GPT-4, continuam a ser o padr\u00e3o de ouro e podemos provavelmente esperar que o GPT-5 seja ainda maior.<\/p>\n

Os SLMs como o Phi-3 Mini oferecem algumas vantagens importantes que os modelos maiores n\u00e3o oferecem. Os SLMs s\u00e3o mais baratos de ajustar, requerem menos computa\u00e7\u00e3o e podem ser executados no dispositivo mesmo em situa\u00e7\u00f5es em que n\u00e3o h\u00e1 acesso \u00e0 Internet.<\/p>\n

A implanta\u00e7\u00e3o de um SLM na borda resulta em menor lat\u00eancia e m\u00e1xima privacidade, pois n\u00e3o h\u00e1 necessidade de enviar dados para frente e para tr\u00e1s para a nuvem.<\/p>\n

Aqui est\u00e1 Sebastien Bubeck, vice-presidente de investiga\u00e7\u00e3o GenAI na Microsoft AI com uma demonstra\u00e7\u00e3o do Phi-3 Mini. \u00c9 super r\u00e1pido e impressionante para um modelo t\u00e3o pequeno.<\/p>\n

\n

O phi-3 est\u00e1 aqui e \u00e9 ... bom :-).<\/p>\n

Fiz uma pequena demonstra\u00e7\u00e3o para vos dar uma ideia do que o phi-3-mini (3.8B) pode fazer. Fique atento ao lan\u00e7amento do open weights e a mais an\u00fancios amanh\u00e3 de manh\u00e3!<\/p>\n

(E claro que isto n\u00e3o estaria completo sem a habitual tabela de benchmarks!) pic.twitter.com\/AWA7Km59rp<\/a><\/p>\n

- Sebastien Bubeck (@SebastienBubeck) 23 de abril de 2024<\/a><\/p><\/blockquote>\n