Modelos de linguagem pequena são alternativas ágeis, porém potentes, para modelos de linguagem grande, como ChatGPT. Vamos explorar como usar SLMs de maneira eficaz na saúde, na educação e em ONGs.
Os modelos de linguagem pequena são mais governados e especializados do que os LLMs.
SLMs têm um lugar em nossos setores com recursos limitados
Os SLMs são promissores na redução de custos indiretos e tarefas demoradas. Na área da saúde, eles podem tornar as clínicas mais eficientes e, ao mesmo tempo, proteger dados confidenciais. Os SLMs podem nivelar as condições de concorrência na educação, proporcionando às famílias e municípios de baixos rendimentos acesso a serviços EdTech de alta qualidade. Para as ONG, poderiam fazer com que as doações fossem mais longe e mitigar a escassez de voluntários.
No entanto, os SLMs requerem investimento em formação, uma vez que operam com parâmetros limitados, podendo levar a limitações contextuais. Por exemplo, a palavra “conduzir” pode referir-se a um metal ou ao verbo “guiar”. Se um SLM só tiver acesso a informações sobre o metal, pode perder o significado do verbo. A linguagem humana é vasta e variada, o que representa desafios para o treinamento de SLM. Antecipar as dúvidas dos usuários e evitar mal-entendidos exige uma engenharia cuidadosa, o que acarreta custos.
No entanto, mantendo estas limitações em mente, os SLMs são mais eficientes em termos energéticos e têm limites de segurança mais gerenciáveis. Esses modelos são voltados para atender com eficiência e precisão à maioria das necessidades de negócios por uma fração do custo dos LLMs. É sensato que as PME orçamentem uma GenAI compacta como a sua próxima melhor ferramenta numa época de IA generalizada.
Fonte: BairesDev