A corrida pela adoção de Inteligência Artificial nas áreas de Comunicação e Marketing nem sempre passa por estruturas tecnológicas cada vez mais grandiosas. Na contramão dos Large Language Models (LLMs), os Small Language Models (SLMs) vêm ganhando protagonismo justamente por operarem com menos parâmetros, menor consumo energético e maior controle sobre dados sensíveis. Essas características reposicionam a IA como infraestrutura operacional e não apenas como ferramenta generativa.
Na avaliação de Juliano Kimura, palestrante e referência nacional em Inteligência Artificial e Inovação Digital, a principal diferença entre LLMs e SLMs está no custo-benefício. Enquanto os grandes modelos chegam a trabalhar com trilhões de parâmetros e precisam ser genéricos para atender a múltiplos contextos, os modelos menores operam, em geral, com menos de 30 bilhões de parâmetros, entregando mais eficiência para tarefas específicas.
Essa redução estrutural impacta diretamente o consumo energético, a latência e, em muitos casos, até a qualidade da entrega. Em resumo: modelos grandes precisam funcionar para tudo; já os menores resolvem problemas pontuais com muito mais velocidade e custo reduzido.
Onde os SLMs entregam mais valor
Na prática, explicou Kimura, os Small Language Models performam melhor em tarefas de menor complexidade, mas em grande escala – como dentro de uma esteira operacional. “O SLM gera muito mais velocidade, entrega e performance”, afirmou. Embora dentro de um cotidiano comum um segundo possa parecer irrelevante, quando se trata da execução de um volume significativo de atividades em um contexto tecnológico, “um segundo é uma eternidade”.
E isso tem duas implicações: performance e custo. “Então, vamos usar muito mais os SLMs em atividades como edição de imagens, edição de vídeo, tarefas que sejam não contextuais, porque quando começamos a ir para o lado contextual, a complexidade aumenta exponencialmente”, argumentou. Contudo, é justamente dessa diferença que surge uma das arquiteturas mais promissoras para Comunicação e Marketing.
Modelos híbridos
Em um cenário no qual a personalização é central para a experiência do consumidor, Kimura defendeu o uso combinado de SLMs e LLMs. O modelo híbrido permite que tarefas simples sejam resolvidas localmente, enquanto demandas mais complexas recorrem a modelos maiores apenas quando necessário.
Além disso, esse desenho também responde a um problema recorrente nas empresas: a baixa qualidade dos dados e de como eles são digitalizados. Mesmo negócios totalmente digitais acumulam arquivos desestruturados, sem contexto ou padronização. “Vou dar um exemplo da minha empresa, que tem quase um terabyte de arquivos de trabalhos realizados, mas se você entrar no meu Google Drive vai estar uma zona, uma bagunça”, observou.
Porém, rodar um Large Language Models para organizar esse caos gera alto custo energético e levanta questões de compliance: “Você não quer que esses dados sejam utilizados para o treinamento de uma base externa”. Já os Small Language Models permitem executar tarefas localmente, preservando dados sensíveis. “Mas, fatalmente, os SLMs vão ser integrados com um LLM em algum momento, para que, ao atingir um beco sem saída, ele recorra ao LLM”, ressaltou.
Privacidade, latência e controle operacional
Entre os principais ganhos dos Small Language Models estão o tempo de resposta mais curto, maior controle sobre segurança da informação e melhor adequação a exigências de compliance. Para operações de Comunicação e Marketing, isso significa revisar conteúdos, tratar bases internas ou automatizar fluxos sem expor dados proprietários.
Já o contraponto está nas limitações técnicas. SLMs tendem a falhar em tarefas de alta complexidade e podem apresentar alucinações quando extrapolam seu escopo. Ainda assim, Kimura avaliou que os benefícios superam os riscos, especialmente quando os modelos são bem treinados para resolver problemas específicos da organização.
O desafio, porém, não é apenas tecnológico. “É óbvio que, para você chegar nesse ponto, existe a necessidade de implementação e deploy“, alertou. Diferentemente das soluções plug and play via Interface de Programação de Aplicações (API), os Small Language Models exigem preparação, configuração e integração com a base de dados da empresa – um esforço que antecede qualquer ganho real.
Grau de preparo das organizações deve ser considerado
Antes de implementar qualquer modelo de Inteligência Artificial, as organizações precisam enfrentar um gargalo estrutural: a ausência de Knowledge Bases – ou bases de conhecimento – organizadas. “São pouquíssimas as empresas que têm uma base de conhecimento atualizada, estruturada, organizada e funcional”, afirmou.
De acordo com o especialista, esse cenário, inclusive, impulsiona o surgimento de novas funções, como gestores de base de conhecimento ou engenheiros de contexto, responsáveis por estruturar dados, categorizar informações e garantir que o conhecimento corporativo possa ser efetivamente utilizado por modelos de linguagem. “Para você implementar a IA, não é só pegar o modelo e simplesmente rodar, sem que a base de dados esteja preparada para ser incorporada”, destacou Kimura. E isso vale tanto para Large quanto para Small Language Models.
Nesse cenário, outra função que está em ascensão é a do arqueologista digital – profissional encarregado de mapear sistemas legados, reconstruir documentações incompletas ou inexistentes e modernizar processos antigos. Em ambientes onde códigos foram criados sem registros formais, esse trabalho se torna essencial para qualquer iniciativa de automação com Inteligência Artificial.
Tecnologia, processo e cultura
Além disso, Kimura alertou que a implementação de SLMs e LLMs não acontece de forma linear. Organização de dados, modernização de sistemas e adoção cultural têm de ocorrer simultaneamente. “E para que isso aconteça ao mesmo tempo, precisa ter um sistema, e esse sistema tem que ser obedecido por todas as partes”, defendeu.
O fator humano, aliás, costuma ser a maior barreira. Mesmo com dados estruturados e sistemas modernizados, a resistência ou despreparo das equipes pode comprometer todo o investimento. Por isso, a IA não deve ser encarada apenas como um projeto tecnológico, mas como uma transformação organizacional.
Uma visão pragmática sobre o futuro da IA
Com mais de duas décadas de atuação em tecnologia, Kimura adota uma postura pragmática em relação às discussões sobre dados e regulação e defende o ambiente de liberdade e democracia proporcionado pela internet. Para ele, “algumas das premissas básicas da tecnologia não podem e não devem deixar de existir”.
Ele considera que muitas das preocupações atuais repetem ciclos já vividos pela internet, pelas redes sociais e pela computação em nuvem. “Você está usando a internet e esses dados já estão sendo utilizados por ela há mais de 20 anos e não é por causa da IA que o pessoal agora vai se preocupar com os dados. Isso é algo que não vai nos levar a lugar nenhum”, argumentou.
A lógica do especialista é simples e realista: “A tecnologia que permanece é a que dá resultado”.
Alavancar essas tecnologias é fundamental para otimizar operações e potencializar o crescimento de negócios a longo prazo. Por isso, o cenário de tecnologia para Marketing conta com um espaço dedicado neste portal. Acompanhe na editoria ColetivaTech.
*As discussões estão sujeitas à moderação. Antes de comentar, leia nossa Política Editorial