Avaliação comparativa e otimização de small language models para extração de informações aplicadas em comunicação assistiva

Abstract

Sistemas de Comunicação Aumentativa e Alternativa (CAA) podem apoiar a autonomia de pessoas com deficiência de fala ao oferecerem formas alternativas de expressar necessidades, preferências e intenções. No entanto, muitas aplicações de CAA ainda dependem de pranchas de comunicação definidas manualmente, o que pode limitar a flexibilidade e a adaptação contextual. Este trabalho investiga o uso de Small Language Models (SLMs) em duas tarefas de processamento de linguagem natural relacionadas à CAA: classificação de intenção de perguntas e extração de opções de escolha em perguntas contendo alternativas explícitas. Cinco SLMs foram ajustados por meio de Quantized Low-Rank Adaptation (QLoRA) e quantização em 4 bits, sendo avaliados em comparação com um baseline baseado no Bidirectional Encoder Representations from Transformers (BERT) na tarefa de classificação de intenção e com uma referência Gemini 3.1 Pro na tarefa de extração de opções. Os resultados mostram que SLMs ajustados podem alcançar desempenho competitivo em ambas as tarefas. Em particular, o baseline BERT manteve o melhor desempenho na classificação de intenção, seguido de perto pelo Llama-3. No entanto, o Phi-3 Mini obteve o melhor desempenho na extração de opções, superando a referência Gemini. Esses achados sugerem que modelos de linguagem compactos e especializados para tarefas específicas podem ser uma alternativa viável para aplicações de CAA inteligentes e eficientes.