O que é fine-tuning (ajuste fino)?

Fine-tuning (ajuste fino) é continuar o treino de um modelo pronto com exemplos seus, alterando os pesos. Ele ensina comportamento: formato, tom, o que fazer por padrão. Não ensina conhecimento novo, e para isso RAG costuma ser a resposta. Antes de treinar, confira se o seu caso justifica e se um prompt melhor escrito não resolve.

A maior parte dos pedidos que chegam na forma “precisamos de um modelo treinado nos nossos dados” morre nessas duas checagens. Fine-tuning entra depois, quando você já sabe qual comportamento quer e consegue mostrar esse comportamento em alguns milhares de exemplos.

O que muda nos pesos

O modelo base chega ao seu treino com um pré-treino caro atrás dele, no qual aprendeu português, código, estrutura de argumento e a maior parte dos fatos que consegue recitar. O ajuste fino pega esse ponto de partida e roda mais algumas passagens sobre um conjunto pequeno de pares entrada-saída. A cada par o modelo tenta prever a saída, erra por alguma margem, e os pesos são empurrados um pouco na direção que reduziria aquele erro.

A diferença de escala entre as duas etapas é o que explica quase tudo. Pré-treino são trilhões de tokens. Um fine-tuning típico são alguns milhões, às vezes muito menos: o LIMA foi ajustado sobre um modelo de 65B com mil prompts e respostas escolhidos a mão, e o resultado seguia formato e tarefa bem o bastante para competir com assistentes comerciais na avaliação humana dos autores¹. Mil exemplos não ensinam medicina a ninguém. Ensinam a responder como o autor daqueles mil exemplos responderia.

Guarde a formulação: fine-tuning reorganiza o acesso ao que o modelo já tem.

Comportamento entra, conhecimento não

Não é uma preferência de arquitetura. Foi medido.

Um trabalho de 2024 montou um experimento controlado de perguntas e respostas de livro fechado e variou a proporção de exemplos de treino que traziam fatos desconhecidos do modelo². Dois resultados saíram dali. O primeiro é que os exemplos com fato novo são aprendidos bem mais devagar que os exemplos compatíveis com o que o modelo já sabia. O segundo é pior: à medida que esses exemplos finalmente são aprendidos, a tendência do modelo a alucinar cresce de forma linear.

O processo funciona, então, no sentido mais desagradável possível. Você treina, o fato novo custa a entrar, você treina mais, ele entra, e o modelo passa a inventar com mais confiança em perguntas que nada têm a ver com o seu domínio. O ganho que aparece no seu conjunto de teste esconde uma regressão em tudo o mais.

A comparação direta com recuperação já tinha sido feita. Um estudo de 2023 mediu fine-tuning não supervisionado contra RAG em tarefas de conhecimento intensivo e achou vantagem consistente da recuperação, tanto para o que o modelo já tinha visto no pré-treino quanto para conhecimento inteiramente novo³. Vale ler o escopo antes de generalizar: o ajuste testado ali era não supervisionado, continuar o treino sobre os documentos crus, que é exatamente o que a maioria tenta na primeira vez.

O caminho que funciona para conhecimento é entregar o documento na janela de contexto no momento da pergunta. Quando o fato muda, você troca o documento. Com fine-tuning, você treina de novo.

Três assuntos embaixo da mesma palavra

Métodos de treino. O caso básico é o supervised fine-tuning: você fornece pares de entrada e saída correta e o modelo aprende a produzir a segunda dada a primeira. É o que a maioria das pessoas quer dizer quando fala em fine-tuning. A variante barata treina só um punhado de parâmetros adicionais em vez do modelo inteiro, e a mais usada delas é o LoRA.

LoRA congela os pesos originais e injeta matrizes pequenas, de posto baixo, em cada camada do transformer. No GPT-3 de 175B, os autores relataram dez mil vezes menos parâmetros treináveis e um terço da memória de GPU, com qualidade igual ou superior ao ajuste completo⁴. O efeito colateral importa mais que a economia de memória: o que sai da rodada é um arquivo de adaptador de poucos megabytes. Dá para servir dez comportamentos diferentes a partir do mesmo modelo base carregado uma vez.

Métodos de alinhamento. Quando o que você quer não é uma saída correta e sim uma saída preferível, o treino muda de forma, porque não existe gabarito único. O InstructGPT é o marco: os autores partiram de demonstrações escritas por anotadores, fizeram fine-tuning supervisionado, coletaram rankings entre saídas do próprio modelo e treinaram mais usando esses rankings, por aprendizado por reforço. Na avaliação humana deles, as saídas do modelo de 1,3B assim alinhado foram preferidas às do GPT-3 de 175B, cem vezes maior⁵. É a demonstração mais limpa de que comportamento e capacidade bruta são eixos separados.

Decisão e custo. A terceira parte não é técnica. É saber quando o caso justifica o trabalho e contra o que comparar.

A escada de intervenção

A ordem de tentativa é razoavelmente estável, e o critério para subir um degrau é sempre o mesmo: o degrau de baixo falhou por um motivo que você consegue nomear.

1. Prompt melhor. Instrução explícita sobre formato, papel e critério de decisão. Resolve mais do que a fama sugere, e é o único degrau que você conserta em trinta segundos depois de descobrir que estava errado.
2. Few-shot. Dois a cinco exemplos resolvidos dentro do próprio prompt. Ensina formato pelo mesmo mecanismo pelo qual o fine-tuning ensina, sem tocar nos pesos e sem esperar uma rodada de treino.
3. RAG. Buscar o documento certo e colocá-lo no contexto. É o degrau de tudo que é conhecimento: política interna, catálogo, base de tickets, o que mudou na semana passada.
4. Fine-tuning. Quando o comportamento desejado é consistente, difícil de descrever em palavras e caro de repetir em todo prompt. Ou quando o volume de chamadas é alto o bastante para o prompt curto se pagar.
5. Pré-treino continuado. Continuar o pré-treino sobre um corpus grande de um domínio ou de um idioma sub-representado. Aqui conhecimento entra de verdade, mas a escala é de bilhões de tokens, não de milhares de exemplos. Se você está pensando nisso para uma base de 400 PDFs, o degrau está errado.

O erro comum não é subir a escada. É pular direto para o quarto degrau porque fine-tuning soa como a solução séria, e descobrir três semanas depois que o problema estava no formato do prompt.

Onde fine-tuning falha

Cinco formas de o projeto dar errado, em ordem aproximada de frequência.

O dataset é o produto, e ele costuma ser ruim. Se as saídas do seu conjunto de treino têm formato inconsistente, ou foram geradas por outro modelo e nunca revisadas, o ajuste aprende a inconsistência com a mesma eficiência com que aprenderia o padrão certo. Quinhentos exemplos revisados um a um valem mais que cinquenta mil raspados.

Regressão no que já funcionava. Treinar sobre uma distribuição estreita degrada o desempenho fora dela, o efeito que a literatura de redes neurais chama de esquecimento catastrófico. O modelo fica ótimo em classificar seus tickets e pior em escrever qualquer outra coisa. Isso só aparece se o seu conjunto de avaliação incluir tarefas que não são a sua.

O modelo congela no dia do treino. Preço novo, produto renomeado, política revisada: nada disso entra sem uma rodada nova. Um sistema de recuperação absorve a mudança no momento em que alguém edita o documento.

Não há avaliação. Sem um conjunto de teste separado, escrito antes do treino, não existe como saber se o ajuste ajudou. Olhar dez respostas e achar que ficou melhor é ruído, e é assim que a maioria dos projetos declara vitória.

O modelo base envelhece. Você ajustou sobre o melhor modelo disponível no início do projeto e seis meses depois saiu um sucessor que resolve o seu caso sem exemplo nenhum. Migrar o ajuste custa refazer o trabalho inteiro. Prompt e RAG viajam entre modelos quase de graça; um conjunto de pesos ajustados não viaja.

O que fazer antes de treinar

1. Escreva o conjunto de avaliação primeiro. De 30 a 100 casos reais com a saída que você aceitaria, decididos antes de qualquer treino. Sem isso os passos seguintes não têm como ser julgados.
2. Rode o baseline. Modelo base com o melhor prompt que você conseguir escrever, e depois o mesmo prompt com alguns exemplos dentro.
3. Classifique as falhas que sobraram. Se a maioria é “afirmou algo errado sobre a nossa empresa”, o problema é conhecimento e o remédio é recuperação. Se é “acertou o conteúdo e errou o formato, o tom ou o tamanho”, pode ser fine-tuning.
4. Monte o menor conjunto plausível. Algumas centenas a alguns milhares de exemplos, revisados por alguém que sabe qual é a resposta certa. Ampliar depois é fácil; descartar um conjunto grande e ruim é caro.
5. Treine com LoRA. Uma rodada barata responde se o sinal existe. Se um adaptador não move o ponteiro, ajuste completo tende a não mover também.
6. Meça duas vezes. No conjunto do passo 1 e em um conjunto de tarefas fora do seu domínio, para pegar a regressão que o primeiro não mostra.

Quanto custa

Três contas, e a de computação é a menor delas.

Computação. O QLoRA fixou o piso prático em 2023: ajustar um modelo de 65B em uma única GPU de 48 GB, quantizando o modelo em 4 bits e treinando adaptadores por cima dele. O melhor modelo da família que eles publicaram saiu de 24 horas de uma GPU⁶. Nos tamanhos que a maioria usa, entre 7B e 14B, uma rodada leva algumas horas. Em julho de 2026, alugando por hora, isso fica na casa das dezenas de dólares. É ordem de grandeza, não cotação, e cada tentativa errada custa o mesmo de novo.

Dados. É aqui que o dinheiro vai. Alguns milhares de exemplos revisados por alguém que sabe qual é a saída certa consomem semanas de trabalho de uma pessoa que normalmente é cara e não tem esse tempo sobrando. Orçar o treino sem orçar isso é o erro de estimativa mais comum do assunto.

Manutenção. O item que quase nunca aparece na conta. Um modelo ajustado é infraestrutura: precisa de versionamento, de um lugar para ser servido, de reavaliação a cada modelo base novo e de alguém que saiba refazer a rodada quando o autor original sair da empresa. Um prompt não tem nada disso.

Compare sempre com o que você deixaria de gastar. Se o ajuste corta 2.000 tokens de todo prompt e você faz um milhão de chamadas por mês, a conta fecha em pouco tempo. Se você faz mil chamadas por mês, ela não fecha nunca.

Footnotes

1. Zhou et al. (2023) ajustaram um modelo de 65B com mil exemplos curados e sem aprendizado por reforço, e argumentam a partir disso que quase todo o conhecimento vem do pré-treino. ↩

2. Gekhman et al. (2024) variaram a fração de exemplos com fato novo em um experimento de QA de livro fechado e mediram aumento linear da alucinação conforme esses exemplos eram aprendidos. ↩

3. Ovadia et al. (2023) compararam fine-tuning não supervisionado e RAG em tarefas de conhecimento intensivo, com vantagem consistente da recuperação. ↩

4. Hu et al. (2021) relatam, no GPT-3 de 175B, redução de 10.000 vezes nos parâmetros treináveis e de 3 vezes na memória de GPU, sem latência extra na inferência. ↩

5. Ouyang et al. (2022) mostraram que um modelo de 1,3B alinhado com feedback humano teve saídas preferidas às do GPT-3 de 175B na avaliação humana da distribuição de prompts deles. ↩

6. Dettmers et al. (2023) ajustaram um modelo de 65B em uma GPU de 48 GB quantizando o modelo em 4 bits e treinando adaptadores de baixo posto por cima dele. ↩