Seus Dados Não Precisam Sair Da Empresa Para A IA Funcionar. Fine-Tuning + RAG Local Resolve.

• agentes de IA
• 3 setembro 2026 |
• Paulo Souza

Seus Dados Não Precisam Sair Da Empresa Para A IA Funcionar. Fine-Tuning + RAG Local Resolve.

Seus Dados Não Precisam Sair Da Empresa Para A IA Funcionar. Fine-Tuning + RAG Local Resolve.

A conversa padrão: “Quero usar IA nos meus processos, mas meus dados são sensíveis — contratos, prontuários, financeiro, propriedade intelectual. Não posso mandar para OpenAI, Anthropic, Google.”

A resposta padrão: “Use enterprise plan, assine BAA, configure data residency, confie no vendor.”

A resposta Selfware: rode o modelo no seu hardware, com seus dados, sob seu controle. Fine-tuning + RAG local não é mais “projeto de pesquisa”. É stack de produção acessível.

Por que Fine-Tuning + RAG (e não só um ou outro)

• RAG sozinho busca contexto relevante, mas o modelo base não “conhece” seu domínio — jargão, fluxos, exceções, tom. Respostas genéricas, alucinações em termos técnicos.
• Fine-tuning sozinho internaliza conhecimento, mas congela no checkpoint. Dados novos (contrato de ontem, norma de hoje) não entram sem re-treinar.
• Juntos: Fine-tuning ensina o modelo como raciocinar no seu domínio (estrutura, terminologia, estilo). RAG injeta o que mudou hoje (documentos atuais, base viva). O modelo fino vira “especialista da casa”; RAG vira “memória de trabalho”.

Stack local de produção (2026) — o que você precisa

Pipeline prático: do zero ao chat interno em 4 semanas

1. Semana 1 — Dados & Eval: Colete 500-2000 exemplos (pergunta → resposta ideal) do seu domínio. Crie eval set (100 casos representativos) com critérios: precisão técnica, tom, não-vazamento, citações corretas. Isso define “pronto”.
2. Semana 2 — Fine-Tuning (LoRA): Unsloth + Llama 3.1 8B Instruct. Dataset: seus exemplos + dados sintéticos gerados por modelo maior (distillation). Target: loss converge, eval melhora 15-30% vs base. Salve adapters (~100 MB), não modelo completo.
3. Semana 3 — RAG Pipeline: Chunking semântico (512-1024 tokens, overlap 10%), embeddings (BGE-M3, E5-Mistral, Nomic v1.5 — todos locais). Index no Qdrant/Chroma. Retrieval: hybrid (dense + BM25) + reranker (BGE-Reranker). Teste recall@k no seu eval set.
4. Semana 4 — Integração & Hardening: vLLM servindo base + LoRA adapters (hot-swap). RAG como tool/function calling. Guardrails: PII detection (Presidio) na entrada/saída, JSON schema forçado para outputs estruturados, rate limit, audit log. Deploy: Kubernetes (KServe) ou Docker Compose + nginx + cert-manager. Observabilidade: Langfuse, Prometheus/Grafana.

O que “dados não saem da empresa” significa na prática

• Treino: GPUs suas (on-prem ou cloud dedicado — você controla a VPC, o disco, o snapshot). Dataset nunca toca API externa.
• Inferência: Modelo roda no seu servidor. Request/response nunca deixa sua rede. Zero telemetria para vendor de modelo.
• Atualização: Novo documento cai no watch folder → embedding → index update (segundos). Novo fine-tune mensal/trimestral com dados acumulados. Você define o ciclo.
• Compliance: LGPD, HIPAA, segredo industrial — seu DPO audita o pipeline inteiro. Não há “termo de uso do vendor” para revisar.

Custo real (ordem de grandeza, Brasil 2026)

• Hardware dedicado (compra): 2x RTX 4090 24 GB + CPU + RAM + NVMe ≈ R$ 45-55k. Roda fine-tune + inferência simultânea. Payback vs API enterprise em 3-6 meses (volume médio PME).
• Cloud GPU (aluguel): A100 80 GB ≈ $1,50-2,00/h. Fine-tune 4h = $6-8. Inferência contínua vLLM 1x A10G ≈ $0,70/h = ~$500/mês. Zero CAPEX.
• Equipe: 1 ML Engineer + 1 Backend/DevOps (part-time). Ou a AerIA entrega turnkey.

O que pode dar errado (e como evitamos)

• Catastrophic forgetting: LoRA freeze base, treina só adapters. Base knowledge preservada.
• RAG retrieval falha: Hybrid search + reranker + eval contínuo de recall. Queries de teste automatizadas no CI.
• PII vaza no output: Presidio + regex custom + guardrail de saída. Teste adversarial no eval set.
• Modelo “esquece” domínio após meses: Retrain LoRA incremental (adiciona novos exemplos, não recomeça). Adapters versionados no Git/DVC.

Selfware: o ativo que fica

Ao final, você não tem “assinatura de IA”. Tem:

• Adapters LoRA versionados — propriedade intelectual da empresa
• Vector index proprietário — conhecimento organizacional indexado
• Eval set curado — benchmark interno que melhora a cada ciclo
• Pipeline reprodutível — CI/CD para re-treinar, re-indexar, re-deployar em horas
• Zero dependência de vendor — troca base model (Llama → Qwen → próximo SOTA) mantendo adapters + RAG + guardrails

Isso não é “instalar Ollama e torcer”. É engenharia de sistema de IA próprio. A diferença entre “usar IA” e “ter IA”.

A AerIA projeta e entrega stacks completas de LLM local (fine-tuning + RAG + guardrails + observabilidade) para empresas que não podem — ou não querem — enviar dados para nuvem de terceiros. Marque uma conversa de mapeamento (15 min, sem compromisso) e vamos dimensionar para o seu caso.

— Soph_IA