Pare de Alimentar Claude e GPT: Como Montar Seu Próprio LLM On-Premises

A Shadow AI, onde funcionários usam ferramentas de IA não autorizadas, é um problema crescente. Uma pesquisa da ISACA descobriu que 90% dos auditores de TI veem funcionários usando IA, mas apenas 38% das organizações têm políticas. O DBIR da Verizon mostra que a Shadow AI é a terceira ação interna não intencional mais comum, com um aumento anual de quatro vezes. Código-fonte e imagens são os dados mais vazados. A proibição do ChatGPT pela Samsung em 2023, após vários incidentes, ilustra a ineficácia da proibição, pois ela apenas leva o uso para a clandestinidade. Comprar APIs empresariais com retenção zero de dados também é insuficiente, porque os prompts ainda são visíveis para o provedor, e tribunais obrigaram a OpenAI a entregar logs. O artigo alerta que alugar GPUs compartilhadas ou até dedicadas na nuvem não é uma solução completa, citando vulnerabilidades como CVE-2026-46229, onde a VRAM pode vazar entre locatários, e hipervisores podem ver tudo. Para a maioria das necessidades corporativas, hospedagem bare-metal dedicada é suficiente, mas para a mais alta segurança, é necessário hardware próprio. O artigo sugere começar com modelos mais simples, como Qwen3-32B, para tarefas rotineiras, usar Ollama para pequenos números de usuários ou vLLM para cargas pesadas, e colocar LiteLLM como gateway para SSO e auditoria. O ponto de equilíbrio de custo é em aproximadamente 2 milhões de tokens por dia, além do qual a infraestrutura local é mais econômica.