Deja de alimentar a Claude y GPT: cómo montar tu propio LLM local

Shadow AI, que consiste en que los empleados utilizan herramientas de inteligencia artificial no autorizadas, es un problema creciente. Una encuesta de ISACA reveló que el 90% de los auditores de TI observan que los empleados usan IA, pero solo el 38% de las organizaciones tienen políticas al respecto. El Informe de Investigaciones de Filtraciones de Datos de Verizon muestra que Shadow AI es la tercera acción interna no intencional más común, con un aumento anual del cuádruple. El código fuente y las imágenes son los datos más filtrados. La prohibición de ChatGPT por parte de Samsung en 2023, tras varios incidentes, ilustra la ineficacia de la prohibición, ya que solo lleva el uso a la clandestinidad. Comprar APIs empresariales con retención cero de datos tampoco es suficiente, porque los prompts siguen siendo visibles para el proveedor, y los tribunales han obligado a OpenAI a entregar registros. El artículo advierte que alquilar GPUs compartidas o incluso dedicadas en la nube no es una solución completa, citando vulnerabilidades como CVE-2026-46229, donde la memoria VRAM puede filtrarse entre inquilinos, y los hipervisores pueden verlo todo. Para la mayoría de las necesidades corporativas, el alojamiento dedicado en servidores físicos es suficiente, pero para la máxima seguridad, se requiere hardware propio. El artículo sugiere comenzar con modelos más simples como Qwen3-32B para tareas rutinarias, usar Ollama para pocos usuarios o vLLM para cargas pesadas, y colocar a LiteLLM como pasarela para SSO y auditoría. El punto de equiparación de costos se sitúa aproximadamente en 2 millones de tokens al día, a partir del cual la implementación local es más económica.