Espera, isso é possível? Como (e por que) instalar uma rede neural no seu computador

Atualmente, a maioria das redes neurais funciona online, mas alguns modelos podem ser baixados e executados localmente no seu próprio computador, mesmo sem acesso à internet. Isso é chamado de implantação local de IA. É legal: os desenvolvedores publicam os pesos dos modelos para download, embora cada modelo tenha sua própria licença. Executar localmente significa que seus dados permanecem na sua máquina, você pode trabalhar offline e evita taxas de API. No entanto, os modelos locais são geralmente menos poderosos que os da nuvem e podem exigir bastante memória RAM ou uma boa GPU. Modelos populares para uso local incluem DeepSeek, Llama da Meta, Qwen da Alibaba, Gemma do Google, Mistral e o Phi da Microsoft. Para instalação, programas como o LM Studio simplificam o processo. Como exemplo, para executar o DeepSeek com o LM Studio, você baixa o software, procura por DeepSeek, escolhe uma versão quantizada (por exemplo, Q4_K_M) e a baixa. Os requisitos de sistema variam: DeepSeek 8B precisa de pelo menos 8 GB de RAM e 5-6 GB de disco, o 14B pede 16 GB de RAM e o 32B exige 32 GB de RAM. O ChatGPT não pode ser baixado; a OpenAI não libera os pesos. Após a instalação, a internet só é necessária para atualizações ou novos modelos. Uma GPU poderosa não é obrigatória; a CPU funciona, mas é mais lenta. A quantização reduz o tamanho do modelo e os requisitos, com algum custo de qualidade.