Tunggu, Bisa Begitu? Cara (dan Alasan) Menginstal Jaringan Neural di Komputer Anda

Sebagian besar jaringan saraf saat ini beroperasi secara daring, tetapi beberapa model dapat diunduh dan dijalankan secara lokal di komputer Anda sendiri, bahkan tanpa akses internet. Ini disebut penerapan AI lokal. Hal ini legal: pengembang memublikasikan bobot model untuk diunduh, meskipun setiap model memiliki lisensinya sendiri. Menjalankan secara lokal berarti data Anda tetap berada di perangkat Anda, Anda dapat bekerja secara luring, dan Anda terhindar dari biaya API. Namun, model lokal umumnya kurang kuat dibandingkan model cloud dan mungkin memerlukan RAM yang signifikan atau GPU yang baik. Model populer untuk penggunaan lokal termasuk DeepSeek, Llama dari Meta, Qwen dari Alibaba, Gemma dari Google, Mistral, dan Phi dari Microsoft. Untuk instalasi, program seperti LM Studio mempermudah prosesnya. Sebagai contoh, untuk menjalankan DeepSeek dengan LM Studio, Anda mengunduh perangkat lunaknya, mencari DeepSeek, memilih versi terkuantisasi (misalnya, Q4_K_M), dan mengunduhnya. Persyaratan sistem bervariasi: DeepSeek 8B membutuhkan setidaknya 8 GB RAM dan 5-6 GB ruang disk, 14B membutuhkan 16 GB RAM, dan 32B membutuhkan 32 GB RAM. ChatGPT tidak dapat diunduh; OpenAI tidak merilis bobot model. Setelah instalasi, internet hanya diperlukan untuk pembaruan atau model baru. GPU yang kuat tidak wajib; CPU berfungsi tetapi lebih lambat. Kuantisasi mengurangi ukuran model dan persyaratan dengan mengorbankan kualitas.