ちょっと待って、そんなことできるの？パソコンにニューラルネットワークをインストールする方法とその理由

現在、ほとんどのニューラルネットワークはオンラインで動作しますが、一部のモデルはダウンロードして、インターネットに接続していなくても自分のコンピュータ上でローカルに実行できます。これはローカルAIデプロイと呼ばれます。これは合法です。開発者がモデルの重みをダウンロード用に公開しており、各モデルにはそれぞれライセンスがあります。ローカルで実行するということは、データが自分のマシンに留まり、オフラインで作業でき、API料金を回避できることを意味します。ただし、ローカルモデルは一般的にクラウドモデルよりも性能が劣り、かなりのRAMや高性能なGPUが必要になる場合があります。ローカル利用に人気のあるモデルには、DeepSeek、MetaのLlama、AlibabaのQwen、GoogleのGemma、Mistral、MicrosoftのPhiがあります。インストールには、LM Studioのようなプログラムがプロセスを簡素化します。例として、LM StudioでDeepSeekを実行するには、ソフトウェアをダウンロードし、DeepSeekを検索し、量子化バージョン（例：Q4_K_M）を選択してダウンロードします。システム要件はさまざまです。DeepSeek 8Bは少なくとも8GBのRAMと5〜6GBのディスク容量が必要で、14Bは16GBのRAM、32Bは32GBのRAMが必要です。ChatGPTはダウンロードできません。OpenAIは重みを公開していません。インストール後、インターネットが必要なのはアップデートや新しいモデルのダウンロード時のみです。高性能なGPUは必須ではありません。CPUでも動作しますが、速度は遅くなります。量子化は、モデルのサイズと要件を削減しますが、品質が多少低下します。