Cara Menjalankan Model AI Secara Tempatan pada Windows Tanpa Internet

Ambilan Utama:

• Anda boleh menggunakan alatan seperti Ollama untuk memanfaatkan keupayaan model AI sumber terbuka secara langsung pada peranti anda.
• Apabila menjalankan model AI ini secara tempatan, anda akan memintas pergantungan awan dan membuka kunci faedah seperti privasi dan inferens yang lebih pantas.

Cara Menjalankan Model AI Secara Tempatan pada Windows Dengan Ollama

Anda boleh menjalankan model AI seperti ChatGPT secara setempat pada komputer anda tanpa sambungan internet. Banyak perkhidmatan membantu anda dengan proses ini. Walau bagaimanapun, kami akan menunjukkannya menggunakan Ollama.

Muat turun dan Pasang Ollama

Langkah 1: Navigasi ke laman web Ollama dan klik butang Muat turun.

Langkah 2: Pilih OS anda dan klik Muat turun.

Langkah 3: Klik dua kali fail yang dimuat turun > klik Pasang > ikut arahan pemasangan.

Setelah dipasang, anda akan melihat pop timbul yang mengatakan Ollama sedang berjalan.

Langkah 4: Lancarkan terminal anda. Di Windows, tekan Windows + R, taip cmd, dan tekan Enter.

Langkah 5: Muat turun model AI pertama anda menggunakan arahan di bawah. Pastikan anda menggantikan model dengan model sebenar pada Ollama; ini boleh jadi Llama 3, Phi 3, Mistral, Gemma, dll. Bersabar; ini mungkin mengambil sedikit masa.

Ollama pull model

Cara Berkomunikasi Dengan Model yang Dimuat Turun di Ollama

Memandangkan anda telah memasang model AI, anda boleh berkomunikasi dengannya. Ini serupa dengan berkomunikasi dengan Gemini atau AI ChatGPT daripada antara muka web. Ikuti langkah di bawah.

Langkah 1: Lancarkan Terminal pada komputer anda.

Langkah 2: Taip arahan di bawah. Anda boleh menggantikan llama3 dalam arahan untuk nama model yang anda muat turun.

Ollama run llama3

Langkah 3: Akhir sekali, taip gesaan anda dan tekan Enter seperti yang anda lakukan pada ChatGPT atau Gemini. Anda kemudiannya boleh berinteraksi dengan AI.

Soalan Lazim

Bolehkah Anda Menjalankan Generatif AI Secara Tempatan?

Ya, anda boleh, dan pada masa ini, Stable Diffusion ialah cara yang paling boleh dipercayai. Alat seperti WebUI Resapan Stabil dan InvokeAI berikan akses kepada Stable Diffusion untuk penjanaan imej tempatan.