Ambilan Utama:
- Anda boleh menggunakan alatan seperti Ollama untuk memanfaatkan keupayaan model AI sumber terbuka secara langsung pada peranti anda.
- Apabila menjalankan model AI ini secara tempatan, anda akan memintas pergantungan awan dan membuka kunci faedah seperti privasi dan inferens yang lebih pantas.
Cara Menjalankan Model AI Secara Tempatan pada Windows Dengan Ollama
Anda boleh menjalankan model AI seperti ChatGPT secara setempat pada komputer anda tanpa sambungan internet. Banyak perkhidmatan membantu anda dengan proses ini. Walau bagaimanapun, kami akan menunjukkannya menggunakan Ollama.
Muat turun dan Pasang Ollama
Langkah 1: Navigasi ke laman web Ollama dan klik butang Muat turun.
![Memuat turun Ollama](https://i0.wp.com/www.alphr.com/wp-content/uploads/2024/05/Download-button-on-Ollama.png?resize=627%2C487&ssl=1)
Langkah 2: Pilih OS anda dan klik Muat turun.
![Pilihan muat turun Ollama](https://i0.wp.com/www.alphr.com/wp-content/uploads/2024/05/Download-ollama.png?resize=492%2C349&ssl=1)
![Pilihan muat turun Ollama](https://i0.wp.com/www.alphr.com/wp-content/uploads/2024/05/Download-ollama.png?resize=492%2C349&ssl=1)
Langkah 3: Klik dua kali fail yang dimuat turun > klik Pasang > ikut arahan pemasangan.
![Pasang Ollama](https://i0.wp.com/www.alphr.com/wp-content/uploads/2024/05/Install-Ollama.png?resize=690%2C509&ssl=1)
![Pasang Ollama](https://i0.wp.com/www.alphr.com/wp-content/uploads/2024/05/Install-Ollama.png?resize=690%2C509&ssl=1)
Setelah dipasang, anda akan melihat pop timbul yang mengatakan Ollama sedang berjalan.
Langkah 4: Lancarkan terminal anda. Di Windows, tekan Windows + R, taip cmd, dan tekan Enter.
Langkah 5: Muat turun model AI pertama anda menggunakan arahan di bawah. Pastikan anda menggantikan model dengan model sebenar pada Ollama; ini boleh jadi Llama 3, Phi 3, Mistral, Gemma, dll. Bersabar; ini mungkin mengambil sedikit masa.
Ollama pull model
![Muat turun model](https://i0.wp.com/www.alphr.com/wp-content/uploads/2024/05/Model-download.jpg?resize=690%2C259&ssl=1)
![Muat turun model](https://i0.wp.com/www.alphr.com/wp-content/uploads/2024/05/Model-download.jpg?resize=690%2C259&ssl=1)
Cara Berkomunikasi Dengan Model yang Dimuat Turun di Ollama
Memandangkan anda telah memasang model AI, anda boleh berkomunikasi dengannya. Ini serupa dengan berkomunikasi dengan Gemini atau AI ChatGPT daripada antara muka web. Ikuti langkah di bawah.
Langkah 1: Lancarkan Terminal pada komputer anda.
Langkah 2: Taip arahan di bawah. Anda boleh menggantikan llama3 dalam arahan untuk nama model yang anda muat turun.
Ollama run llama3
![Ollama lari llama3](https://i0.wp.com/www.alphr.com/wp-content/uploads/2024/05/running-llama-commands.png?resize=690%2C291&ssl=1)
![Ollama lari llama3](https://i0.wp.com/www.alphr.com/wp-content/uploads/2024/05/running-llama-commands.png?resize=690%2C291&ssl=1)
Langkah 3: Akhir sekali, taip gesaan anda dan tekan Enter seperti yang anda lakukan pada ChatGPT atau Gemini. Anda kemudiannya boleh berinteraksi dengan AI.
Soalan Lazim
Bolehkah Anda Menjalankan Generatif AI Secara Tempatan?
Ya, anda boleh, dan pada masa ini, Stable Diffusion ialah cara yang paling boleh dipercayai. Alat seperti WebUI Resapan Stabil dan InvokeAI berikan akses kepada Stable Diffusion untuk penjanaan imej tempatan.