Cara Menjalankan Model AI Secara Tempatan pada Windows Tanpa Internet

15

Ambilan Utama:

Cara Menjalankan Model AI Secara Tempatan pada Windows Tanpa InternetCara Menjalankan Model AI Secara Tempatan pada Windows Tanpa Internet

  • Anda boleh menggunakan alatan seperti Ollama untuk memanfaatkan keupayaan model AI sumber terbuka secara langsung pada peranti anda.
  • Apabila menjalankan model AI ini secara tempatan, anda akan memintas pergantungan awan dan membuka kunci faedah seperti privasi dan inferens yang lebih pantas.

Cara Menjalankan Model AI Secara Tempatan pada Windows Dengan Ollama

Anda boleh menjalankan model AI seperti ChatGPT secara setempat pada komputer anda tanpa sambungan internet. Banyak perkhidmatan membantu anda dengan proses ini. Walau bagaimanapun, kami akan menunjukkannya menggunakan Ollama.

Muat turun dan Pasang Ollama

Langkah 1: Navigasi ke laman web Ollama dan klik butang Muat turun.

Memuat turun Ollama

Langkah 2: Pilih OS anda dan klik Muat turun.

Pilihan muat turun OllamaPilihan muat turun Ollama

Langkah 3: Klik dua kali fail yang dimuat turun > klik Pasang > ikut arahan pemasangan.

Pasang OllamaPasang Ollama

Setelah dipasang, anda akan melihat pop timbul yang mengatakan Ollama sedang berjalan.

Langkah 4: Lancarkan terminal anda. Di Windows, tekan Windows + R, taip cmd, dan tekan Enter.

Langkah 5: Muat turun model AI pertama anda menggunakan arahan di bawah. Pastikan anda menggantikan model dengan model sebenar pada Ollama; ini boleh jadi Llama 3, Phi 3, Mistral, Gemma, dll. Bersabar; ini mungkin mengambil sedikit masa.

Ollama pull model
Muat turun modelMuat turun model

Cara Berkomunikasi Dengan Model yang Dimuat Turun di Ollama

Memandangkan anda telah memasang model AI, anda boleh berkomunikasi dengannya. Ini serupa dengan berkomunikasi dengan Gemini atau AI ChatGPT daripada antara muka web. Ikuti langkah di bawah.

Langkah 1: Lancarkan Terminal pada komputer anda.

Langkah 2: Taip arahan di bawah. Anda boleh menggantikan llama3 dalam arahan untuk nama model yang anda muat turun.

Ollama run llama3
Ollama lari llama3Ollama lari llama3

Langkah 3: Akhir sekali, taip gesaan anda dan tekan Enter seperti yang anda lakukan pada ChatGPT atau Gemini. Anda kemudiannya boleh berinteraksi dengan AI.

Soalan Lazim

Bolehkah Anda Menjalankan Generatif AI Secara Tempatan?

Ya, anda boleh, dan pada masa ini, Stable Diffusion ialah cara yang paling boleh dipercayai. Alat seperti WebUI Resapan Stabil dan InvokeAI berikan akses kepada Stable Diffusion untuk penjanaan imej tempatan.