Skip to content

Official links only. Every download link goes to the publisher's own official page. We never host, repackage or bundle files.

How-to 8 min read

How to install Ollama on Windows and run your first local AI model

Windows पर Ollama कैसे इंस्टॉल करें और पहला लोकल AI मॉडल कैसे चलाएँ

By the ToolsBharat teamPublished 30 Oct 2026How we check

Applies to Ollama 0.40.13 (released 28 Oct 2026)

हिंदी में पढ़ें

Quick answer

Download OllamaSetup.exe from ollama.com/download, or run irm https://ollama.com/install.ps1 | iex in PowerShell, and install it. No administrator rights are needed. Then open a terminal and run ollama run gemma4:e2b to download a small model (about 7.2 GB) and chat with it on your own PC. Ollama needs Windows 10 22H2 or newer, at least 4 GB of disk for the app plus room for models, and NVIDIA driver 551.61 or newer if you have an NVIDIA card.

What Ollama does

Ollama downloads open AI models, such as Gemma, gpt-oss, Qwen and DeepSeek-R1, and runs them on your own computer. On Windows it installs as a normal app that stays in the background, and it adds an ollama command to Command Prompt and PowerShell. Ollama's FAQ says: "Ollama runs locally. We don't see your prompts or data when you run locally." It also offers optional cloud models, and those are processed on Ollama's servers. Ollama is open source under the MIT licence.

Windows requirements (from Ollama's docs)

  • Windows 10 22H2 or newer, Home or Pro.
  • NVIDIA: driver 551.61 or newer. Ollama's hardware page lists supported NVIDIA cards with compute capability 5.0 and up, which runs from the GTX 750 to the RTX 50 series.
  • AMD Radeon: a ROCm v7 / HIP7-capable driver for ROCm acceleration, or a Vulkan-capable Radeon driver for Vulkan. Ollama notes that some RX 6000 cards may not expose ROCm v7 on current Windows drivers, so Vulkan is the recommended fallback.
  • Disk: at least 4 GB for the app itself. Models need extra space, and Ollama warns they "can be tens to hundreds of GB".
  • No GPU? Ollama can also run models from system RAM. Its quickstart says responses may then be slower.

Step-by-step installation

  1. Go to ollama.com/download and download the Windows installer, OllamaSetup.exe. You can also open PowerShell and run Ollama's own one-line installer: irm https://ollama.com/install.ps1 | iex
  2. Run the installer. It installs into your user account, so it doesn't ask for administrator rights.
  3. Ollama starts in the background and shows an icon in the system tray. It also registers itself to start when you log in.
  4. Open a new PowerShell or Command Prompt window and run ollama. You'll see setup prompts where you can choose a local model (or sign in for cloud models).
  5. To try a small model, run ollama run gemma4:e2b. This is the example in Ollama's quickstart. The download is about 7.2 GB, and Ollama recommends 8 GB of available VRAM for it.
  6. Type a question and press Enter. Type /bye to leave the chat.

Install Ollama on D: drive (or move your models)

Many Indian laptops have a small C: drive. Ollama's docs give two fixes:

  • Install the app elsewhere: start the installer from a terminal with OllamaSetup.exe /DIR="d:\some\location", using your own folder.
  • Store models elsewhere: open Settings (Windows 11) or Control Panel (Windows 10), search for environment variables, click Edit environment variables for your account, and add a variable named OLLAMA_MODELS with the folder you want, such as D:\ollama-models. Click OK, quit Ollama from the tray icon and start it again.

Everyday commands

  • ollama pull gemma4 downloads a model without starting a chat.
  • ollama ls lists the models you have.
  • ollama ps shows which models are loaded and whether they run on the GPU or CPU.
  • ollama stop gemma4 unloads a running model.
  • ollama rm gemma4 deletes a model and frees disk space.

Other apps can talk to Ollama through its local API at http://localhost:11434.

Troubleshooting

  • Answers are very slow: run ollama ps. In the PROCESSOR column, "100% GPU" means the model fits in your graphics memory, and "100% CPU" means it is running from system RAM. A mixed value such as "48%/52% CPU/GPU" means it was split. Try a smaller model or update your GPU driver.
  • GPU not detected: Ollama says the latest driver gives the best results. On NVIDIA, confirm you have driver 551.61 or newer.
  • Progress bar shows squares: Ollama uses Unicode characters that some older Windows 10 terminal fonts can't display. Change the terminal font.
  • Strings like ←[?25h←[?25l or "The parameter is incorrect": this is a known bug in older Windows 10 terminals. Update Windows.
  • Disk full: move models to another drive with OLLAMA_MODELS, as shown above, and delete unused models with ollama rm.
  • Finding logs: press Win + R and type explorer %LOCALAPPDATA%\Ollama. The file server.log has the most recent server log.
  • Stop Ollama from starting with Windows: open Task Manager, go to Startup apps, find ollama and click Disable.
  • Updates: Ollama on Windows downloads updates by itself. Click the tray icon and choose Restart to update.

To uninstall, use Add or remove programs in Windows Settings. If you moved your models with OLLAMA_MODELS, the uninstaller leaves that folder alone, so delete it yourself if you no longer need it.

Next step: run DeepSeek-R1 locally, or compare Ollama with LM Studio and Jan.

हिंदी में

Windows पर Ollama कैसे इंस्टॉल करें और पहला लोकल AI मॉडल कैसे चलाएँ

ollama.com/download से OllamaSetup.exe डाउनलोड करें, या PowerShell में irm https://ollama.com/install.ps1 | iex चलाएँ, और इंस्टॉल करें। एडमिन अधिकार की ज़रूरत नहीं है। फिर टर्मिनल खोलकर ollama run gemma4:e2b चलाएँ, जो एक छोटा मॉडल (लगभग 7.2 GB) डाउनलोड करके आपके PC पर ही उससे चैट शुरू कर देता है। Ollama के लिए Windows 10 22H2 या नया, ऐप के लिए कम से कम 4 GB डिस्क और मॉडल के लिए अलग जगह चाहिए। NVIDIA कार्ड हो तो ड्राइवर 551.61 या नया होना चाहिए।

Ollama क्या करता है

Ollama Gemma, gpt-oss, Qwen और DeepSeek-R1 जैसे ओपन AI मॉडल डाउनलोड करता है और उन्हें आपके अपने कंप्यूटर पर चलाता है। Windows पर यह एक सामान्य ऐप की तरह इंस्टॉल होता है, जो बैकग्राउंड में चलता रहता है, और Command Prompt व PowerShell में ollama कमांड जोड़ देता है। Ollama के FAQ में लिखा है: "Ollama runs locally. We don't see your prompts or data when you run locally." यह वैकल्पिक क्लाउड मॉडल भी देता है, जो Ollama के सर्वर पर प्रोसेस होते हैं। Ollama, MIT लाइसेंस के तहत ओपन सोर्स है।

Windows की ज़रूरतें (Ollama के दस्तावेज़ से)

  • Windows 10 22H2 या नया, Home या Pro।
  • NVIDIA: ड्राइवर 551.61 या नया। Ollama के हार्डवेयर पेज पर compute capability 5.0 और उससे ऊपर के NVIDIA कार्ड सपोर्टेड हैं, यानी GTX 750 से लेकर RTX 50 सीरीज़ तक।
  • AMD Radeon: ROCm एक्सेलरेशन के लिए ROCm v7 / HIP7 वाला ड्राइवर, या Vulkan के लिए Vulkan सपोर्ट वाला Radeon ड्राइवर। Ollama के मुताबिक़ कुछ RX 6000 कार्ड मौजूदा Windows ड्राइवर पर ROCm v7 नहीं दिखाते, इसलिए उनके लिए Vulkan सुझाया गया विकल्प है।
  • डिस्क: ऐप के लिए कम से कम 4 GB। मॉडल के लिए अलग जगह चाहिए, और Ollama चेतावनी देता है कि मॉडल "tens to hundreds of GB" के हो सकते हैं।
  • GPU नहीं है? Ollama सिस्टम RAM से भी मॉडल चला सकता है। इसके quickstart के मुताबिक़ तब जवाब धीमे आ सकते हैं।

स्टेप-बाय-स्टेप इंस्टॉलेशन

  1. ollama.com/download पर जाएँ और Windows इंस्टॉलर OllamaSetup.exe डाउनलोड करें। चाहें तो PowerShell खोलकर Ollama का अपना एक-लाइन इंस्टॉलर चलाएँ: irm https://ollama.com/install.ps1 | iex
  2. इंस्टॉलर चलाएँ। यह आपके यूज़र अकाउंट में इंस्टॉल होता है, इसलिए एडमिन अधिकार नहीं माँगता।
  3. Ollama बैकग्राउंड में शुरू हो जाता है और सिस्टम ट्रे में आइकन दिखाता है। यह लॉग-इन के समय अपने-आप शुरू होने के लिए भी रजिस्टर हो जाता है।
  4. नई PowerShell या Command Prompt विंडो खोलें और ollama चलाएँ। सेटअप प्रॉम्प्ट दिखेंगे, जहाँ आप लोकल मॉडल चुन सकते हैं (या क्लाउड मॉडल के लिए साइन-इन कर सकते हैं)।
  5. छोटा मॉडल आज़माने के लिए ollama run gemma4:e2b चलाएँ। यही उदाहरण Ollama के quickstart में है। डाउनलोड लगभग 7.2 GB का है, और Ollama इसके लिए 8 GB खाली VRAM की सलाह देता है।
  6. सवाल लिखें और Enter दबाएँ। चैट से बाहर निकलने के लिए /bye लिखें।

Ollama को D: ड्राइव में इंस्टॉल करें (या मॉडल दूसरी जगह रखें)

कई लैपटॉप में C: ड्राइव छोटी होती है। Ollama के दस्तावेज़ में दो हल हैं:

  • ऐप दूसरी जगह इंस्टॉल करें: टर्मिनल से इंस्टॉलर ऐसे चलाएँ: OllamaSetup.exe /DIR="d:\some\location", और फ़ोल्डर की जगह अपना फ़ोल्डर लिखें।
  • मॉडल दूसरी जगह रखें: Settings (Windows 11) या Control Panel (Windows 10) खोलें, environment variables खोजें, Edit environment variables for your account पर क्लिक करें, और OLLAMA_MODELS नाम का वेरिएबल बनाकर उसमें मनचाहा फ़ोल्डर लिखें, जैसे D:\ollama-models। OK दबाएँ, ट्रे आइकन से Ollama बंद करें और फिर से शुरू करें।

रोज़ काम आने वाले कमांड

  • ollama pull gemma4 चैट शुरू किए बिना मॉडल डाउनलोड करता है।
  • ollama ls आपके पास मौजूद मॉडल की सूची दिखाता है।
  • ollama ps बताता है कि कौन-से मॉडल लोड हैं और वे GPU पर चल रहे हैं या CPU पर।
  • ollama stop gemma4 चल रहे मॉडल को मेमोरी से हटाता है।
  • ollama rm gemma4 मॉडल डिलीट करके डिस्क खाली करता है।

दूसरे ऐप Ollama से उसके लोकल API http://localhost:11434 के ज़रिए बात कर सकते हैं।

समस्याएँ और हल

  • जवाब बहुत धीमे आते हैं: ollama ps चलाएँ। PROCESSOR कॉलम में "100% GPU" का मतलब है कि मॉडल ग्राफ़िक्स मेमोरी में समा गया है, और "100% CPU" का मतलब है कि वह सिस्टम RAM से चल रहा है। "48%/52% CPU/GPU" जैसी मिली-जुली वैल्यू का मतलब है कि मॉडल दोनों में बँटा है। छोटा मॉडल आज़माएँ या GPU ड्राइवर अपडेट करें।
  • GPU नहीं पहचाना गया: Ollama के मुताबिक़ सबसे नया ड्राइवर सबसे अच्छे नतीजे देता है। NVIDIA पर देखें कि ड्राइवर 551.61 या नया है।
  • प्रोग्रेस बार में चौकोर डिब्बे दिखते हैं: Ollama, Unicode अक्षर इस्तेमाल करता है जिन्हें Windows 10 के कुछ पुराने टर्मिनल फ़ॉन्ट नहीं दिखा पाते। टर्मिनल का फ़ॉन्ट बदलें।
  • ←[?25h←[?25l जैसे अक्षर या "The parameter is incorrect": यह पुराने Windows 10 टर्मिनल का जाना-पहचाना बग है। Windows अपडेट करें।
  • डिस्क भर गई: ऊपर बताए तरीके से OLLAMA_MODELS के ज़रिए मॉडल दूसरी ड्राइव पर ले जाएँ, और बेकार मॉडल ollama rm से डिलीट करें।
  • लॉग कहाँ हैं: Win + R दबाकर explorer %LOCALAPPDATA%\Ollama लिखें। server.log फ़ाइल में सबसे ताज़ा सर्वर लॉग होता है।
  • Ollama को Windows के साथ शुरू होने से रोकें: Task Manager खोलें, Startup apps टैब में ollama ढूँढें और Disable पर क्लिक करें।
  • अपडेट: Windows पर Ollama अपडेट अपने-आप डाउनलोड करता है। ट्रे आइकन पर क्लिक करके Restart to update चुनें।

अनइंस्टॉल करने के लिए Windows Settings में Add or remove programs इस्तेमाल करें। अगर आपने OLLAMA_MODELS से मॉडल दूसरी जगह रखे थे, तो अनइंस्टॉलर वह फ़ोल्डर नहीं हटाता, इसलिए ज़रूरत न हो तो उसे ख़ुद डिलीट करें।

आगे: DeepSeek-R1 को लोकल चलाएँ, या Ollama की तुलना LM Studio और Jan से देखें।

Frequently asked questionsअक्सर पूछे जाने वाले सवाल

Is Ollama free?
Yes. Ollama is open source under the MIT licence, and running models locally costs nothing beyond your own hardware and electricity. Its optional cloud models need an Ollama account.
क्या Ollama फ़्री है?
हाँ। Ollama, MIT लाइसेंस के तहत ओपन सोर्स है, और लोकल मॉडल चलाने में आपके हार्डवेयर और बिजली के अलावा कोई ख़र्च नहीं है। इसके वैकल्पिक क्लाउड मॉडल के लिए Ollama अकाउंट चाहिए।
Can I install Ollama on D: drive?
Yes. Start the installer with OllamaSetup.exe /DIR="d:\some\location" to choose the app folder, and set the OLLAMA_MODELS environment variable to keep models on another drive.
क्या Ollama को D: ड्राइव में इंस्टॉल कर सकते हैं?
हाँ। ऐप का फ़ोल्डर चुनने के लिए इंस्टॉलर को OllamaSetup.exe /DIR="d:\some\location" से चलाएँ, और मॉडल दूसरी ड्राइव पर रखने के लिए OLLAMA_MODELS एनवायरनमेंट वेरिएबल सेट करें।
Does Ollama work without a graphics card?
Yes. With too little or no VRAM, Ollama runs models from system RAM, but its quickstart says responses may be slower. Smaller models are the practical choice on such PCs.
क्या Ollama बिना ग्राफ़िक्स कार्ड के चलता है?
हाँ। VRAM कम हो या न हो, तो Ollama सिस्टम RAM से मॉडल चलाता है, लेकिन इसके quickstart के मुताबिक़ जवाब धीमे आ सकते हैं। ऐसे PC पर छोटे मॉडल ही व्यावहारिक हैं।
Does Ollama send my chats to the internet?
Not for local models. Ollama's FAQ says it doesn't see your prompts or data when you run locally. Cloud models are processed on Ollama's servers. To turn cloud features off, set OLLAMA_NO_CLOUD=1 and restart Ollama.
क्या Ollama मेरी चैट इंटरनेट पर भेजता है?
लोकल मॉडल के लिए नहीं। Ollama के FAQ के मुताबिक़ लोकल चलाने पर वह आपके प्रॉम्प्ट या डेटा नहीं देखता। क्लाउड मॉडल Ollama के सर्वर पर प्रोसेस होते हैं। क्लाउड सुविधाएँ बंद करनी हों तो OLLAMA_NO_CLOUD=1 सेट करके Ollama दोबारा शुरू करें।

Sources

More guides

↑ ↓ to move · Enter to open · Esc to close