Windows पर DeepSeek-R1 को लोकल कैसे चलाएँ (Ollama या LM Studio)

संक्षेप में

DeepSeek-R1, DeepSeek का ओपन रीज़निंग मॉडल है, जो MIT लाइसेंस के तहत जारी हुआ है। इसे आप Windows PC पर Ollama या LM Studio से ऑफ़लाइन चला सकते हैं। मॉडल डाउनलोड हो जाने के बाद आपके सवाल आपके कंप्यूटर पर ही रहते हैं। DeepSeek के अपने ऐप या वेबसाइट से यही सबसे बड़ा फ़र्क है, क्योंकि उनकी प्राइवेसी पॉलिसी के मुताबिक़ डेटा चीन में रखा जाता है (देखें क्या DeepSeek ऐप सुरक्षित है?)।

दिक़्क़त साइज़ की है। DeepSeek के मॉडल कार्ड के मुताबिक़ असली DeepSeek-R1 में 671 अरब पैरामीटर हैं। घर पर ज़्यादातर लोग जो चलाते हैं, वह इसके साथ जारी हुए छोटे distilled मॉडल में से एक होता है।

आपके PC में DeepSeek-R1 का कौन-सा साइज़ चलेगा?

Ollama के deepseek-r1 पेज पर दिए डाउनलोड साइज़ और हर एक का बेस मॉडल:

• deepseek-r1:1.5b: 1.1 GB, DeepSeek-R1-Distill-Qwen-1.5B
• deepseek-r1:7b: 4.7 GB, DeepSeek-R1-Distill-Qwen-7B
• deepseek-r1:8b: 5.2 GB, DeepSeek-R1-0528-Qwen3-8B। सिर्फ़ deepseek-r1 (यानी "latest" टैग) लिखने पर भी यही मिलता है।
• deepseek-r1:14b: 9.0 GB, DeepSeek-R1-Distill-Qwen-14B
• deepseek-r1:32b: 20 GB, DeepSeek-R1-Distill-Qwen-32B
• deepseek-r1:70b: 43 GB, DeepSeek-R1-Distill-Llama-70B
• deepseek-r1:671b: 404 GB, पूरा DeepSeek-R1

DeepSeek के मॉडल कार्ड में RAM या VRAM की कोई तालिका नहीं है, इसलिए हम अपनी तरफ़ से कोई तालिका नहीं बना रहे। आधिकारिक स्रोत यह कहते हैं: Ollama के quickstart के मुताबिक़ मॉडल सबसे तेज़ तब चलता है जब वह ग्राफ़िक्स कार्ड की मेमोरी (VRAM) में समा जाए। VRAM कम हो तो Ollama सिस्टम RAM इस्तेमाल करता है, "but responses may be slower"। LM Studio, Windows पर कम से कम 16 GB RAM और 4 GB dedicated VRAM की सलाह देता है।

चुनने का व्यावहारिक तरीका: लोड होने के बाद मॉडल लगभग अपने डाउनलोड साइज़ जितनी मेमोरी लेता है, और बातचीत (context) के लिए उससे थोड़ी ज़्यादा चाहिए। इसलिए ऐसा साइज़ चुनें जो आपकी खाली GPU मेमोरी से, या ग्राफ़िक्स कार्ड न हो तो खाली RAM से, साफ़ तौर पर छोटा हो। 8 GB वाले लैपटॉप पर 1.5b से शुरू करें। 16 GB RAM हो तो पहली कोशिश के लिए 7b या 8b ठीक है। यह एक अंदाज़ा है, जाँच का नतीजा नहीं। आपके PC पर असल में क्या हो रहा है, यह नीचे बताए ollama ps से देखें।

तरीका 1: Ollama से DeepSeek-R1 चलाएँ

1. Windows के लिए Ollama इंस्टॉल करें। हमारी स्टेप-बाय-स्टेप गाइड: Windows पर Ollama कैसे इंस्टॉल करें।
2. PowerShell या Command Prompt खोलें।
3. ollama run deepseek-r1:8b चलाएँ, या 8b की जगह अपना चुना साइज़ लिखें। पहली बार चलाने पर मॉडल डाउनलोड होगा।
4. >>> प्रॉम्प्ट आने पर अपना सवाल लिखें। R1 रीज़निंग मॉडल है, इसलिए जवाब से पहले वह "सोचता" है, और उसकी सोच पहले दिखती है।
5. बाहर निकलने के लिए /bye लिखें। अगली बार मॉडल बिना दोबारा डाउनलोड किए शुरू होगा।
6. यह कैसे चल रहा है, यह देखने के लिए दूसरी विंडो में ollama ps चलाएँ। "100% GPU" सबसे अच्छा है। "100% CPU" का मतलब है कि मॉडल RAM से चल रहा है और धीमा रहेगा।

Ollama के पेज के मुताबिक़ DeepSeek-R1 को DeepSeek-R1-0528 के रूप में एक छोटा अपग्रेड मिला है। पहले डाउनलोड की गई कॉपी अपडेट करने के लिए ollama pull deepseek-r1 चलाएँ।

तरीका 2: LM Studio से DeepSeek-R1 चलाएँ

1. lmstudio.ai से LM Studio डाउनलोड करके इंस्टॉल करें। x64 PC पर LM Studio के लिए AVX2 सपोर्ट वाला प्रोसेसर ज़रूरी है।
2. Discover टैब खोलें (Ctrl + 2 दबाएँ) और deepseek-r1 खोजें।
3. आपको Q4_K_M या Q8_0 जैसे नामों वाले डाउनलोड विकल्प दिखेंगे। ये quantization हैं, यानी उसी मॉडल की कंप्रेस की हुई कॉपियाँ। LM Studio की सलाह है: "choose a 4-bit option or higher if your machine is capable enough"।
4. डाउनलोड पूरा होने पर Chat टैब में जाएँ, मॉडल लोडर खोलें (Ctrl + L) और मॉडल चुनें।
5. चैट शुरू करें। LM Studio के दस्तावेज़ के मुताबिक़ मॉडल आपकी मशीन पर आ जाने के बाद "nothing you enter into LM Studio when chatting with LLMs leaves your device"।

DeepSeek की सुझाई सेटिंग्स

R1 सीरीज़ के मॉडल कार्ड में DeepSeek, 0.5 से 0.7 के बीच temperature की सलाह देता है, जिसमें 0.6 सबसे अच्छा है, ताकि "endless repetitions or incoherent outputs" न हों। मूल R1 मॉडल के लिए यह भी लिखा है कि system prompt न डालें और हर निर्देश अपने संदेश में ही लिखें। नए DeepSeek-R1-0528-Qwen3-8B के कार्ड में लिखा है कि system prompt "is supported now"। Ollama में temperature एक मॉडल पैरामीटर है, जिसे Modelfile में सेट किया जा सकता है (PARAMETER temperature 0.6)। गणित के सवालों के लिए DeepSeek यह जोड़ने का सुझाव देता है: "Please reason step by step, and put your final answer within \boxed{}."

समस्याएँ और हल

• जवाब बहुत धीमे: मॉडल आपकी VRAM के लिए बहुत बड़ा है और RAM में खिसक रहा है। ollama ps के PROCESSOR कॉलम में CPU दिखेगा। छोटा साइज़ लें, जैसे 14b की जगह 8b, और दूसरे भारी ऐप बंद करें।
• डिस्क में जगह नहीं: मॉडल डिफ़ॉल्ट रूप से आपके यूज़र फ़ोल्डर में रखे जाते हैं। Ollama में OLLAMA_MODELS एनवायरनमेंट वेरिएबल को दूसरी ड्राइव के फ़ोल्डर पर सेट करके Ollama दोबारा शुरू करें। LM Studio में My Models से मॉडल फ़ोल्डर बदलें।
• मॉडल बातें दोहराता है या भटकता है: DeepSeek की सलाह के मुताबिक़ temperature लगभग 0.6 रखें।
• हर जवाब से पहले लंबी "सोच": रीज़निंग मॉडल में यह सामान्य है। छोटे distill जल्दी सोचते हैं, लेकिन उतने सक्षम नहीं होते।
• पुराने PC पर LM Studio शुरू नहीं होता: देखें कि आपका प्रोसेसर AVX2 सपोर्ट करता है। LM Studio ने x64 पर इसे ज़रूरी बताया है।

लाइसेंस

DeepSeek के कार्ड के मुताबिक़ R1 का कोड और वेट्स MIT लाइसेंस के तहत हैं और व्यावसायिक इस्तेमाल की अनुमति है। distilled मॉडल पर उनके बेस मॉडल का लाइसेंस भी लागू होता है: Qwen-2.5 वालों पर Apache 2.0, और Llama वालों पर Meta का Llama 3.1 या 3.3 लाइसेंस।