सीधा जवाब
DeepSeek V4 सचमुच ओपन है: DeepSeek इसका कोड और मॉडल वेट्स Hugging Face पर MIT लाइसेंस के तहत प्रकाशित करता है। लेकिन इसे घर पर चलाना अलग बात है, क्योंकि V4 का हर मॉडल बहुत बड़ा है। ये आँकड़े DeepSeek के अपने मॉडल कार्ड से हैं:
- DeepSeek-V4-Flash: कुल 284B पैरामीटर, हर टोकन पर 13B सक्रिय, 1M टोकन का context।
- DeepSeek-V4-Pro: कुल 1.6T पैरामीटर, 49B सक्रिय।
- DeepSeek-V4.1-Flash: 552B का backbone, जो इनपुट पढ़ते समय 8B और जवाब बनाते समय 16B पैरामीटर सक्रिय करता है, और इमेज इनपुट भी लेता है।
DeepSeek के Hugging Face पेज पर V4 का कोई छोटा वर्ज़न नहीं है। हमें जो सबसे छोटा लोकल बिल्ड मिला, वह LM Studio का DeepSeek V4 Flash है, जो 156.40 GB का डाउनलोड है। LM Studio के मुताबिक़ इसे चलाने के लिए कम से कम 156 GB RAM चाहिए। ToolsBharat ने इनमें से कोई मॉडल नहीं चलाया है। नीचे की हर बात DeepSeek के मॉडल कार्ड और Ollama व LM Studio के पेजों से है, जिन्हें 30 अक्टूबर 2026 को जाँचा गया।
स्टेप 1: देखें कि आपका PC इसे चला भी सकता है या नहीं
DeepSeek ने V4 के लिए कोई न्यूनतम हार्डवेयर ज़रूरत प्रकाशित नहीं की है। इसका अकेला ठोस उदाहरण DeepSeek-V4-Flash-0731 के कार्ड पर है, जिसमें vLLM मॉडल को "on a single 4×GB300 node" पर चलाता दिखाया गया है। यह डेटा-सेंटर का हार्डवेयर है।
PC के लिए असली आँकड़ा LM Studio का है: सबसे छोटे DeepSeek V4 Flash बिल्ड के लिए कम से कम 156 GB RAM। अगर आपके PC में 8, 16 या 32 GB RAM है, तो यह नहीं चलेगा। डाउनलोड के लिए 156.40 GB से ज़्यादा खाली डिस्क स्पेस भी चाहिए।
LM Studio की अपनी ज़रूरतें इससे अलग हैं। Windows पर इसे AVX2 वाला x64 प्रोसेसर (या Snapdragon X Elite वाला ARM PC) चाहिए, और यह कम से कम 16 GB RAM और 4 GB dedicated VRAM की सलाह देता है। ये आँकड़े ऐप के लिए हैं, इतने बड़े मॉडल के लिए नहीं।
स्टेप 2: LM Studio में DeepSeek V4 Flash चलाएँ
Ollama और LM Studio में से सिर्फ़ LM Studio ही V4 का डाउनलोड होने वाला मॉडल दिखाता है। इसके पेज के मुताबिक़ यह बिल्ड "DeepSeek-V4-Flash-0731" है, जिसे DeepSeek, V4-Flash की आधिकारिक रिलीज़ कहता है।
- lmstudio.ai से LM Studio इंस्टॉल करें।
- Discover टैब खोलने के लिए Ctrl + 2 दबाएँ। LM Studio के दस्तावेज़ के मुताबिक़ आप कीवर्ड से या
user/modelनाम से खोज सकते हैं। - "deepseek v4 flash" खोजें।
- देख लें कि नतीजा DeepSeek V4 Flash है (LM Studio के मॉडल पेज पर
deepseek/deepseek-v4-flash) और उसका साइज़ 156.40 GB है, फिर उसे डाउनलोड करें। - डाउनलोड पूरा होने पर Chat टैब में जाएँ, मॉडल लोडर खोलें (Ctrl + L) और DeepSeek V4 Flash चुनें।
- reasoning effort सेट करें। LM Studio इस मॉडल के लिए तीन लेवल दिखाता है: low, high और max।
V4-Flash-0731 के कार्ड में लोकल इस्तेमाल के लिए DeepSeek की सुझाई सेटिंग: temperature 1.0, और top_p एजेंट वाले कामों के लिए 0.95, बाक़ी के लिए 1.0। high और max reasoning लेवल के लिए DeepSeek 384K तक आउटपुट टोकन की इजाज़त देने की सलाह देता है।
स्टेप 3 (सिर्फ़ सर्वर के लिए): DeepSeek का reference कोड
अगर आपके पास कई GPU वाला सर्वर है, तो DeepSeek का V4 inference README बताता है कि Hugging Face वेट्स को कैसे बदलें (convert करें) और मॉडल से चैट करें। ये कमांड उसी README से लिए गए हैं। HF_CKPT_PATH को डाउनलोड किए वेट्स वाले फ़ोल्डर पर और SAVE_PATH को उस जगह पर सेट करें जहाँ बदली हुई फ़ाइलें रखनी हैं। फिर चलाएँ:
export EXPERTS=256
export MP=4
export CONFIG=config.json
python convert.py --hf-ckpt-path ${HF_CKPT_PATH} --save-path ${SAVE_PATH} --n-experts ${EXPERTS} --model-parallel ${MP}
फिर interactive चैट शुरू करें:
torchrun --nproc-per-node ${MP} generate.py --ckpt-path ${SAVE_PATH} --config ${CONFIG} --interactive
DeepSeek-V4.1-Flash का अपना inference README है, जिसमें export MP=8 इस्तेमाल होता है। असली serving के लिए DeepSeek के मॉडल कार्ड vLLM और SGLang की recipes की ओर इशारा करते हैं। यह सब सर्वर सॉफ़्टवेयर है, Windows का डेस्कटॉप ऐप नहीं।
Ollama का क्या?
Ollama की लाइब्रेरी में DeepSeek V4 के पेज हैं, लेकिन उनमें से कोई भी लोकल मॉडल नहीं है:
- deepseek-v4-flash: पेज पर लिखा है कि यह "was retired on September 25, 2026" और "No models have been pushed."
- deepseek-v4.1-flash और deepseek-v4-pro: सिर्फ़ क्लाउड टैग दिए गए हैं, जैसे
deepseek-v4.1-flash:cloud।
Ollama के V4.1-Flash पेज पर दिया कमांड है:
ollama run deepseek-v4.1-flash:cloud
यह Ollama के सर्वर पर चलता है। Ollama के FAQ के मुताबिक़ क्लाउड मॉडल वहीं प्रोसेस होते हैं, इसलिए यह ऑफ़लाइन नहीं है और आपके प्रॉम्प्ट आपके PC से बाहर जाते हैं।
समस्याएँ और हल
- "Ollama में deepseek-v4 नहीं है": सही है। Ollama में deepseek-v4 नाम का कोई पेज नहीं है, और उसके V4 पेज सिर्फ़ क्लाउड टैग देते हैं। लोकल डाउनलोड के लिए LM Studio इस्तेमाल करें।
- LM Studio में DeepSeek V4.1 Flash सिर्फ़ क्लाउड में दिखता है: LM Studio इसे ऐसे ही दिखाता है। इसका V4.1 Flash पेज मॉडल को LM Studio Cloud के ज़रिए देता है, डाउनलोड के रूप में नहीं।
- मॉडल लोड नहीं होता, या PC अटक जाता है: लगभग तय है कि आपके पास LM Studio की बताई 156 GB RAM से कम है। मॉडल बंद करें। कोई भी सेटिंग इतने बड़े मॉडल को 16 या 32 GB में नहीं समा सकती।
- डिस्क में जगह नहीं: सिर्फ़ डाउनलोड ही 156.40 GB का है। LM Studio में My Models से मॉडल फ़ोल्डर किसी बड़ी ड्राइव पर ले जा सकते हैं।
- आपको बस अपने लैपटॉप पर DeepSeek चाहिए: इसकी जगह छोटा DeepSeek-R1 distill इस्तेमाल करें। हमारी गाइड में 1.1 GB से शुरू होने वाले साइज़ दिए हैं: DeepSeek-R1 को लोकल चलाएँ। या DeepSeek ऐप इस्तेमाल करें, जो V4 मॉडल क्लाउड में चलाता है।
- Hugging Face पर "छोटे DeepSeek V4" वाली दूसरी फ़ाइलें: DeepSeek के अपने पेज पर V4 का कोई छोटा मॉडल नहीं है, इसलिए ऐसी फ़ाइलें दूसरे अपलोड करने वालों की हैं, DeepSeek की नहीं। डाउनलोड से पहले देख लें कि फ़ाइल किसने प्रकाशित की है।
लाइसेंस
V4 और V4.1 के हर मॉडल कार्ड में लिखा है: "This repository and the model weights are licensed under the MIT License." इससे व्यावसायिक इस्तेमाल और फ़ाइन-ट्यूनिंग की अनुमति मिलती है।