How-to 7 min read
gpt-oss-20b vs gpt-oss-120b: system requirements and how to run them on Windows
gpt-oss-20b vs gpt-oss-120b: सिस्टम ज़रूरतें और Windows पर इन्हें कैसे चलाएँ
By the ToolsBharat teamPublished 30 Oct 2026How we check
Applies to OpenAI gpt-oss gpt-oss-120b and gpt-oss-20b
Quick answer
OpenAI says gpt-oss-20b runs within 16 GB of memory, and gpt-oss-120b fits on a single 80 GB GPU such as an NVIDIA H100 or AMD MI300X. On Ollama, gpt-oss:20b is a 14 GB download and gpt-oss:120b is 65 GB. On a typical Windows PC, the 20b model is the realistic choice. Run it with ollama run gpt-oss:20b, or download it in LM Studio with lms get openai/gpt-oss-20b. Both models are free under the Apache 2.0 licence.
What gpt-oss is
gpt-oss is OpenAI's family of open-weight models, published on Hugging Face under the permissive Apache 2.0 licence. You can download them and run them offline, which makes them different from ChatGPT, OpenAI's hosted service. There are two sizes. Here is what OpenAI's model card says about each:
- gpt-oss-20b: 21 billion parameters, with 3.6 billion active at a time. It's meant "for lower latency, and local or specialized use cases" and "run within 16GB of memory".
- gpt-oss-120b: 117 billion parameters, with 5.1 billion active. It's meant for "production, general purpose, high reasoning use cases" and fits "into a single 80GB GPU (like NVIDIA H100 or AMD MI300X)".
Both use MXFP4 quantization for most of their weights, which is how they fit in those memory sizes. Both support adjustable reasoning effort (low, medium or high), function calling and structured outputs. Ollama lists a 128K context window for both.
Which one can your PC run?
- 16 GB of memory or more (GPU memory, or unified memory on a Mac): gpt-oss-20b is the model OpenAI sizes for this. Ollama's download is 14 GB.
- An 80 GB data-centre GPU: gpt-oss-120b. Ollama's download is 65 GB. Ordinary gaming cards have far less VRAM than that, so for most people at home the 120b is not a practical local model.
- Less than 16 GB: OpenAI doesn't give a smaller figure for gpt-oss-20b. Ollama can push part of a model into system RAM, but its docs warn that responses may be slower. On such PCs, smaller models are the sensible choice, such as the 1.5b to 8b sizes in our DeepSeek-R1 local guide.
ToolsBharat hasn't run these models. The figures above are the publishers' own.
Method 1: run gpt-oss-20b with Ollama
- Install Ollama by following our Windows guide.
- Open PowerShell and download the model with OpenAI's command from the model card:
ollama pull gpt-oss:20b - Start chatting:
ollama run gpt-oss:20b - In a second window, run
ollama psto see whether the model loaded "100% GPU" or partly on the CPU. - Type
/byeto exit.
Ollama also lists gpt-oss:20b-cloud and gpt-oss:120b-cloud. Those run on Ollama's servers, not on your PC, and need an Ollama sign-in. Use the plain tags if you want a fully offline model.
Method 2: run gpt-oss-20b with LM Studio
- Install LM Studio and open it at least once. LM Studio's docs say you need to run the app once before its
lmscommand works. - Open PowerShell and run the command from OpenAI's model card:
lms get openai/gpt-oss-20b. Or search for "gpt-oss" in LM Studio's Discover tab. - In the Chat tab, open the model loader (Ctrl + L), select gpt-oss-20b and start chatting.
Setting the reasoning level
OpenAI's card says you can set the reasoning level in the system prompt, for example Reasoning: high. Low gives fast answers for general chat, medium balances speed and detail, and high gives deep, detailed analysis but takes longer.
Troubleshooting
- Slow answers or high CPU use:
ollama pswill show part of the model on the CPU. Close other memory-hungry apps such as games or browsers with many tabs, and update your GPU driver. - Out of memory: longer conversations need more memory. Ollama's default context window is 4096 tokens. Raising it with
OLLAMA_CONTEXT_LENGTHuses more memory, so keep the default on a 16 GB machine. - Not enough disk space: the 20b download alone is 14 GB. Move Ollama's models to another drive with the
OLLAMA_MODELSenvironment variable. - Strange output in your own Python code: OpenAI's card says the models were trained on the "harmony" response format and should only be used with it. The Transformers chat template applies harmony automatically, but if you call
model.generatedirectly, you have to apply it yourself.
हिंदी में
gpt-oss-20b vs gpt-oss-120b: सिस्टम ज़रूरतें और Windows पर इन्हें कैसे चलाएँ
OpenAI के मुताबिक़ gpt-oss-20b, 16 GB मेमोरी में चल जाता है, और gpt-oss-120b, NVIDIA H100 या AMD MI300X जैसे एक 80 GB GPU में समा जाता है। Ollama पर gpt-oss:20b 14 GB का डाउनलोड है और gpt-oss:120b 65 GB का। आम Windows PC के लिए 20b मॉडल ही व्यावहारिक है। इसे ollama run gpt-oss:20b से चलाएँ, या LM Studio में lms get openai/gpt-oss-20b से डाउनलोड करें। दोनों मॉडल Apache 2.0 लाइसेंस के तहत फ़्री हैं।
gpt-oss क्या है
gpt-oss, OpenAI के open-weight मॉडल का परिवार है, जो Hugging Face पर खुले Apache 2.0 लाइसेंस के तहत प्रकाशित है। इन्हें आप डाउनलोड करके ऑफ़लाइन चला सकते हैं, और यही इन्हें OpenAI की होस्टेड सेवा ChatGPT से अलग बनाता है। इसके दो साइज़ हैं। OpenAI का मॉडल कार्ड हर एक के बारे में यह कहता है:
- gpt-oss-20b: 21 अरब पैरामीटर, जिनमें से एक समय में 3.6 अरब सक्रिय रहते हैं। यह "for lower latency, and local or specialized use cases" के लिए है और "run within 16GB of memory"।
- gpt-oss-120b: 117 अरब पैरामीटर, जिनमें 5.1 अरब सक्रिय। यह "production, general purpose, high reasoning use cases" के लिए है और "into a single 80GB GPU (like NVIDIA H100 or AMD MI300X)" में समा जाता है।
दोनों अपने ज़्यादातर वेट्स के लिए MXFP4 quantization इस्तेमाल करते हैं, इसी वजह से वे इतनी मेमोरी में समा जाते हैं। दोनों में reasoning effort (low, medium या high) बदला जा सकता है, और function calling व structured outputs का सपोर्ट है। Ollama पर दोनों का context window 128K लिखा है।
आपका PC कौन-सा चला सकता है?
- 16 GB या ज़्यादा मेमोरी (GPU मेमोरी, या Mac पर unified memory): OpenAI ने gpt-oss-20b को इसी के लिए बनाया है। Ollama पर डाउनलोड 14 GB का है।
- 80 GB वाला डेटा-सेंटर GPU: gpt-oss-120b। Ollama पर डाउनलोड 65 GB का है। आम गेमिंग कार्ड में इससे बहुत कम VRAM होती है, इसलिए घर पर ज़्यादातर लोगों के लिए 120b व्यावहारिक लोकल मॉडल नहीं है।
- 16 GB से कम: OpenAI ने gpt-oss-20b के लिए इससे छोटा कोई आँकड़ा नहीं दिया है। Ollama मॉडल का कुछ हिस्सा सिस्टम RAM में डाल सकता है, लेकिन उसके दस्तावेज़ चेतावनी देते हैं कि जवाब धीमे आ सकते हैं। ऐसे PC पर छोटे मॉडल ही समझदारी है, जैसे हमारी DeepSeek-R1 लोकल गाइड में बताए 1.5b से 8b तक के साइज़।
ToolsBharat ने ये मॉडल नहीं चलाए हैं। ऊपर के आँकड़े प्रकाशकों के अपने हैं।
तरीका 1: Ollama से gpt-oss-20b चलाएँ
- हमारी Windows गाइड देखकर Ollama इंस्टॉल करें।
- PowerShell खोलें और मॉडल कार्ड में OpenAI के दिए कमांड से मॉडल डाउनलोड करें:
ollama pull gpt-oss:20b - चैट शुरू करें:
ollama run gpt-oss:20b - दूसरी विंडो में
ollama psचलाकर देखें कि मॉडल "100% GPU" पर लोड हुआ या कुछ हिस्सा CPU पर है। - बाहर निकलने के लिए
/byeलिखें।
Ollama पर gpt-oss:20b-cloud और gpt-oss:120b-cloud भी हैं। ये आपके PC पर नहीं, Ollama के सर्वर पर चलते हैं और इनके लिए Ollama साइन-इन चाहिए। पूरी तरह ऑफ़लाइन मॉडल चाहिए तो बिना "cloud" वाले टैग इस्तेमाल करें।
तरीका 2: LM Studio से gpt-oss-20b चलाएँ
- LM Studio इंस्टॉल करें और कम से कम एक बार खोलें। LM Studio के दस्तावेज़ के मुताबिक़
lmsकमांड चलाने से पहले ऐप एक बार चलाना ज़रूरी है। - PowerShell खोलें और OpenAI के मॉडल कार्ड वाला कमांड चलाएँ:
lms get openai/gpt-oss-20b। या LM Studio के Discover टैब में "gpt-oss" खोजें। - Chat टैब में मॉडल लोडर खोलें (Ctrl + L), gpt-oss-20b चुनें और चैट शुरू करें।
रीज़निंग लेवल सेट करना
OpenAI के कार्ड के मुताबिक़ रीज़निंग लेवल system prompt में सेट किया जा सकता है, जैसे Reasoning: high। Low सामान्य बातचीत के लिए तेज़ जवाब देता है, medium स्पीड और गहराई में संतुलन रखता है, और high गहरा, विस्तृत विश्लेषण देता है पर ज़्यादा समय लेता है।
समस्याएँ और हल
- धीमे जवाब या CPU पर ज़्यादा लोड:
ollama psमें मॉडल का कुछ हिस्सा CPU पर दिखेगा। गेम या बहुत सारे टैब वाले ब्राउज़र जैसे मेमोरी खाने वाले ऐप बंद करें, और GPU ड्राइवर अपडेट करें। - मेमोरी कम पड़ गई: लंबी बातचीत में ज़्यादा मेमोरी लगती है। Ollama का डिफ़ॉल्ट context window 4096 tokens है।
OLLAMA_CONTEXT_LENGTHसे इसे बढ़ाने पर ज़्यादा मेमोरी लगती है, इसलिए 16 GB वाली मशीन पर डिफ़ॉल्ट ही रखें। - डिस्क में जगह नहीं: अकेले 20b का डाउनलोड 14 GB है।
OLLAMA_MODELSएनवायरनमेंट वेरिएबल से Ollama के मॉडल दूसरी ड्राइव पर ले जाएँ। - अपने Python कोड में अजीब आउटपुट: OpenAI के कार्ड के मुताबिक़ ये मॉडल "harmony" response format पर ट्रेन हुए हैं और इन्हें इसी के साथ इस्तेमाल करना चाहिए। Transformers का chat template harmony अपने-आप लगा देता है, लेकिन अगर आप सीधे
model.generateबुलाते हैं, तो इसे ख़ुद लगाना होगा।
Frequently asked questionsअक्सर पूछे जाने वाले सवाल
- Can I run gpt-oss-20b with 8 GB of RAM?
- OpenAI's stated figure is that gpt-oss-20b runs within 16 GB of memory, and it gives no smaller number. On an 8 GB PC, choose a smaller model instead.
- क्या 8 GB RAM पर gpt-oss-20b चला सकते हैं?
- OpenAI का बताया आँकड़ा यह है कि gpt-oss-20b, 16 GB मेमोरी में चलता है, और इससे छोटा कोई आँकड़ा नहीं दिया गया है। 8 GB वाले PC पर इसकी जगह छोटा मॉडल चुनें।
- How big is gpt-oss-120b in GB?
- Ollama's gpt-oss:120b download is 65 GB. OpenAI says the model fits on a single 80 GB GPU such as an NVIDIA H100 or AMD MI300X.
- gpt-oss-120b कितने GB का है?
- Ollama पर gpt-oss:120b का डाउनलोड 65 GB का है। OpenAI के मुताबिक़ यह मॉडल NVIDIA H100 या AMD MI300X जैसे एक 80 GB GPU में समा जाता है।
- Is gpt-oss free for commercial use?
- Yes. Both gpt-oss models are released under the Apache 2.0 licence, which OpenAI describes as permissive and suitable for commercial deployment.
- क्या gpt-oss व्यावसायिक इस्तेमाल के लिए फ़्री है?
- हाँ। दोनों gpt-oss मॉडल Apache 2.0 लाइसेंस के तहत जारी हुए हैं, जिसे OpenAI खुला और व्यावसायिक इस्तेमाल के लिए उपयुक्त बताता है।
- Is gpt-oss the same as ChatGPT?
- No. gpt-oss models are open-weight models you download and run yourself. ChatGPT is OpenAI's hosted service, which uses OpenAI's own models on its servers.
- क्या gpt-oss और ChatGPT एक ही हैं?
- नहीं। gpt-oss open-weight मॉडल हैं, जिन्हें आप ख़ुद डाउनलोड करके चलाते हैं। ChatGPT, OpenAI की होस्टेड सेवा है, जो उसके सर्वर पर OpenAI के अपने मॉडल इस्तेमाल करती है।