publisherunsloth
50 builds measured across 6 families. Ranked by what machines proved, never by downloads.
measured — signed by the machine that ran eachhf.co/unsloth/gemma-4-12b-it-GGUF:BF16gemma-4/12b · BF16 · ollama · 1,31,072 ctx · 10.7 tok/shf.co/unsloth/gemma-4-12b-it-GGUF:IQ4_XSgemma-4/12b · IQ4_XS · ollama · 1,31,072 ctx · 23.2 tok/shf.co/unsloth/gemma-4-12b-it-GGUF:Q4_K_Mgemma-4/12b · Q4_K_M · ollama · 1,31,072 ctx · 29.1 tok/shf.co/unsloth/gemma-4-12b-it-GGUF:Q8_0gemma-4/12b · Q8_0 · ollama · 1,31,072 ctx · 18.6 tok/shf.co/unsloth/gemma-4-26B-A4B-it-GGUF:Q8_0gemma-4/26b-a4b · Q8_0 · ollama · 1,31,072 ctx · 20.7 tok/shf.co/unsloth/gemma-4-31B-it-GGUF:Q4_0gemma-4/31b · Q4_0 · ollama · 1,31,072 ctx · 2.4 tok/shf.co/unsloth/gemma-4-31B-it-GGUF:Q4_K_Mgemma-4/31b · Q4_K_M · ollama · 1,31,072 ctx · 3.4 tok/shf.co/unsloth/gemma-4-E2B-it-GGUF:BF16gemma-4/e2b · BF16 · ollama · 1,31,072 ctx · 38.3 tok/shf.co/unsloth/gemma-4-E2B-it-GGUF:IQ4_XSgemma-4/e2b · IQ4_XS · ollama · 1,31,072 ctx · 174.7 tok/shf.co/unsloth/gemma-4-E2B-it-GGUF:Q4_0gemma-4/e2b · Q4_0 · ollama · 1,31,072 ctx · 84.7 tok/shf.co/unsloth/gemma-4-E2B-it-GGUF:Q4_K_Mgemma-4/e2b · Q4_K_M · ollama · 1,31,072 ctx · 164.7 tok/shf.co/unsloth/gemma-4-E2B-it-GGUF:Q8_0gemma-4/e2b · Q8_0 · ollama · 1,31,072 ctx · 67.0 tok/shf.co/unsloth/gemma-4-E4B-it-GGUF:BF16gemma-4/e4b · BF16 · ollama · 1,31,072 ctx · 25.8 tok/shf.co/unsloth/gemma-4-E4B-it-GGUF:IQ4_XSgemma-4/e4b · IQ4_XS · ollama · 1,31,072 ctx · 61.4 tok/shf.co/unsloth/gemma-4-E4B-it-GGUF:Q4_0gemma-4/e4b · Q4_0 · ollama · 1,31,072 ctx · 54.7 tok/shf.co/unsloth/gemma-4-E4B-it-GGUF:Q4_K_Mgemma-4/e4b · Q4_K_M · ollama · 1,31,072 ctx · 56.8 tok/shf.co/unsloth/gemma-4-E4B-it-GGUF:Q8_0gemma-4/e4b · Q8_0 · ollama · 1,31,072 ctx · 39.5 tok/shf.co/unsloth/Phi-4-mini-instruct-GGUF:BF16phi-4/mini · BF16 · ollama · 1,31,072 ctx · 32.0 tok/shf.co/unsloth/Phi-4-mini-instruct-GGUF:Q3_K_Mphi-4/mini · Q3_K_M · ollama · 1,31,072 ctx · 66.9 tok/shf.co/unsloth/Phi-4-mini-instruct-GGUF:Q4_K_Mphi-4/mini · Q4_K_M · ollama · 1,31,072 ctx · 75.3 tok/shf.co/unsloth/Phi-4-mini-instruct-GGUF:Q5_K_Mphi-4/mini · Q5_K_M · ollama · 1,31,072 ctx · 68.7 tok/shf.co/unsloth/Phi-4-mini-instruct-GGUF:Q8_0phi-4/mini · Q8_0 · ollama · 1,31,072 ctx · 53.7 tok/shf.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF:Q4_K_Mqwen-3/30b-a3b · Q4_K_M · ollama · 1,31,072 ctx · 26.7 tok/shf.co/unsloth/Phi-4-reasoning-plus-GGUF:Q4_K_Mphi-4/reasoning-plus · Q4_K_M · ollama · 32,768 ctx · 24.5 tok/shf.co/unsloth/Qwen3-4B-GGUF:IQ3_XXSqwen-3/4b · IQ3_XXS · ollama · 32,768 ctx · 62.9 tok/shf.co/unsloth/Llama-3.2-3B-Instruct-GGUF:F16llama-3-2/3b · F16 · ollama · 16,384 ctx · 94.9 tok/shf.co/unsloth/Qwen3-4B-GGUF:BF16qwen-3/4b · BF16 · ollama · 16,384 ctx · 80.8 tok/shf.co/unsloth/gemma-4-E2B-it-GGUF:IQ4_NLgemma-4/e2b · IQ4_NL · ollama · 8,192 ctx · 54.9 tok/shf.co/unsloth/gemma-4-E2B-it-GGUF:Q3_K_Mgemma-4/e2b · Q3_K_M · ollama · 8,192 ctx · 38.4 tok/shf.co/unsloth/gemma-4-E2B-it-GGUF:Q3_K_Sgemma-4/e2b · Q3_K_S · ollama · 4,096 ctx · 14.4 tok/shf.co/unsloth/gemma-4-E4B-it-GGUF:Q3_K_Mgemma-4/e4b · Q3_K_M · ollama · 4,096 ctx · 20.4 tok/shf.co/unsloth/Phi-4-mini-reasoning-GGUF:IQ3_XXSphi-4/mini-reasoning · IQ3_XXS · ollama · 4,096 ctx · 189.4 tok/shf.co/unsloth/Qwen3-VL-4B-Instruct-GGUF:IQ4_XSqwen-3/4b · IQ4_XS · ollama · 4,096 ctx · 6.4 tok/shf.co/unsloth/Qwen3-VL-4B-Instruct-GGUF:Q4_0qwen-3/4b · Q4_0 · ollama · 4,096 ctx · 40.9 tok/shf.co/unsloth/Qwen3-VL-4B-Instruct-GGUF:Q4_1qwen-3/4b · Q4_1 · ollama · 4,096 ctx · 37.0 tok/shf.co/unsloth/Llama-3.2-3B-Instruct-GGUF:IQ1_Sllama-3-2/3b · IQ1_S · ollama · 225.2 tok/shf.co/unsloth/Llama-3.2-3B-Instruct-GGUF:IQ2_XXSllama-3-2/3b · IQ2_XXS · ollama · 124.2 tok/shf.co/unsloth/Llama-3.2-3B-Instruct-GGUF:IQ3_XXSllama-3-2/3b · IQ3_XXS · ollama · 199.5 tok/shf.co/unsloth/Llama-3.2-3B-Instruct-GGUF:Q4_0llama-3-2/3b · Q4_0 · ollama · 205.1 tok/shf.co/unsloth/Llama-3.2-3B-Instruct-GGUF:Q4_K_Mllama-3-2/3b · Q4_K_M · ollama · 203.9 tok/shf.co/unsloth/Llama-3.2-3B-Instruct-GGUF:Q8_0llama-3-2/3b · Q8_0 · ollama · 72.8 tok/shf.co/unsloth/Phi-4-mini-instruct-GGUF:Q2_Kphi-4/mini · Q2_K · ollama · 71.0 tok/shf.co/unsloth/Phi-4-mini-reasoning-GGUF:IQ1_Sphi-4/mini-reasoning · IQ1_S · ollama · 188.9 tok/shf.co/unsloth/Phi-4-mini-reasoning-GGUF:Q2_Kphi-4/mini-reasoning · Q2_K · ollama · 37.7 tok/shf.co/unsloth/Phi-4-mini-reasoning-GGUF:Q2_K_Lphi-4/mini-reasoning · Q2_K_L · ollama · 6.8 tok/shf.co/unsloth/Phi-4-mini-reasoning-GGUF:Q3_K_Mphi-4/mini-reasoning · Q3_K_M · ollama · 31.9 tok/shf.co/unsloth/Phi-4-mini-reasoning-GGUF:Q4_K_Mphi-4/mini-reasoning · Q4_K_M · ollama · 6.5 tok/shf.co/unsloth/Qwen3-4B-GGUF:IQ1_Sqwen-3/4b · IQ1_S · ollama · 90.4 tok/shf.co/unsloth/Qwen3-4B-GGUF:Q4_1qwen-3/4b · Q4_1 · ollama · 19.4 tok/shf.co/unsloth/Qwen3-VL-4B-Instruct-GGUF:Q2_Kqwen-3/4b · Q2_K · ollama · 11.9 tok/s