GRAM
X
50
Regions
Inference
Turns
Pricing
near · Hyderabad
Sign in
near · Hyderabad
Sign in
Regions
Inference
Turns
Pricing
Inference
/
Publishers
/
ibm-granite
publisher
ibm-granite
1 build measured across 3 families. Ranked by what machines proved, never by downloads.
measured — signed by the machine that ran each
hf.co/ibm-granite/granite-4.0-1b-GGUF:Q4_K_M
granite-4-0/1b · Q4_K_M · ollama · 4,096 ctx · 11.1 tok/s
in the catalog, not yet measured — declared, unsigned
hf.co/ibm-granite/granite-4.0-1b-GGUF:Q2_K
granite-4-0/1b · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-GGUF:Q3_K_S
granite-4-0/1b · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-GGUF:Q3_K_L
granite-4-0/1b · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-GGUF:Q4_0
granite-4-0/1b · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-GGUF:Q8_0
granite-4-0/1b · Q8_0 · ollama · vendor
ibm-granite/granite-4.0-1b
granite-4-0/1b · BF16 · vllm · vendor
hf.co/ibm-granite/granite-4.0-1b-GGUF:BF16
granite-4-0/1b · BF16 · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-base-GGUF:Q2_K
granite-4-0/1b-base · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-base-GGUF:Q3_K_S
granite-4-0/1b-base · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-base-GGUF:Q3_K_L
granite-4-0/1b-base · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-base-GGUF:Q4_0
granite-4-0/1b-base · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-base-GGUF:Q4_K_M
granite-4-0/1b-base · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-base-GGUF:Q8_0
granite-4-0/1b-base · Q8_0 · ollama · vendor
ibm-granite/granite-4.0-1b-base
granite-4-0/1b-base · BF16 · vllm · vendor
hf.co/ibm-granite/granite-4.0-1b-base-GGUF:BF16
granite-4-0/1b-base · BF16 · ollama · vendor
ibm-granite/granite-4.0-350m
granite-4-0/350m · BF16 · vllm · vendor
ibm-granite/granite-4.0-350m-base
granite-4-0/350m-base · BF16 · vllm · vendor
ibm-granite/granite-guardian-4.0-3b-toxicity-ja
granite-4-0/guardian-3b · BF16 · vllm · vendor
hf.co/ibm-granite/granite-4.0-h-1b-GGUF:Q2_K
granite-4-0/h-1b · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-GGUF:Q3_K_S
granite-4-0/h-1b · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-GGUF:Q3_K_L
granite-4-0/h-1b · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-GGUF:Q4_0
granite-4-0/h-1b · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-GGUF:Q4_K_M
granite-4-0/h-1b · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-GGUF:Q8_0
granite-4-0/h-1b · Q8_0 · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-GGUF:BF16
granite-4-0/h-1b · BF16 · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-base-GGUF:Q2_K
granite-4-0/h-1b-base · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-base-GGUF:Q3_K_S
granite-4-0/h-1b-base · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-base-GGUF:Q3_K_L
granite-4-0/h-1b-base · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-base-GGUF:Q4_0
granite-4-0/h-1b-base · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-base-GGUF:Q4_K_M
granite-4-0/h-1b-base · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-base-GGUF:Q8_0
granite-4-0/h-1b-base · Q8_0 · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-1b-base-GGUF:BF16
granite-4-0/h-1b-base · BF16 · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-350m-GGUF:Q2_K
granite-4-0/h-350m · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-350m-GGUF:Q3_K_S
granite-4-0/h-350m · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-350m-GGUF:Q3_K_L
granite-4-0/h-350m · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-350m-GGUF:Q4_0
granite-4-0/h-350m · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-350m-GGUF:Q4_K_S
granite-4-0/h-350m · Q4_K_S · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-350m-GGUF:Q4_K_M
granite-4-0/h-350m · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-350m-GGUF:Q8_0
granite-4-0/h-350m · Q8_0 · ollama · vendor
hf.co/ibm-granite/granite-4.0-h-350m-GGUF:BF16
granite-4-0/h-350m · BF16 · ollama · vendor
ibm-granite/granite-4.0-h-350m-base
granite-4-0/h-350m-base · BF16 · vllm · vendor
hf.co/ibm-granite/granite-4.0-1b-speech-GGUF:Q4_K_M
granite-4-0/speech-1b · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-speech-GGUF:Q5_K_M
granite-4-0/speech-1b · Q5_K_M · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-speech-GGUF:Q8_0
granite-4-0/speech-1b · Q8_0 · ollama · vendor
hf.co/ibm-granite/granite-4.0-1b-speech-GGUF:BF16
granite-4-0/speech-1b · BF16 · ollama · vendor
ibm-granite/granite-4.0-1b-speech
granite-4-0/speech-1b · BF16 · vllm · vendor
ibm-granite/granite-4.0-3b-vision
granite-4-0/vision-3b · BF16 · vllm · vendor
ibm-granite/granite-4.1-30b-fp8
granite-4-1/30b · FP8 · vllm · vendor
hf.co/ibm-granite/granite-guardian-4.1-8b-GGUF:Q2_K
granite-4-1/guardian-8b · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-guardian-4.1-8b-GGUF:Q3_K_S
granite-4-1/guardian-8b · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-guardian-4.1-8b-GGUF:Q3_K_L
granite-4-1/guardian-8b · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-guardian-4.1-8b-GGUF:Q4_0
granite-4-1/guardian-8b · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-guardian-4.1-8b-GGUF:Q4_K_M
granite-4-1/guardian-8b · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-guardian-4.1-8b-GGUF:Q8_0
granite-4-1/guardian-8b · Q8_0 · ollama · vendor
hf.co/ibm-granite/granite-guardian-4.1-8b-GGUF:BF16
granite-4-1/guardian-8b · BF16 · ollama · vendor
hf.co/ibm-granite/granite-speech-4.1-2b-GGUF:Q4_K_M
granite-4-1/speech-2b · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-speech-4.1-2b-GGUF:Q5_K_M
granite-4-1/speech-2b · Q5_K_M · ollama · vendor
hf.co/ibm-granite/granite-speech-4.1-2b-GGUF:Q8_0
granite-4-1/speech-2b · Q8_0 · ollama · vendor
hf.co/ibm-granite/granite-speech-4.1-2b-GGUF:BF16
granite-4-1/speech-2b · BF16 · ollama · vendor
hf.co/ibm-granite/granite-speech-4.1-2b-plus-GGUF:Q4_K_M
granite-4-1/speech-plus-2b · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-speech-4.1-2b-plus-GGUF:Q5_K_M
granite-4-1/speech-plus-2b · Q5_K_M · ollama · vendor
hf.co/ibm-granite/granite-speech-4.1-2b-plus-GGUF:Q8_0
granite-4-1/speech-plus-2b · Q8_0 · ollama · vendor
hf.co/ibm-granite/granite-speech-4.1-2b-plus-GGUF:BF16
granite-4-1/speech-plus-2b · BF16 · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-30b-GGUF:Q2_K
granite-4-1/switch-30b · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-30b-GGUF:Q3_K_S
granite-4-1/switch-30b · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-30b-GGUF:Q3_K_L
granite-4-1/switch-30b · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-30b-GGUF:Q4_0
granite-4-1/switch-30b · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-30b-GGUF:Q4_K_M
granite-4-1/switch-30b · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-30b-GGUF:Q8_0
granite-4-1/switch-30b · Q8_0 · ollama · vendor
ibm-granite/granite-switch-4.1-30b
granite-4-1/switch-30b · BF16 · vllm · vendor
ibm-granite/granite-switch-4.1-30b-GGUF:BF16
granite-4-1/switch-30b · BF16 · llamacpp · vendor
ibm-granite/granite-switch-4.1-3b-preview
granite-4-1/switch-3b · BF16 · vllm · vendor
hf.co/ibm-granite/granite-switch-4.1-8b-GGUF:Q2_K
granite-4-1/switch-8b · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-8b-GGUF:Q3_K_S
granite-4-1/switch-8b · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-8b-GGUF:Q3_K_L
granite-4-1/switch-8b · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-8b-GGUF:Q4_0
granite-4-1/switch-8b · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-8b-GGUF:Q4_K_M
granite-4-1/switch-8b · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-switch-4.1-8b-GGUF:Q8_0
granite-4-1/switch-8b · Q8_0 · ollama · vendor
ibm-granite/granite-switch-4.1-8b
granite-4-1/switch-8b · BF16 · vllm · vendor
hf.co/ibm-granite/granite-switch-4.1-8b-GGUF:BF16
granite-4-1/switch-8b · BF16 · ollama · vendor
hf.co/ibm-granite/granite-vision-4.1-4b-GGUF:Q4_K_M
granite-4-1/vision-4b · Q4_K_M · ollama · vendor
hf.co/ibm-granite/granite-vision-4.1-4b-GGUF:Q5_K_M
granite-4-1/vision-4b · Q5_K_M · ollama · vendor
hf.co/ibm-granite/granite-vision-4.1-4b-GGUF:Q8_0
granite-4-1/vision-4b · Q8_0 · ollama · vendor
hf.co/ibm-granite/granite-vision-4.1-4b-GGUF:BF16
granite-4-1/vision-4b · BF16 · ollama · vendor
hf.co/ibm-granite/granite-4.2-30b-GGUF:Q2_K
granite-4-2/30b · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-4.2-30b-GGUF:Q3_K_S
granite-4-2/30b · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-4.2-30b-GGUF:Q3_K_L
granite-4-2/30b · Q3_K_L · ollama · vendor
ibm-granite/granite-4.2-30b-q4-mlx
granite-4-2/30b · 4BIT · mlx · vendor
hf.co/ibm-granite/granite-4.2-30b-GGUF:Q4_0
granite-4-2/30b · Q4_0 · ollama · vendor
ibm-granite/granite-4.2-30b-nvfp4
granite-4-2/30b · W4A4 · vllm · vendor
hf.co/ibm-granite/granite-4.2-30b-GGUF:Q4_K_M
granite-4-2/30b · Q4_K_M · ollama · vendor
ibm-granite/granite-4.2-30b-q8-mlx
granite-4-2/30b · 8BIT · mlx · vendor
hf.co/ibm-granite/granite-4.2-30b-GGUF:Q8_0
granite-4-2/30b · Q8_0 · ollama · vendor
ibm-granite/granite-4.2-30b-bf16-mlx
granite-4-2/30b · BF16 · mlx · vendor
ibm-granite/granite-4.2-30b-GGUF:BF16
granite-4-2/30b · BF16 · llamacpp · vendor
hf.co/ibm-granite/granite-4.2-3b-GGUF:Q2_K
granite-4-2/3b · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-4.2-3b-GGUF:Q3_K_S
granite-4-2/3b · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-4.2-3b-GGUF:Q3_K_L
granite-4-2/3b · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-4.2-3b-GGUF:Q4_0
granite-4-2/3b · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-4.2-3b-GGUF:Q4_K_M
granite-4-2/3b · Q4_K_M · ollama · vendor
ibm-granite/granite-4.2-3b-nvfp4
granite-4-2/3b · W4A4 · vllm · vendor
ibm-granite/granite-4.2-3b-q8-mlx
granite-4-2/3b · 8BIT · mlx · vendor
hf.co/ibm-granite/granite-4.2-3b-GGUF:Q8_0
granite-4-2/3b · Q8_0 · ollama · vendor
ibm-granite/granite-4.2-3b-fp8
granite-4-2/3b · FP8 · vllm · vendor
ibm-granite/granite-4.2-3b-bf16-mlx
granite-4-2/3b · BF16 · mlx · vendor
hf.co/ibm-granite/granite-4.2-3b-GGUF:BF16
granite-4-2/3b · BF16 · ollama · vendor
hf.co/ibm-granite/granite-4.2-8b-GGUF:Q2_K
granite-4-2/8b · Q2_K · ollama · vendor
hf.co/ibm-granite/granite-4.2-8b-GGUF:Q3_K_S
granite-4-2/8b · Q3_K_S · ollama · vendor
hf.co/ibm-granite/granite-4.2-8b-GGUF:Q3_K_L
granite-4-2/8b · Q3_K_L · ollama · vendor
hf.co/ibm-granite/granite-4.2-8b-GGUF:Q4_0
granite-4-2/8b · Q4_0 · ollama · vendor
hf.co/ibm-granite/granite-4.2-8b-GGUF:Q4_K_M
granite-4-2/8b · Q4_K_M · ollama · vendor
ibm-granite/granite-4.2-8b-nvfp4
granite-4-2/8b · W4A4 · vllm · vendor
hf.co/ibm-granite/granite-4.2-8b-GGUF:Q8_0
granite-4-2/8b · Q8_0 · ollama · vendor
ibm-granite/granite-4.2-8b-fp8
granite-4-2/8b · FP8 · vllm · vendor
ibm-granite/granite-4.2-8b-bf16-mlx
granite-4-2/8b · BF16 · mlx · vendor
hf.co/ibm-granite/granite-4.2-8b-GGUF:BF16
granite-4-2/8b · BF16 · ollama · vendor