Modèles GGUF pour llama.cpp, Ollama, LM Studio (octobre 2026)
Le format GGUF est celui de llama.cpp et des outils qui l’utilisent (Ollama, LM Studio). Voici les dépôts GGUF suivis par Radar IA, avec leur modèle de base, leur nombre de paramètres et leur contexte déclarés.
Faits relevés sur l’API publique Hugging Face le 14/10/2026 ; ils sont déclarés par les auteurs des modèles.
| Élément | Modèle de base | Paramètres | Contexte | Licence | Téléch. 30 j | Score |
|---|---|---|---|---|---|---|
| Ternary-Bonsai-2-27B-gguf Prism ML | Qwen/Qwen3.8-27B | 26,9 B | 262,1 k | apache-2.0 | 4,8 M | Score Radar 84 sur 100 |
| Qwen3.8-27B-GGUF Unsloth AI | Qwen/Qwen3.8-27B | 27,3 B | 262,1 k | apache-2.0 | 6,6 M | Score Radar 82 sur 100 |
| Underdog-Saluki-27B-1.0 Conway | ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF | 26,9 B | 262,1 k | apache-2.0 | 312 k | Score Radar 77 sur 100 |
| Swift-Qwen3.8-27B-GGUF ukisai | ukisai/Swift-Qwen3.8-27b | 27,3 B | 262,1 k | swift-open-license-1.0 | 494,1 k | Score Radar 77 sur 100 |
| Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF DavidAU | DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU | 26,9 B | 262,1 k | apache-2.0 | 1,9 M | Score Radar 75 sur 100 |
| Qwen3.8-27B-GSQ-RCO-GGUF IST Austria Distributed Algorithms and Systems Lab | Qwen/Qwen3.8-27B | 26,9 B | 262,1 k | apache-2.0 | 1,5 M | Score Radar 75 sur 100 |
| Qwen-Image-2.1-Uncensored-Quantized abenzerps | Qwen/Qwen-Image-2.1 | 7,1 B | — | qwen-research | 2,3 M | Score Radar 75 sur 100 |
| Huihui-Qwen3.8-27B-abliterated-GGUF huihui-ai | Qwen/Qwen3.8-27B | 27,3 B | 262,1 k | apache-2.0 | 2,3 M | Score Radar 74 sur 100 |
| Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 nerkyor | nerkyor/Qwen3.8-27B-EfficientThink-Uncensored-K3-Opus5-Grok4.6-GPT5.6Sol-SFT-SimPO-DFlash2 | 27,3 B | 262,1 k | apache-2.0 | 114,4 k | Score Radar 74 sur 100 |
| embeddinggemma-2-GGUF Unsloth AI | google/embeddinggemma-2 | 271 M | 262,1 k | apache-2.0 | 88,9 k | Score Radar 74 sur 100 |
| Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF IST Austria Distributed Algorithms and Systems Lab | Qwen/Qwen3.8-Flash-Next | 116,5 B | 262,1 k | apache-2.0 | 759,9 k | Score Radar 73 sur 100 |
| Xing4.0-29B-A4B-GGUF Venastine Research | XingChen-AGI/Xing4.0-29B-A4B | 31,2 B | 262,1 k | apache-2.0 | 59,8 k | Score Radar 71 sur 100 |
| Qwen3.8-Flash-Next-GSQ-RCO-GGUF IST Austria Distributed Algorithms and Systems Lab | Qwen/Qwen3.8-Flash-Next | 176,9 B | 262,1 k | apache-2.0 | 4,9 M | Score Radar 70 sur 100 |
| Qwen3.8-Flash-Next-Uncensored-GGUF OrcaRouter | Qwen/Qwen3.8-Flash-Next | 176,9 B | 262,1 k | apache-2.0 | 692,8 k | Score Radar 70 sur 100 |
| OrcaSAQ-2-Cyber-27B-Uncensored-GGUF OrcaRouter | orcarouter/Qwen3.8-27B-Uncensored | 27,3 B | 262,1 k | apache-2.0 | 25,4 k | Score Radar 68 sur 100 |
| Qwen-Image-2.1-Turbo-Uncensored-GGUF Atomic Chat | Qwen/Qwen3-VL-8B-Instruct | 8,2 B | 262,1 k | apache-2.0 | 258,3 k | Score Radar 66 sur 100 |
| Mellum2.1-12B-A2.5B-Thinking-GGUF JetBrains | JetBrains/Mellum2.1-12B-A2.5B-Thinking | 12,1 B | 131,1 k | apache-2.0 | 47,7 k | Score Radar 66 sur 100 |
| Nemotron-3-Diarization NVIDIA | — | 99 M | — | openmdw-1.1 | 84 k | Score Radar 66 sur 100 |
| humanizer jialinyyzz | google/gemma-4-12B | 12 B | 262,1 k | apache-2.0 | 65,6 k | Score Radar 63 sur 100 |
| d1-3B-GGUF Liquid AI | LiquidAI/d1-3B | 2,7 B | 32,8 k | lfm1.0 | 22,5 k | Score Radar 58 sur 100 |
Lancer un dépôt GGUF
- llama.cpp :
llama-cli -hf organisation/depot - Ollama :
ollama run hf.co/organisation/depot - LM Studio : rechercher l’identifiant du dépôt dans l’onglet de recherche.
Chaque dépôt propose plusieurs quantifications (Q4, Q5, Q8…) : la taille du fichier choisi, visible sur la fiche Hugging Face, donne la mémoire nécessaire.