Meilleurs modèles open source : LLM en local
Petits modèles et versions quantisées (GGUF, ONNX, MLX) qui tournent sur un PC. Sélection octobre 2026 classée par Score Radar.
Flux RSS de ce domaine · Suivre sur Feedly
Articles
Qwen3.8-27B « sans refus » : ce que valent les GGUF de huihui et OrcaSAQ-2 pour un usage professionnel
Deux dérivés « abliterated » de Qwen3.8-27B entrent au classement, l'un à 2,2 M de téléchargements ; une seule des deux fiches mesure la perte due à la quantisation, aucune celle due à l'abliteration. Pour traiter des documents ou coder, le GGUF Unsloth d'origine reste le bon point de départ.
GGUF officiels : Mellum 2.1 tient en 8 Go, MiniCPM-V 4.7 et d1-3B livrent aussi leur version locale
JetBrains publie les GGUF officiels de Mellum 2.1, son MoE de code à 2,5 B actifs : 8,1 Go en Q4_K_M, contexte 131 k, une commande Ollama. La même semaine, OpenBMB (MiniCPM-V 4.7) et Liquid AI (d1-3B) livrent eux-mêmes la version quantisée.
EmbeddingGemma 2 : la recherche sémantique multilingue tient en 176 Mo sur un PC
Google publie EmbeddingGemma 2, un modèle d'embeddings de 0,74 B qui place texte, images, audio et vidéo dans le même espace vectoriel, et Unsloth le décline en GGUF à partir de 176 Mo. Pour une recherche documentaire locale, sans serveur ni API, c'est une brique à essayer.
Qwen3.8-27B en 8 à 12 Go : trois façons de faire tourner un agent sur un PC
Saluki, OrcaSAQ et Swift compressent ou raccourcissent le même modèle socle. Tour d'horizon de ce que chacun sacrifie, et d'une licence à lire avant de déployer.
Meilleurs scores du domaine
★ Ternary-Bonsai-2-27B-gguf
Qwen3.8-27B ternaire, 4,5 M téléch.
★ laya
5,5 k likes ; classification rapide.
★ Edge0-35B-A3B-preview
MoE 35 B servi depuis SSD
★ Underdog-Saluki-27B-1.0
Téléchargements doublés en 24 h (242 k) : le 27 B compressé pour agents locaux prend.
Qwen3.8-27B
La base de la majorité des dérivés GGUF du classement.
★ Swift-Qwen3.8-27B-GGUF
Version GGUF de Swift
★ embeddinggemma-2
Toujours n°1 : la brique de recherche sémantique locale de référence.
★ speaker-diarization-3.1
Référence historique (6,9 M).
★ Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF
Volume de téléchargements élevé ; qualité à vérifier avant usage.
★ Audio8-ASR-Infinite
ASR temps réel léger, mais sans français annoncé.