Zum Inhalt springen
PromptLab by FEHMER TECH
DEEN

Offene KI-Modelle im Vergleich 2026

Open-Weight-Modelle, die du selbst hosten kannst: mit Lizenz, Größe, Kontextlänge und dem Speicherbedarf der Gewichte. Die Fakten stammen direkt aus Hugging Face und werden alle zwei Wochen neu geprüft.

Zuletzt aktualisiert: · Nächste Aktualisierung: · Quelle: Hugging Face API

Alle Modelle auf einen Blick

ModellParameterTypKontextLizenzHLEAuf HF seit
DeepSeek V4.1 Flash
DeepSeek
763.2BMixture of Experts1MMIT–Sep. 2026
GLM-5.3
Z.ai (Zhipu)
753.3BMixture of Experts1MEigene Lizenz (GLM-5.3)39.1 %Aug. 2026
GLM-5.3 Flash
Z.ai (Zhipu)
321.3BMixture of Experts1MMIT–Aug. 2026
DeepSeek V4 Pro
DeepSeek
1.7TMixture of Experts1MMIT32.4 %Aug. 2026
Qwen3.8 2.4T-A95B
Alibaba (Qwen)
2.4Tdavon aktiv 95BMixture of Experts256KEigene Lizenz (Qwen3.8-Max)–Aug. 2026
Qwen3.8 27B
Alibaba (Qwen)
27.8BDicht256KApache 2.0–Aug. 2026
Kimi K3
Moonshot AI
2.8TMixture of Experts1MEigene Lizenz (Kimi K3)41.1 %Juni 2026
Gemma 4 12B
Google
12BDicht256KApache 2.0–Mai 2026
Qwen3.6 35B-A3B
Alibaba (Qwen)
36Bdavon aktiv 3BMixture of Experts256KApache 2.0–Apr. 2026
Mistral Medium 3.5
Mistral AI
127.7BDicht256KEigene Lizenz (siehe Modellkarte)–März 2026
Gemma 4 31B
Google
31.3BDicht256KApache 2.0–März 2026
Gemma 4 26B-A4B
Google
25.8Bdavon aktiv 4BMixture of Experts256KApache 2.0–März 2026
Gemma 4 E4B
Google
8BDicht128KApache 2.0–März 2026
Mistral Small 4
Mistral AI
119.4BMixture of Experts1MApache 2.0–Jän. 2026
Mistral Large 3
Mistral AI
675BMixture of Experts–Apache 2.0–Nov. 2025
gpt-oss-120b
OpenAI
116.8BMixture of Experts128KApache 2.0–Aug. 2025
gpt-oss-20b
OpenAI
20.9BMixture of Experts128KApache 2.0–Aug. 2025
Llama 4 Scout
Meta
108.6Bdavon aktiv 17BMixture of Experts10MLlama 4 Community License–Apr. 2025
Llama 4 Maverick
Meta
401.6Bdavon aktiv 17BMixture of Experts–Llama 4 Community License–Apr. 2025

HLE-Werte stammen aus dem Statistik.

Speicherbedarf für das eigene Hosting

Die Tabelle zeigt, wie viel Speicher allein die Gewichte benötigen (Parameter × Bytes je Parameter). Dazu kommen Kontext-Cache (KV-Cache) und Laufzeit, rechne mit mindestens 20 % Reserve.

Modell16-bit (BF16)8-bit4-bit
Gemma 4 E4B16 GB8 GB4 GB
Gemma 4 12B24 GB12 GB6 GB
gpt-oss-20b41.8 GB20.9 GB10.4 GB
Gemma 4 26B-A4B51.6 GB25.8 GB12.9 GB
Qwen3.8 27B55.6 GB27.8 GB13.9 GB
Gemma 4 31B62.6 GB31.3 GB15.7 GB
Qwen3.6 35B-A3B72 GB36 GB18 GB
Llama 4 Scout217 GB109 GB54.3 GB
gpt-oss-120b234 GB117 GB58.4 GB
Mistral Small 4239 GB119 GB59.7 GB
Mistral Medium 3.5255 GB128 GB63.9 GB
GLM-5.3 Flash643 GB321 GB161 GB
Llama 4 Maverick803 GB402 GB201 GB
Mistral Large 31.4 TB675 GB338 GB
GLM-5.31.5 TB753 GB377 GB
DeepSeek V4.1 Flash1.5 TB763 GB382 GB
DeepSeek V4 Pro3.3 TB1.7 TB825 GB
Qwen3.8 2.4T-A95B4.9 TB2.4 TB1.2 TB
Kimi K35.6 TB2.8 TB1.4 TB

Lizenzen im Überblick

Apache 2.0 und MIT erlauben die kommerzielle Nutzung ohne Rückfrage. Bei eigenen Lizenzen (Qwen3.8-Max, GLM-5.3, Kimi K3, Mistral Medium, Llama 4) gelten Sonderbedingungen, die vor dem Produkteinsatz gelesen werden sollten.

Details

DeepSeek V4.1 Flash

DeepSeek · MIT · 763.2B · 1M

Aktuelles Flash-Modell von DeepSeek mit Mixture-of-Experts-Architektur und 1 Mio. Token Kontext. Die API unterstützt Tool-Aufrufe, JSON-Ausgabe, Bildeingabe und einen Denkmodus.

  • Agenten und Tool-Aufrufe
  • Lange Dokumente
  • Günstige API-Nutzung

Modellkarte auf Hugging Face · Downloads: 1 355 278

GLM-5.3

Z.ai (Zhipu) · Eigene Lizenz (GLM-5.3) · 753.3B · 1M

Flaggschiff von Z.ai mit offenen Gewichten (rund 753 Mrd. Parameter, 1 Mio. Token Kontext). Lizenz: GLM-5.3-Lizenz, nicht MIT.

  • Agenten
  • Coding
  • Rechenzentrumsbetrieb

Modellkarte auf Hugging Face · Downloads: 1 670 161

GLM-5.3 Flash

Z.ai (Zhipu) · MIT · 321.3B · 1M

Kleinere Variante von GLM-5.3 unter MIT-Lizenz (rund 321 Mrd. Parameter, 1 Mio. Token Kontext).

  • Server mit mehreren GPUs
  • Agenten und Coding
  • MIT-lizenzierte Projekte

Modellkarte auf Hugging Face · Downloads: 6 479 110

DeepSeek V4 Pro

DeepSeek · MIT · 1.7T · 1M

Großes Pro-Modell der V4-Familie (Version 0813) mit 1 Mio. Token Kontext. Die API-Dokumentation nennt Tool-Aufrufe und JSON-Ausgabe, aber keine Bildeingabe.

  • Anspruchsvolle Programmieraufgaben
  • Komplexes Schlussfolgern
  • Eigenes Hosting nur mit Multi-GPU-Cluster

Modellkarte auf Hugging Face · Downloads: 87 569

Qwen3.8 2.4T-A95B

Alibaba (Qwen) · Eigene Lizenz (Qwen3.8-Max) · 2.4T · 256K

Mit rund 2,4 Billionen Parametern (laut Namen etwa 95 Mrd. aktiv) das größte Qwen-Modell mit offenen Gewichten. Die Lizenz ist keine Standardlizenz: Vor kommerzieller Nutzung die Lizenztexte lesen.

  • Forschung und Benchmarks
  • Rechenzentrumsbetrieb

Modellkarte auf Hugging Face · Downloads: 32 082

Qwen3.8 27B

Alibaba (Qwen) · Apache 2.0 · 27.8B · 256K

Dichtes Modell mit knapp 28 Mrd. Parametern und 262K Token Kontext unter Apache 2.0. Passt in Q4-Quantisierung auf eine einzelne Grafikkarte mit 24 GB (reiner Gewichtsbedarf ca. 14 GB).

  • Lokaler Allround-Assistent
  • Mehrsprachige Texte
  • Coding-Hilfe auf eigener Hardware

Modellkarte auf Hugging Face · Downloads: 6 768 654

Kimi K3

Moonshot AI · Eigene Lizenz (Kimi K3) · 2.8T · 1M

Open-Weight-Modell von Moonshot AI mit rund 2,8 Billionen Parametern und 1 Mio. Token Kontext. Der Betrieb ist nur im Rechenzentrum realistisch; Lizenz vor kommerzieller Nutzung prüfen.

  • Forschung
  • Rechenzentrumsbetrieb

Modellkarte auf Hugging Face · Downloads: 1 160 630

Gemma 4 12B

Google · Apache 2.0 · 12B · 256K

Mittlere Gemma-4-Größe für Notebooks und kleine Server (262K Token Kontext). Reiner Gewichtsbedarf in 4-bit etwa 6 GB.

  • Notebook und Mini-PC
  • Textaufgaben im Büroalltag
  • Einstieg in lokale KI

Modellkarte auf Hugging Face · Downloads: 1 603 246

Qwen3.6 35B-A3B

Alibaba (Qwen) · Apache 2.0 · 36B · 256K

Mixture-of-Experts-Modell mit rund 36 Mrd. Parametern, von denen laut Namen etwa 3 Mrd. aktiv sind. Das macht die Inferenz schnell, der Speicherbedarf richtet sich aber nach allen Gewichten.

  • Schnelle lokale Antworten
  • Chat und Zusammenfassungen
  • Server mit begrenzter Rechenleistung

Modellkarte auf Hugging Face · Downloads: 3 545 718

Mistral Medium 3.5

Mistral AI · Eigene Lizenz (siehe Modellkarte) · 127.7B · 256K

Dichtes Modell mit rund 128 Mrd. Parametern und 262K Token Kontext. Die Gewichte sind offen, die Lizenz ist aber keine Standardlizenz wie Apache 2.0.

  • Europäischer Anbieter, EU-Hosting möglich
  • Dokumentenarbeit
  • Mehrsprachige Anwendungen

Modellkarte auf Hugging Face · Downloads: 72 473

Gemma 4 31B

Google · Apache 2.0 · 31.3B · 256K

Größtes dichtes Modell der Gemma-4-Familie mit 262K Token Kontext. Google hat die frühere Sonderlizenz durch Apache 2.0 ersetzt; das Modell verarbeitet Bilder und Video.

  • Lokale Multimodal-Anwendungen
  • Kommerzielle Produkte ohne Lizenzbedenken
  • Workstation-Betrieb

Modellkarte auf Hugging Face · Downloads: 9 619 659

Gemma 4 26B-A4B

Google · Apache 2.0 · 25.8B · 256K

Mixture-of-Experts-Variante von Gemma 4 mit rund 26 Mrd. Parametern, davon laut Namen etwa 4 Mrd. aktiv, 262K Token Kontext.

  • Schnelle lokale Inferenz
  • Chat-Assistenten
  • Prototypen

Modellkarte auf Hugging Face · Downloads: 11 854 067

Gemma 4 E4B

Google · Apache 2.0 · 8B · 128K

Kleines Gemma-4-Modell (4,5 Mrd. effektive Parameter) für Smartphones und Edge-Geräte; verarbeitet neben Bild und Video auch Audio.

  • Smartphone und Edge
  • Sprach- und Bildverständnis
  • Offline-Betrieb

Modellkarte auf Hugging Face · Downloads: 4 305 979

Mistral Small 4

Mistral AI · Apache 2.0 · 119.4B · 1M

Mixture-of-Experts-Modell mit rund 119 Mrd. Parametern und 1 Mio. Token Kontext unter Apache 2.0. Trotz des Namens "Small" braucht es für die Gewichte mehrere Grafikkarten.

  • Lange Dokumente
  • Server-Betrieb
  • Apache-2.0-Projekte

Modellkarte auf Hugging Face · Downloads: 79 509

Mistral Large 3

Mistral AI · Apache 2.0 · 675B · –

Mit 675 Mrd. Parametern das große Open-Weight-Modell von Mistral (November 2025) unter Apache 2.0.

  • Rechenzentrumsbetrieb
  • Anspruchsvolle Textaufgaben

Modellkarte auf Hugging Face · Downloads: 2 037

gpt-oss-120b

OpenAI · Apache 2.0 · 116.8B · 128K

Offenes Modell von OpenAI (August 2025) mit rund 117 Mrd. Parametern und 131K Token Kontext unter Apache 2.0. Seit der Veröffentlichung nicht aktualisiert, daher älter als die übrigen Modelle.

  • Selbst gehostete Assistenten
  • Apache-2.0-Projekte

Modellkarte auf Hugging Face · Downloads: 3 845 925

gpt-oss-20b

OpenAI · Apache 2.0 · 20.9B · 128K

Kleines Schwestermodell mit rund 21 Mrd. Parametern und 131K Token Kontext unter Apache 2.0 (August 2025).

  • Lokaler Betrieb auf einer Grafikkarte
  • Einstieg in offene Modelle

Modellkarte auf Hugging Face · Downloads: 5 950 578

Llama 4 Scout

Meta · Llama 4 Community License · 108.6B · 10M

Kleineres Llama-4-Modell mit rund 109 Mrd. Parametern, davon 17 Mrd. aktiv (April 2025). Meta nannte bis zu 10 Mio. Token Kontext. Zugriff nur nach Freigabe.

  • Bestehende Llama-Projekte
  • Sehr lange Dokumente

Gated: Zugriff nach Freigabe durch Meta.

Modellkarte auf Hugging Face · Downloads: 163 461

Llama 4 Maverick

Meta · Llama 4 Community License · 401.6B · –

Mixture-of-Experts-Modell mit rund 400 Mrd. Parametern, davon 17 Mrd. aktiv (April 2025). Auf Hugging Face gibt es von Meta keine neuere Llama-Veröffentlichung (Stand 10.10.2026). Zugriff nur nach Freigabe.

  • Bestehende Llama-Projekte
  • Multimodale Aufgaben

Gated: Zugriff nach Freigabe durch Meta.

Modellkarte auf Hugging Face · Downloads: 9 467

Häufige Fragen zu offenen Modellen

Welche offenen KI-Modelle passen auf eine Grafikkarte mit 24 GB?

In 4-bit-Quantisierung brauchen die Gewichte etwa ein halbes Byte pro Parameter. Mit ca. 19 GB für die Gewichte (rund 80 % der 24 GB, der Rest ist für den Kontext-Cache) passen: Qwen3.6 35B-A3B (36B), Gemma 4 31B (31.3B), Qwen3.8 27B (27.8B), Gemma 4 26B-A4B (25.8B), gpt-oss-20b (20.9B), Gemma 4 12B (12B), Gemma 4 E4B (8B). Größere Modelle brauchen mehrere Karten oder Offloading.

Was bedeutet Open Weight?

Die trainierten Gewichte stehen zum Download bereit und lassen sich selbst betreiben. Das ist nicht automatisch Open Source: Trainingsdaten und Trainingscode sind oft nicht offen, und die Lizenz entscheidet über die kommerzielle Nutzung.

Welche Modelle darf ich kommerziell ohne Sonderbedingungen nutzen?

Modelle unter Apache 2.0 oder MIT erlauben die kommerzielle Nutzung ohne Rückfrage: DeepSeek V4.1 Flash, DeepSeek V4 Pro, Qwen3.8 27B, Qwen3.6 35B-A3B, Gemma 4 31B, Gemma 4 26B-A4B, Gemma 4 12B, Gemma 4 E4B, Mistral Small 4, Mistral Large 3, GLM-5.3 Flash, gpt-oss-120b, gpt-oss-20b. Modelle mit eigener Lizenz solltest du vor dem Einsatz im Produkt in der Lizenz selbst prüfen.

Wie aktuell sind die Angaben?

Lizenz, Parameterzahl, Kontextlänge und Datum werden alle zwei Wochen aus Hugging Face neu gelesen. Letzte Aktualisierung: 10. Oktober 2026.