Mistral AI Test: lokale Modelle, Large 3, Small 4 und NSFW-Politik
Mistral ist längst mehr als Mistral 7B oder Mixtral. Die aktuelle Reihe reicht von kleinen lokalen Modellen bis zu Enterprise-MoE-Modellen: Mistral Large 3, Medium 3.5,…
Mistral ist längst mehr als Mistral 7B oder Mixtral. Die aktuelle Reihe reicht von kleinen lokalen Modellen bis zu Enterprise-MoE-Modellen: Mistral Large 3, Medium 3.5, Small 4, Ministral 3 und Devstral 2 für Coding.
Für lokale Nutzer ist Ministral 3 der realistischste Einstieg. Small 4 und Medium 3.5 passen eher zu Servern oder API-Nutzung. Large 3 ist Enterprise-Infrastruktur und kein bequemes Modell für den Heim-PC.
Inhalt
Kurzfazit
| Bedarf | Empfehlung |
|---|---|
| Lokaler Einstieg | Ministral 3 3B/8B, bevorzugt GGUF oder FP8 |
| Ausgewogener Server | Mistral Small 4 |
| Agenten und Code | Mistral Medium 3.5 oder Devstral 2 |
| Enterprise Open Weights | Mistral Large 3 |
| NSFW / weniger Ablehnungen | Nicht der Hauptfokus von Mistral |
Aktuelle Mistral-Reihe
Mistrals Stärke ist die klare Staffelung: kleine Modelle für lokal und Edge, mittlere für Server und große für Unternehmen. Nach Hardware und Aufgabe zu wählen ist sinnvoller als immer das größte Modell zu nehmen.
| Modell | Zugang | Größe | Kontext | Ideal für |
|---|---|---|---|---|
| Mistral Medium 3.5 | Open Weights Modified MIT | Dense 128B | 256k | Agenten, Code, Vision und Function Calling |
| Mistral Small 4 | Apache 2.0 | 119B gesamt / 6,5B aktiv | 256k | Chat, Reasoning, Code und Dokumente |
| Mistral Large 3 | Apache 2.0 | 675B gesamt / 41B aktiv MoE | 256k | Enterprise, mehrsprachig, multimodal |
| Ministral 3 | Apache 2.0 | 3B, 8B, 14B | 256k | Edge, lokale Assistenten, Fine-Tuning |
| Devstral 2 | Open-weight Coding | 123B / 24B | Code-orientiert | Software-Agenten |
Online nutzen und herunterladen
Online starten Sie mit Mistral Chat oder Mistral AI Studio / La Plateforme für API-Zugriff. Downloads finden Sie bei Mistral Large 3, Mistral Small 4, Mistral Medium 3.5, Ministral 3 8B, Ministral 3 3B GGUF und Devstral 2 collection.
Lokaler Einsatz und Hardware
Mistrals Stärke ist die klare Staffelung: kleine Modelle für lokal und Edge, mittlere für Server und große für Unternehmen. Nach Hardware und Aufgabe zu wählen ist sinnvoller als immer das größte Modell zu nehmen.
| Modell | Realistische Hardware |
|---|---|
| Ministral 3 3B | BF16 etwa 16GB VRAM; quantisiertes GGUF teils unter 8GB |
| Ministral 3 8B | FP8 etwa 12GB VRAM; quantisiert leichter |
| Ministral 3 14B | Besser mit 16GB-24GB oder mehr |
| Mistral Small 4 | Etwa 60GB-238GB GPU RAM, eher Server |
| Mistral Medium 3.5 | 128B dense, Multi-GPU oder API |
| Mistral Large 3 | 675B MoE, Enterprise-Infrastruktur |
Leistung und echte Erfahrungen
Offizielle Informationen betonen Mehrsprachigkeit, Code, Reasoning, Vision und niedrige Latenz. Die Community schätzt Lizenzklarheit und Enterprise-Ökosystem. Large 3 und Medium 3.5 bleiben aber schwer; Ministral 3 ist für lokale Nutzer der beste Anfang.
Vergleich mit anderen lokalen LLMs
| Model family | Strength | Limit | Best for |
|---|---|---|---|
| Mistral | Clear licensing, multilingual, enterprise tooling | Large models need serious hardware | Commercial local AI |
| Qwen 3.8 | Strong local community and coding balance | Branch/license details vary | Practical local users |
| Gemma 4 | Efficient Google-backed line | Official models are not NSFW-first | General assistants |
| Dolphin 3 | Classic uncensored route | Less enterprise-safe | Adult writing and roleplay |
| Llama 4 | Multimodal and strong ecosystem | Tool support varies | Open multimodal apps |
NSFW und Sicherheitsgrenzen
Mistral ist keine NSFW-first-Familie. Offizielle Produkte folgen Richtlinien gegen CSAM, nicht einvernehmliche intime Bilder, illegale Aktivitäten, Belästigung und Filterumgehung. Open Weights geben beim Self-Hosting Kontrolle, machen Standardmodelle aber nicht zu Dolphin-artigen uncensored Modellen.
Community und Ökosystem
Das Ökosystem umfasst Hugging Face, Transformers, vLLM, SGLang, llama.cpp/GGUF für kleine Modelle, Ollama, LM Studio, Mistral Studio, Vibe, Devstral und Moderationstools. Bei Quantisierungen sollten Bildeingabe, Long Context und Function Calling geprüft werden.
FAQ
Welches Modell zuerst testen?
Ministral 3 3B oder 8B, wegen Größe und lokaler Formate.
Läuft Large 3 auf einem PC?
Realistisch nein. 675B MoE ist Enterprise-Infrastruktur.
Was bringt Small 4?
Chat, Reasoning und Code in einem effizienten Server-MoE.
Ist Mistral besser als Qwen oder Llama?
Kommt auf den Einsatz an. Mistral punktet bei Lizenz, Mehrsprachigkeit und Enterprise; Qwen/Llama oft bei Hobby-Tools.
Ist es gut für NSFW?
Nicht offiziell. Dedizierte Fine-Tunes sind direkter.
Quellen
- Mistral models overview
- Mistral Medium 3.5 documentation
- Mistral Small 4 documentation
- Mistral 3 announcement
- Mistral pricing
- Mistral usage policy
- Mistral moderation and guardrails
- NVIDIA on Mistral 3
Fazit
Mistral ist stark, weil die Reihe vom lokalen Ministral 3 bis zum Enterprise Large 3 reicht. Beginnen Sie mit dem kleinsten Modell, das Ihre Aufgabe löst, und wechseln Sie erst dann zu größeren Modellen, wenn Kosten, Latenz und Qualität es rechtfertigen.
Overall, Mistral is most valuable for readers who care about commercial usability, deployment flexibility and multilingual capability. Start small for local use, then scale up only when the workload clearly requires it.