Offene Modelle über einen EU-Endpunkt nutzen
Munito AI betreibt die Modelle DeepSeek, GLM und Qwen über eine EU-Inferenz-API.
Anfragen an https://api.eu.munito.ai/inference/v1 laufen in der EU.
Nutzen Sie dieselbe OpenAI-Bibliothek mit einem Munito-Schlüssel und der gewählten Modell-ID.
Die Entwicklerin eines Modells und der Betreiber der Inferenz haben verschiedene Rollen. Munito AI betreibt die API, die Ihre Anfrage verarbeitet. Nutzen Sie die Liste der Unterauftragsverarbeiter, um die Dienstleister zu bewerten, die Ihre Daten verarbeiten können.
Welches Modell sollten Sie prüfen?
| Modell | Modell-ID | Schwerpunkt der Prüfung | Angaben und aktuelle EU-Preise |
|---|---|---|---|
| DeepSeek-V4-Flash | deepseek-ai/deepseek-v4-flash | Textaufgaben, Code und Schlussfolgern | DeepSeek-API |
| GLM-5.3-Flash | zai-org/glm-5.3-flash | Text, Bilder, Werkzeuge und strukturierte Ausgaben | GLM-API |
| Qwen3.8-27B | qwen/qwen3.8-27b | Text, Bilder, Dokumentseiten und Werkzeuge | Qwen-API |
Wählen Sie ein Modell für Ihre Aufgabe, und vergleichen Sie es dann an Ihrem eigenen Prüfsatz. Jede Modellseite nennt die Kontextgrenzen, die Fähigkeiten und die verfügbaren Regionen. Nutzen Sie den vollen Katalog für andere Versionen und Modellfamilien.
Die Kosten für Ihre Last vergleichen
Wählen Sie im Katalog die EU-Region. Vergleichen Sie die Preise für Eingabe, zwischengespeicherte Eingabe und Ausgabe bei derselben Service-Stufe. Rechnen Sie Token des Schlussfolgerns in das Ausgabebudget, wenn das Modell sie nutzt. Ein niedrigerer Eingabepreis allein belegt keine niedrigeren Kosten je fertiger Aufgabe.
Nutzen Sie einen festen Prüfsatz, um Antwortqualität, Latenz und Tokenverbrauch zu messen. Testen Sie die Gleichzeitigkeit, die Ihre Anwendung braucht. Der Leitfaden zu den Ratenbegrenzungen erklärt die Antworten zur Kapazität und die Grenzen des Kontos.
Gehen Anfragen an die Entwicklerin des Modells?
Munito AI betreibt das offene Modell über die eigene API. Der Name eines Modells heißt nicht, dass eine Anfrage an die gehostete API seiner Entwicklerin geht. Die veröffentlichte Liste der Unterauftragsverarbeiter beschreibt die Dienstleister des Dienstes. Das freiwillige Overflow kann einen anderen Anbieter oder ein anderes Modell nutzen, wenn Sie es einschalten.
Was bleibt in der EU?
Der EU-Endpunkt hält die Inferenz in der EU. Die EU-Datenregion hält gespeicherte Kundeninhalte in der EU. Betreiben Sie es auf betreuter europäischer Infrastruktur, in Ihrem eigenen Cloud-Konto oder vor Ort.
Munito AI behält standardmäßig keine Anfragen und keine Ausgaben und trainiert nicht mit Ihren Daten. Ausdrückliche Speicherung und Hintergrundanfragen haben eigene Regeln zur Aufbewahrung. Lesen Sie den Leitfaden zur EU-API zu den Deployment-Optionen und den Schritten der Anbindung.
Eine Prüfung beginnen
- Ein Konto anlegen und die EU-Datenregion wählen.
- In der Konsole einen API-Schlüssel anlegen.
- Die EU-Basis-URL und die Modell-ID setzen.
- Beispiele aus Ihrer Anwendung laufen lassen.
- Qualität, Latenz, Tokenverbrauch und die Sicherheitsanforderungen Ihrer Kundin prüfen.
Folgen Sie dem Schnellstart für Codebeispiele. Nutzen Sie den Leitfaden zur Sicherheitsprüfung für die Fragen der Beschaffung. Für Anforderungen an die Kapazität sprechen Sie mit einem Ingenieur.