Benutzung
Rate-Limits und Kontingent
Pro Key gelten Anfragen- und Token-Grenzen je Minute; pro Organisation gilt das monatliche Nutzungskontingent des Tarifs.
Grenzen pro Key
Die Werte hängen am Tarif der Organisation und sind Betriebsgrenzen gegen Lastspitzen, kein Funktionsmerkmal.
| Tarif | Anfragen / Minute | Tokens / Minute |
|---|---|---|
| Trial | 60 | 200.000 |
| Basic | 60 | 200.000 |
| Advanced | 60 | 200.000 |
| Ultra | 300 | 1.000.000 |
Beide Flächen zählen dieselben Anfragen je Minute pro Key. Wer mehr braucht, verteilt Last auf mehrere Keys oder spricht uns an.
Antwort-Header
Die App-API sendet auf jeder authentifizierten Antwort drei Header; bei 429 zusätzlich retry-after.
| Header | Bedeutung |
|---|---|
x-ratelimit-limit | Erlaubte Anfragen im aktuellen Fenster. |
x-ratelimit-remaining | Verbleibende Anfragen im Fenster (fehlt, wenn der Zähler gerade nicht verfügbar ist). |
x-ratelimit-reset | Sekunden bis zum Beginn des nächsten Fensters (Obergrenze). |
retry-after | Nur bei 429: Sekunden, bevor ein erneuter Versuch sinnvoll ist. |
HTTP/1.1 429 Too Many Requests
retry-after: 60
x-ratelimit-limit: 60
x-ratelimit-remaining: 0
x-ratelimit-reset: 60
{ "error": { "code": "rate_limited", "message": "Too many requests. Retry after the indicated delay.", "request_id": "…" } }Kontingent
Jede Organisation hat ein monatliches Nutzungskontingent, das sich aus dem Tarif und der Zahl der Plätze ergibt. API-Aufrufe zählen darauf ein. Ist es aufgebraucht, antwortet die API 429 budget_exceeded, bis das Fenster zurückgesetzt wird.
Tarife und Kontingente auf der Preisseite.
Empfehlungen
- Bei 429 und 503 exponentiell zurücktreten; retry-after respektieren.
- Für lange Antworten streamen — die Verbindung bleibt schlank und Timeouts werden seltener.
- Embeddings gebündelt anfragen statt einzeln.
- Ein Key pro Anwendung: Limits und Verbrauch bleiben zurechenbar.