Provider-Routing

Ein Modell wird häufig von mehr als einem Anbieter bereitgestellt — bytedance/seedance-2.0 etwa kommt sowohl von volcengine als auch von byteplus. ofox wählt den Anbieter automatisch aus; mit provider.type bindest du die Anfrage an einen bestimmten Anbieter.

Standard-Routing

Ohne das Feld provider verteilt ofox die Anfrage gewichtet auf die Kanäle, die das Modell gerade bereitstellen. Welcher Anbieter eine einzelne Anfrage bedient, ist nicht vorhersehbar.

Anbieter festlegen

Gib den Anbieternamen im Feld type an. Das Feld steht je nach Modelltyp an einer anderen Stelle:

Modelltyp	Feldpfad
Chatmodelle	`extra_body.provider.type`
Videomodelle	`provider.type`

Das native Gemini-Protokoll ignoriert extra_body.provider im Body — die Anfrage geht durch, die Einschränkung greift schlicht nicht, und es gibt keinen Fehler. Nutze auf diesem Protokoll den Header X-OfoxAI-Provider-Type. Der Feldvertrag je Protokoll steht unter API · Provider-Routing.

Chatmodelle

cURL

Terminal


curl https://api.ofox.run/v1/chat/completions \
  -H "Authorization: Bearer $OFOX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "anthropic/claude-sonnet-5",
    "messages": [{ "role": "user", "content": "..." }],
    "extra_body": {
      "provider": { "type": "bedrock" }
    }
  }'

Python

provider_routing.py


client.chat.completions.create(
    model="anthropic/claude-sonnet-5",
    messages=[{"role": "user", "content": "..."}],
    extra_body={"extra_body": {"provider": {"type": "bedrock"}}},
)

TypeScript

provider-routing.ts


await client.chat.completions.create({
  model: 'anthropic/claude-sonnet-5',
  messages: [{ role: 'user', content: '...' }],
  extra_body: { provider: { type: 'bedrock' } },
} as any)

Bei den offiziellen OpenAI-SDKs muss extra_body als wörtlicher Schlüssel im Request-Body vorhanden sein. Das TypeScript-SDK sendet es so, wie es im Parameterobjekt steht. Das Argument extra_body= des Python-SDK verschmilzt seinen Inhalt mit der obersten Ebene des Bodys; der Schlüssel muss dort also eine Ebene tiefer verschachtelt oder stattdessen als Request-Header übergeben werden.

Verfügbare Anbieter

Die derzeit von ofox unterstützten Anbieter sind unten aufgeführt. Die Kurznamen in Klammern sind dem vollen Namen gleichwertig; beide können verwendet werden:

Anbieter	Beschreibung
`openai`	OpenAI ：offizielle API der GPT-Familie
`anthropic`	Anthropic ：offizielle API der Claude-Familie
`gemini`	Google AI ：offizielle API der Gemini-Familie
`azure_foundry` (`foundry`)	Azure AI Foundry ：Modell-Hosting-Plattform auf Microsoft Azure
`aws_bedrock` (`bedrock`)	Amazon Bedrock ：Modell-Hosting-Dienst auf AWS
`google_vertex` (`vertex`)	Vertex AI ：Modell-Hosting-Plattform auf Google Cloud
`aliyun`	Alibaba Cloud Bailian ：Modelldienst-Plattform von Alibaba Cloud
`volcengine`	Volcengine Ark ：ByteDance-Plattform für Festlandchina
`byteplus`	BytePlus ：ByteDance-Plattform für Märkte außerhalb Festlandchinas
`deepseek`	DeepSeek ：offizielle API der DeepSeek-Familie
`moonshot`	Moonshot AI ：offizielle API der Kimi-Familie
`zhipu`	Zhipu AI ：offizielle API der GLM-Familie
`minimax`	MiniMax ：offizielle API der MiniMax-Familie
`grok`	xAI ：offizielle API der Grok-Familie
`jina`	Jina AI ：Embedding- und Rerank-Modelle
`tencent`	Tencent Cloud Hunyuan ：Modelldienst-Plattform von Tencent Cloud

Nicht jeder Anbieter stellt jedes Modell bereit. Welche Anbieter ein bestimmtes Modell bereitstellen — und welche Protokolle sie jeweils unterstützen — steht auf der Seite dieses Modells im Modellkatalog . Dieselben Daten gibt es programmatisch als provider_cards[] aus GET /v2/models/catalog/{provider}/{slug}?include=provider_price.

Chatmodelle

Chatmodelle verteilen sich auf die meisten der oben genannten Anbieter. Die genaue Zuordnung und die Protokollunterstützung stehen auf der jeweiligen Modellseite.

Videomodelle

Die Familie bytedance/seedance-* wird von den beiden folgenden Anbietern bereitgestellt, deren Inhaltsrichtlinien sich unterscheiden:

Anbieter	Beschreibung	Inhaltsrichtlinie
`volcengine`	Volcengine Ark, ByteDance-Plattform für Festlandchina	Standardmoderation
`byteplus`	BytePlus, ByteDance-Plattform für Märkte außerhalb Festlandchinas	Erlaubt Inhalte, die nicht für alle Zielgruppen geeignet sind (NSFW)

byteplus erlaubt seedance die Erzeugung von Inhalten, die nicht für alle Zielgruppen geeignet sind (NSFW), während volcengine eine Standardmoderation anwendet. Wird solcher Inhalt benötigt, muss provider.type: "byteplus" ausdrücklich gesetzt werden; andernfalls kann die gewichtete Verteilung die Anfrage an volcengine leiten, wo die Moderation sie ablehnt.

Häufige Fehler

`error.type`	Auslöser
`invalid_provider_type`	Der Wert steht nicht in der Anbieter-Enumeration: falsch geschriebener Name oder abgeschaffte Schreibweise.
`provider_type_unavailable`	Den Anbieter gibt es, aber er stellt dieses Modell nicht bereit. Bei Chatmodellen nennt die Fehlermeldung zusätzlich die Anbieter, die es tun.