In der Free Arena abstimmen

Nachrichten··1 Min. Lesezeit·Daten werden automatisch aktualisiert

Hugging Face leitet die Inferenz von Sprachmodellen über OpenRouter

Hugging Face verwendet jetzt OpenRouter, um für jede Anfrage den besten Anbieter zu wählen, bei gleicher API und Token.

Hugging Face has replaced its custom inference router with OpenRouter for all language model calls.

The new system sends each request to the provider with the optimal mix of price, speed and reliability, based on live measurements from more than 80 providers.

If a provider slows down or fails, traffic is automatically shifted to the next best provider and the failed attempt is retried within the same call.

Developers keep the same Hugging Face token and API; they can still force a routing policy or specific provider by adding a suffix such as :fastest or :cheapest to the model ID.

Image, video and audio generation remain outside OpenRouter and continue to run directly through Hugging Face Inference Providers.

Was das für dich bedeutet

The change improves reliability and cost efficiency for users running open‑weight models, while preserving existing code.

Quellen

Automatisch aus den obigen Quellen geschrieben, dann von unserem Code geprüft: Jede Zahl und jeder Name muss darin vorkommen, und kein Satz darf eine Quelle kopieren. Einen Fehler entdeckt? Melde ihn.

Kostenlose Rangliste

Welche KI kannst du heute kostenlos nutzen?

Jedes kostenlose KI‑Modell, bewertet durch blinde menschliche Stimmen, mit dem Speicher und der Geschwindigkeit, die es auf deiner eigenen GPU benötigt.

Rangliste öffnen →

Diese Seite teilen:XLinkedInRedditWhatsApp

Drücke / oder Strg+K, um von jeder Seite aus zu suchen.