Voter dans Free Arena

Actualités··1 min de lecture·Données mises à jour automatiquement

Hugging Face routes language model inference through OpenRouter

Hugging Face now uses OpenRouter to select the best provider for each request, keeping the same API and token.

Hugging Face has replaced its custom inference router with OpenRouter for all language model calls.

The new system sends each request to the provider with the optimal mix of price, speed and reliability, based on live measurements from more than 80 providers.

If a provider slows down or fails, traffic is automatically shifted to the next best provider and the failed attempt is retried within the same call.

Developers keep the same Hugging Face token and API; they can still force a routing policy or specific provider by adding a suffix such as :fastest or :cheapest to the model ID.

Image, video and audio generation remain outside OpenRouter and continue to run directly through Hugging Face Inference Providers.

Ce que cela signifie pour vous

The change improves reliability and cost efficiency for users running open‑weight models, while preserving existing code.

Sources

Rédigé automatiquement à partir des sources ci‑dessus, puis vérifié par notre code : chaque nombre et chaque nom doivent y figurer, et aucune phrase ne doit copier une source. Une erreur ? Signalez‑la.

Classement gratuit

Quelle IA pouvez‑vous utiliser gratuitement aujourd’hui ?

Tous les modèles IA gratuits, classés par votes humains anonymes, avec la mémoire et la vitesse dont ils ont besoin sur votre propre GPU.

Ouvrir le classement →

Partager cette page :XLinkedInRedditWhatsApp

Appuyez sur / ou Ctrl+K pour rechercher depuis n’importe quelle page.