Vota in Free Arena

Notizie··1 min di lettura·Dati aggiornati automaticamente

Hugging Face indirizza l'inferenza dei modelli linguistici attraverso OpenRouter

Hugging Face ora usa OpenRouter per selezionare il miglior provider per ogni richiesta, mantenendo la stessa API e token.

Hugging Face has replaced its custom inference router with OpenRouter for all language model calls.

The new system sends each request to the provider with the optimal mix of price, speed and reliability, based on live measurements from more than 80 providers.

If a provider slows down or fails, traffic is automatically shifted to the next best provider and the failed attempt is retried within the same call.

Developers keep the same Hugging Face token and API; they can still force a routing policy or specific provider by adding a suffix such as :fastest or :cheapest to the model ID.

Image, video and audio generation remain outside OpenRouter and continue to run directly through Hugging Face Inference Providers.

Cosa significa per te

The change improves reliability and cost efficiency for users running open‑weight models, while preserving existing code.

Fonti

Scritto automaticamente dalle fonti sopra, poi controllato dal nostro codice: ogni numero e nome deve comparire, e nessuna frase può copiare una fonte. Hai trovato un errore? Segnalalo.

Classifica dei modelli gratis

Quale AI puoi usare gratis oggi?

Tutti i modelli AI gratuiti, classificati da voti umani anonimi, con la memoria e la velocità necessarie sulla tua GPU.

Apri la classifica →

Condividi questa pagina:XLinkedInRedditWhatsApp

Premi / o Ctrl+K per cercare da qualsiasi pagina.