Provedores de Inferência

As páginas de modelos do Hugging Face oferecem inferência com pagamento por uso para milhares de modelos, permitindo que você os teste diretamente no navegador. O serviço é operado pelos Inference Providers, com créditos mensais inclusos para usuários PRO e organizações Team & Enterprise.

Os Inference Providers oferecem aos desenvolvedores um acesso simplificado e unificado a centenas de modelos de machine learning, impulsionado pelos melhores parceiros de inferência serverless. 👉 Para a documentação completa, visite a Documentação dos Inference Providers.

Provedores de Inferência no Hub

Inference Providers é profundamente integrado ao Hugging Face Hub e pode ser usado de algumas maneiras diferentes:

• Widgets interativos - Teste modelos diretamente nas páginas de modelos com widgets interativos que usam Inference Providers por baixo dos panos. Veja a página do modelo DeepSeek-R1-0528 para um exemplo.
• Inference Playground - Teste e compare facilmente modelos de conclusão de chat com seus prompts. Confira o Inference Playground para começar.
• Busca - Filtre modelos por provedor de inferência na página de modelos para encontrar modelos disponíveis por meio de provedores específicos.
• Data Studio - Use IA para explorar conjuntos de dados no Hub. Experimente o Data Studio no seu conjunto de dados favorito.

Construa com provedores de inferência

Você pode integrar os Inference Providers aos seus próprios aplicativos usando nossos SDKs ou clientes HTTP. Aqui está uma introdução rápida com Python e JavaScript; para mais detalhes, consulte a Documentação dos Inference Providers.

from huggingface_hub import InferenceClient

import os

client = InferenceClient(
    api_key=os.environ["HF_TOKEN"],
    provider="auto",   # Automatically selects best provider
)

# Chat completion
completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[{"role": "user", "content": "A story about hiking in the mountains"}]
)

# Image generation
image = client.text_to_image(
    prompt="A serene lake surrounded by mountains at sunset, photorealistic style",
    model="black-forest-labs/FLUX.1-dev"
)

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://huggingface.co/proxy/router.huggingface.co/v1",
    api_key=os.environ["HF_TOKEN"],
)

completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[
        {
            "role": "user",
            "content": "A story about hiking in the mountains"
        }
    ],
)

import { InferenceClient } from "@huggingface/inference";

const client = new InferenceClient(process.env.HF_TOKEN);

const chatCompletion = await client.chatCompletion({
    provider: "auto",  // Automatically selects best provider  
    model: "deepseek-ai/DeepSeek-V3-0324",
    messages: [{ role: "user", content: "Hello!" }]
});

const imageBlob = await client.textToImage({
  model: "black-forest-labs/FLUX.1-dev",
  inputs:
    "A serene lake surrounded by mountains at sunset, photorealistic style",
});

import { OpenAI } from "openai";

const client = new OpenAI({
  baseURL: "https://huggingface.co/proxy/router.huggingface.co/v1",
  apiKey: process.env.HF_TOKEN,
});

const completion = await client.chat.completions.create({
  model: "meta-llama/Llama-3.1-8B-Instruct",
  messages: [{ role: "user", content: "A story about hiking in the mountains" }],
});

Você precisará de um token do Hugging Face com permissões de inferência. Crie um em Configurações > Tokens.

Como o Inference Providers funciona

Para aprofundar-se nos Inference Providers, consulte a Documentação dos Inference Providers. Aqui estão alguns recursos principais:

• Início rápido
• Guia de Preços e Faturamento
• Detalhes da Integração com o Hub

O que era a API HF-Inference?

A API HF-Inference é um dos provedores disponíveis por meio dos Inference Providers. Anteriormente chamada de “Inference API (serverless)”, ela é impulsionada por Inference Endpoints por baixo dos panos.

Para mais detalhes sobre o provedor HF-Inference especificamente, confira sua página dedicada.