Transformers documentation

Oca

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v5.22.2).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Oca

Jan, açık kaynak bir ChatGPT alternatividir. transformers serve komutunu ekel tünelleme gerektirmeden yerel olarak destekler.

Ayarlar > Model Sağlayıcıları bölümüne gidin.

  1. Base URL değerini http://localhost:8000/v1 olarak ayarlayın.
  2. API Key alanına herhangi bir metin girin (zorunlu).

Modeller bölümünü kontrol edin (boşsa Yenile'e tıklayın). Qwen/Qwen3-4B gibi belirli bir model eklemek için +'e veya bir GGUF modeli için <repo>:<file>.gguf biçimine tıklayın.

Update on GitHub