Transformers documentation

1月

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

1月

Jan はオープンソースの ChatGPT 代替ツールです。transformers serve を追加のトンネリングなしでネイティブにサポートしています。

設定 > モデルプロバイダーに移動します。

  1. Base URLをhttp://localhost:8000/v1に設定します。
  2. API Key に任意のテキストを入力してください(必須)。

Modelsセクションを確認してください(空の場合はRefreshをクリック)。Qwen/Qwen3-4Bなどの特定のモデルを追加するには+をクリックし、GGUFモデルの場合は<repo>:<file>.ggufを指定します。

Update on GitHub