Transformers documentation
1月
はじめに
ベースクラス
モデル
プリプロセッサ
推論
トレーニング
ハードウェア
量子化
エコシステム統合
リソース
API
1月
Jan はオープンソースの ChatGPT 代替ツールです。transformers serve を追加のトンネリングなしでネイティブにサポートしています。
設定 > モデルプロバイダーに移動します。
- Base URLをhttp://localhost:8000/v1に設定します。
- API Key に任意のテキストを入力してください(必須)。
Modelsセクションを確認してください(空の場合はRefreshをクリック)。Qwen/Qwen3-4Bなどの特定のモデルを追加するには+をクリックし、GGUFモデルの場合は<repo>:<file>.ggufを指定します。
