Hub documentation
Spaces'te ChatUI
Spaces'te ChatUI
HuggingChat, Falcon, StarCoder ve BLOOM gibi açık kaynak büyük dil modellerini herkesin denemesini sağlayan açık kaynak bir arayüzdür. ChatUI adlı resmi Docker şablonu sayesinde, Hugging Face altyapısını kullanarak birkaç tıklamayla kendi seçtiğiniz modele dayalı kendi HuggingChat'inizi dağıtabilirsiniz.
Kendi Chat Arayüzünüzü Dağıtın
Başlamak için buraya gidin. Bu uygulamanın arka ucunda, daha iyi optimize edilmiş model çıkarımı için text-generation-inference kullanılır. Bu modeller CPU'larda çalışamadığından, model seçiminize bağlı olarak GPU'yu seçebilirsiniz.
Sohbetlerinizin yazılacağı bir MongoDB uç noktası (endpoint) belirtmelisiniz. Bu bölümü boş bırakırsanız, günlükleriniz Space içindeki bir veritabanına kalıcı olarak kaydedilir. Hugging Face'in sohbetlerinize erişimi olmadığını unutmayın. Space'in adını ve temasını, uygulama adı (application name) ve uygulama rengi (application color) parametrelerini sağlayarak yapılandırabilirsiniz. Bunun altında, sunmak istediğiniz modelin Hugging Face Hub kimliğini seçebilirsiniz. Ayrıca, aşağıdaki sözlükte JSON biçiminde üretim hiperparametrelerini de değiştirebilirsiniz.
Not: Gated erişime sahip bir model veya özel bir depodaki bir model dağıtmak istiyorsanız, depoda gizli bilgiler (repository secrets) içinde HF_TOKEN değerini sağlayabilirsiniz. Bu değeri, buradan alabileceğiniz bir erişim jetonu olarak ayarlamanız gerekir.
Oluşturma işlemi tamamlandığında, Space'inizde Building ifadesini göreceksiniz. Derleme tamamlandığında kendi HuggingChat'inizi deneyebilirsiniz!
Sohbet etmeye başlayın!
