Update app.py

app.py

@@ -4,18 +4,24 @@ from ctransformers import AutoModelForCausalLM
 # Cargar modelo GGUF
 model = AutoModelForCausalLM.from_pretrained(
     "tinyllama-1.1b-chat-v1.0.Q4_0.gguf",
-    model_type="llama"
+    model_type="llama",
+    gpu_layers=0,
+    threads=4
 )
 
 def chat_fn(message, history):
-    # Generar texto
+    prompt = (
+        "<|system|>Eres un asistente útil especializado en trámites y administración en España.<|end|>\n"
+        f"<|user|>{message}<|end|>\n"
+        "<|assistant|>"
+    )
+    
     output = model(
-        message,
+        prompt,
         max_new_tokens=200,
         temperature=0.7
     )
 
-    # Convertir a string por seguridad
     if isinstance(output, bytes):
         output = output.decode("utf-8", errors="ignore")
 
@@ -29,4 +35,3 @@ demo = gr.ChatInterface(
 
 demo.launch()
 
-