Update app.py

app.py

@@ -15,7 +15,7 @@ tokenizer = AutoTokenizer.from_pretrained(model_id, use_fast=True,)
 def respond(prompt, history):
     # 構建聊天模板
     messages = [
-        {"role": "system", "content": "使用中文，直接回答用戶的問題，盡量簡潔在1024 token內。"},
+        {"role": "system", "content": "使用中文。"},
         {"role": "user", "content": prompt}
     ]    
     text = tokenizer.apply_chat_template(
@@ -32,7 +32,7 @@ def respond(prompt, history):
     # 生成回應
     generated_ids = model.generate(
         **model_inputs,
-        max_new_tokens=2048,
+        max_new_tokens=4096,
         temperature=0.7,  # 降低隨機性
         top_p=0.9,        # 限制生成的多樣性
         do_sample=True    # 啟用採樣