Update app.py

app.py

@@ -235,10 +235,6 @@ def generate_local(
         formatted_prompt = format_prompt_zephyr(prompt, history,system_message=sys_message)
         llm = llm_zephyr
     else:
-        sys_message= system_message.replace("##LLM_MODEL###",llm_model).replace("##LLM_MODEL_PROVIDER###",llm_provider)
-        sys_system_understand_message = system_understand_message.replace("##LLM_MODEL###",llm_model).replace("##LLM_MODEL_PROVIDER###",llm_provider)
-        formatted_prompt = format_prompt_mistral(prompt, history,system_message=sys_message,system_understand_message=sys_system_understand_message)
-
         if "yi" in llm_model.lower():
             llm_provider= "01.ai"
             llm_model = "Yi"
@@ -247,7 +243,10 @@ def generate_local(
             llm_provider= "Mistral"
             llm_model = "Mistral"
             llm = llm_mistral
-        
+        sys_message= system_message.replace("##LLM_MODEL###",llm_model).replace("##LLM_MODEL_PROVIDER###",llm_provider)
+        sys_system_understand_message = system_understand_message.replace("##LLM_MODEL###",llm_model).replace("##LLM_MODEL_PROVIDER###",llm_provider)
+        formatted_prompt = format_prompt_mistral(prompt, history,system_message=sys_message,system_understand_message=sys_system_understand_message)
+
 
     try:
         print("LLM Input:", formatted_prompt)