Update app.py

app.py

@@ -2,7 +2,8 @@ from fastapi import FastAPI, HTTPException
 from llama_cpp import Llama
 import time
 import os
-
+os.system("wget -O llama-2-7b-chat.Q4_K_S.gguf https://huggingface.co/TheBloke/Llama-2-7B-Chat-GGUF/resolve/main/llama-2-7b-chat.Q4_K_S.gguf?download=true \
+    && mv llama-2-7b-chat.Q4_K_S.gguf llama-2-7b-chat.Q3_K_S.gguf")
 app = FastAPI()
 
 llm = Llama(model_path="llama-2-7b-chat.Q3_K_S.gguf", n_ctx=2048, n_batch=512, use_mlock=True, n_threads=8)