Update app.py

app.py

@@ -4,6 +4,8 @@ from transformers import pipeline
 from pptx import Presentation
 from pptx.util import Inches
 from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig, TextIteratorStreamer
+from llama_cpp import LLMCppModel
+
 
 # Préprompt pour donner des instructions au modèle
 PREPROMPT = """Vous êtes un assistant IA chargé de générer une présentation PowerPoint à partir d'un texte fourni par un utilisateur. Voici les instructions à suivre :
@@ -15,9 +17,27 @@ PREPROMPT = """Vous êtes un assistant IA chargé de générer une présentation
 Voici le texte à transformer en présentation :"""
 
 # Chargement du modèle IA depuis Hugging Face
-text_to_presentation = pipeline("text-generation", model="MisterAI/Bartowski_MistralAI_Mistral-Small-24B-Base-2501-GGUF")
+#text_to_presentation = pipeline("text-generation", model="MisterAI/Bartowski_MistralAI_Mistral-Small-24B-Base-2501-GGUF")
+#tokenizer = AutoTokenizer.from_pretrained("MisterAI/Bartowski_MistralAI_Mistral-Small-24B-Base-2501-GGUF")
+
+
+# Chargement du modèle IA depuis Hugging Face
+#from llama_cpp import LLMCppModel
+model_path = "MisterAI/Bartowski_MistralAI_Mistral-Small-24B-Base-2501-GGUF"
+text_to_presentation = LLMCppModel(model_path)
+
+# Chargement du tokenizer depuis Hugging Face
+#from transformers import AutoTokenizer
 tokenizer = AutoTokenizer.from_pretrained("MisterAI/Bartowski_MistralAI_Mistral-Small-24B-Base-2501-GGUF")
 
+
+
+
+
+
+
+
+
 def generate_presentation(text):
     # Ajout du préprompt au texte de l'utilisateur
     full_prompt = PREPROMPT + "\n\n" + text