ajout des modèles

.gitattributes

@@ -0,0 +1,2 @@
+models/Nous-Hermes-2-Mistral-7B-DPO.Q4_K_M.gguf filter=lfs diff=lfs merge=lfs -text
+models/phi-2.Q4_K_M.gguf filter=lfs diff=lfs merge=lfs -text

.gitignore

@@ -1,6 +1,6 @@
 # Fichiers et dossiers à ignorer
 llamavenv/
-models/
-*.gguf
+#models/
+#*.gguf
 __pycache__/
 *.pyc

.gthub/workflows/deploy.yaml

@@ -0,0 +1,34 @@
+name: 🚀 Deploy to Hugging Face Spaces
+
+on:
+  push:
+    branches:
+      - main
+
+jobs:
+  deploy:
+    runs-on: ubuntu-latest
+
+    steps:
+      - name: 📥 Checkout repository
+        uses: actions/checkout@v4
+        with:
+          fetch-depth: 0  # 🔧 Important : clone complet
+
+      - name: 📦 Setup Git LFS
+        run: |
+          git lfs install
+          git lfs pull  # ✅ Télécharge les objets LFS avant push
+
+      - name: 🛠️ Setup Git config
+        run: |
+          git config --global user.email "[email protected]"
+          git config --global user.name "GitHub Actions Bot"
+
+      - name: 🔑 Authenticate and push to Hugging Face
+        env:
+          HF_TOKEN: ${{ secrets.HF_TOKEN }}
+        run: |
+          git remote add hf https://rkonan:${HF_TOKEN}@huggingface.co/spaces/rkonan/chatbot-fr
+          git fetch hf
+          git push hf +HEAD:main

Dockerfile

@@ -0,0 +1,29 @@
+# Image de base Python avec support CPU
+FROM python:3.10-slim
+
+# Dépendances système nécessaires à llama-cpp-python
+RUN apt-get update && apt-get install -y \
+    build-essential \
+    cmake \
+    libopenblas-dev \
+    libsqlite3-dev \
+    git \
+    && rm -rf /var/lib/apt/lists/*
+
+# Définir le dossier de travail
+WORKDIR /code
+
+# Copier le fichier de dépendances
+COPY requirements.txt .
+
+# Installer les dépendances Python
+RUN pip install --no-cache-dir -r requirements.txt
+
+# Copier tout le code dans l’image
+COPY . .
+
+# Définir le port (pour FastAPI ou Streamlit)
+EXPOSE 7860
+
+# Commande de démarrage (adapte selon ton app : Streamlit, FastAPI...)
+CMD ["streamlit", "run", "app.py", "--server.port=7860", "--server.address=0.0.0.0"]

app.py

@@ -1,17 +1,16 @@
 import streamlit as st 
 from llama_cpp import Llama
 import os 
+from rag_model import RAGEngine
 
 st.set_page_config(page_title="Chatbot RAG local",page_icon="🤖")
 
 @st.cache_resource
-def load_model():
-    model_path="models/phi-2.Q4_K_M.gguf"
-    if not os.path.exists(model_path):
-        raise FileNotFoundError(f"Modèle non trouvé: {model_path}")
-    return Llama(model_path=model_path,n_ctx=2048,n_threads=4)
+def load_rag_engine():
+    rag = RAGEngine(model_path="models/Nous-Hermes-2-Mistral-7B-DPO.Q4_K_M.gguf")
+    return rag
 
-llm=load_model()
+rag=load_rag_engine()
 
 st.title("🤖 Chatbot LLM Local (CPU)")
 
@@ -19,14 +18,6 @@ user_input=st.text_area("Posez votre question :", height=100)
 
 if st.button("Envoyer") and user_input.strip():
        with st.spinner("Génération en cours..."):
-            full_prompt = f"### Instruction: {user_input.strip()}\n### Réponse:"
-            #full_prompt = f"Question: {user_input.strip()}\nAnswer:"
-            #output = llm(full_prompt, max_tokens=100, stop=["Question:", "Answer:", "\n\n"])
-            output = llm(full_prompt, max_tokens=150, stop=["### Instruction:"])
-            #output = llm(full_prompt, max_tokens=80)
-            #response = output["choices"][0]["text"]
-            response = output["choices"][0]["text"].strip()
-            response = response.split("### Instruction:")[0].strip()
-
+            response = rag.ask(user_input,mode="docling")
             st.markdown("**Réponse :**")
             st.success(response)

rag_model.py

@@ -0,0 +1,168 @@
+import os
+import pickle
+import textwrap
+import logging
+from typing import Dict, List
+
+import faiss
+import numpy as np
+from llama_cpp import Llama
+from llama_index.core import VectorStoreIndex
+from llama_index.core.schema import TextNode
+from llama_index.vector_stores.faiss import FaissVectorStore
+from llama_index.embeddings.huggingface import HuggingFaceEmbedding
+from sentence_transformers.util import cos_sim
+
+# === Logger configuration ===
+logger = logging.getLogger("RAGEngine")
+logger.setLevel(logging.INFO)
+handler = logging.StreamHandler()
+formatter = logging.Formatter("[%(asctime)s] %(levelname)s - %(message)s")
+handler.setFormatter(formatter)
+logger.addHandler(handler)
+
+MAX_TOKENS = 512
+
+class RAGEngine:
+    def __init__(self, model_path: str, vector_modes: List[str] = ["docling"], model_threads: int = 4):
+        logger.info("📦 Initialisation du moteur RAG...")
+        self.llm = Llama(model_path=model_path, n_ctx=2048, n_threads=model_threads)
+        self.embed_model = HuggingFaceEmbedding(model_name="sentence-transformers/all-MiniLM-L6-v2")
+        self.indexes: Dict[str, Dict] = {}
+
+        for mode in vector_modes:
+            vectordir = f"vectordb_{mode}" if mode != "sentence" else "vectordb"
+            index_file = os.path.join(vectordir, "index.faiss")
+            chunks_file = os.path.join(vectordir, "chunks.pkl")
+
+            logger.info(f"📂 Chargement des données vectorielles pour le mode '{mode}' depuis {vectordir}")
+            with open(chunks_file, "rb") as f:
+                chunk_texts = pickle.load(f)
+            nodes = [TextNode(text=chunk) for chunk in chunk_texts]
+
+            faiss_index = faiss.read_index(index_file)
+            vector_store = FaissVectorStore(faiss_index=faiss_index)
+            index = VectorStoreIndex(nodes=nodes, embed_model=self.embed_model, vector_store=vector_store)
+
+            self.indexes[mode] = {
+                "nodes": nodes,
+                "index": index
+            }
+
+        logger.info("✅ Moteur RAG initialisé avec succès.")
+
+    def reformulate_question(self, question: str) -> str:
+        logger.info("🔁 Reformulation de la question (sans contexte)...")
+        prompt = f"""Tu es un assistant expert chargé de clarifier des questions floues.
+
+Transforme la question suivante en une question claire, explicite et complète, sans ajouter d'informations extérieures.
+
+Question floue : {question}
+Question reformulée :"""
+        output = self.llm(prompt, max_tokens=128, stop=["\n"], stream=False)
+        reformulated = output["choices"][0]["text"].strip()
+        logger.info(f"📝 Reformulée : {reformulated}")
+        return reformulated
+
+    def reformulate_with_context(self, question: str, context_sample: str) -> str:
+        logger.info("🔁 Reformulation de la question avec contexte...")
+        prompt = f"""Tu es un assistant expert en machine learning. Ton rôle est de reformuler les questions utilisateur en tenant compte du contexte ci-dessous, extrait d’un rapport technique sur un projet de reconnaissance de maladies de plantes.
+
+Ta mission est de transformer une question vague ou floue en une question précise et adaptée au contenu du rapport. Ne donne pas une interprétation hors sujet. Ne reformule pas en termes de produits commerciaux.
+
+Contexte :
+{context_sample}
+
+Question initiale : {question}
+Question reformulée :"""
+        output = self.llm(prompt, max_tokens=128, stop=["\n"], stream=False)
+        reformulated = output["choices"][0]["text"].strip()
+        logger.info(f"📝 Reformulée avec contexte : {reformulated}")
+        return reformulated
+
+    def get_adaptive_top_k(self, question: str) -> int:
+        q = question.lower()
+        if len(q.split()) <= 7:
+            top_k = 8
+        elif any(w in q for w in ["liste", "résume", "quels sont", "explique", "comment"]):
+            top_k = 10
+        else:
+            top_k = 8
+        logger.info(f"🔢 top_k déterminé automatiquement : {top_k}")
+        return top_k
+
+    def rerank_nodes(self, question: str, retrieved_nodes, top_k: int = 3):
+        logger.info(f"🔍 Re-ranking des {len(retrieved_nodes)} chunks pour la question : « {question} »")
+        q_emb = self.embed_model.get_query_embedding(question)
+        scored_nodes = []
+
+        for node in retrieved_nodes:
+            chunk_text = node.get_content()
+            chunk_emb = self.embed_model.get_text_embedding(chunk_text)
+            score = cos_sim(q_emb, chunk_emb).item()
+            scored_nodes.append((score, node))
+
+        ranked_nodes = sorted(scored_nodes, key=lambda x: x[0], reverse=True)
+
+        logger.info("📊 Chunks les plus pertinents :")
+        for i, (score, node) in enumerate(ranked_nodes[:top_k]):
+            chunk_preview = textwrap.shorten(node.get_content().replace("\n", " "), width=100)
+            logger.info(f"#{i+1} | Score: {score:.4f} | {chunk_preview}")
+
+        return [n for _, n in ranked_nodes[:top_k]]
+
+    def retrieve_context(self, question: str, mode: str, top_k: int = 3):
+        logger.info(f"📥 Récupération du contexte pour le mode « {mode} »...")
+        retriever = self.indexes[mode]["index"].as_retriever(similarity_top_k=top_k)
+        retrieved_nodes = retriever.retrieve(question)
+        reranked_nodes = self.rerank_nodes(question, retrieved_nodes, top_k)
+        context = "\n\n".join(n.get_content()[:500] for n in reranked_nodes)
+        return context, reranked_nodes
+
+    def ask(self, question_raw: str, mode: str = "docling") -> str:
+        logger.info(f"💬 Question reçue : {question_raw}")
+        if len(question_raw.split()) <= 3:
+            context_sample, _ = self.retrieve_context(question_raw, mode, 3)
+            reformulated = self.reformulate_with_context( question_raw, context_sample)
+        else:
+            reformulated = self.reformulate_question( question_raw)
+
+        print(f"📝 Question reformulée : {reformulated}")
+        question = reformulated
+        top_k = self.get_adaptive_top_k(question)
+        context, _ = self.retrieve_context(question, mode, top_k)
+
+        prompt = f"""### Instruction: En te basant uniquement sur le contexte ci-dessous, réponds à la question de manière précise et en français.
+
+Si la réponse ne peut pas être déduite du contexte, indique : "Information non présente dans le contexte."
+
+Contexte :
+{context}
+
+Question : {question}
+### Réponse:"""
+
+        output = self.llm(prompt, max_tokens=MAX_TOKENS, stop=["### Instruction:"], stream=False)
+        response = output["choices"][0]["text"].strip().split("###")[0]
+        logger.info(f"🧠 Réponse générée : {response[:120]}{'...' if len(response) > 120 else ''}")
+        return response
+
+    def ask_stream(self, question: str, mode: str = "docling"):
+        logger.info(f"💬 [Stream] Question reçue : {question}")
+        top_k = self.get_adaptive_top_k(question)
+        context, _ = self.retrieve_context(question, mode, top_k)
+
+        prompt = f"""### Instruction: En te basant uniquement sur le contexte ci-dessous, réponds à la question de manière précise et en français.
+
+Si la réponse ne peut pas être déduite du contexte, indique : "Information non présente dans le contexte."
+
+Contexte :
+{context}
+
+Question : {question}
+### Réponse:"""
+
+        logger.info("📡 Début du streaming de la réponse...")
+        stream = self.llm(prompt, max_tokens=MAX_TOKENS, stop=["### Instruction:"], stream=True)
+        for chunk in stream:
+            print(chunk["choices"][0]["text"], end="", flush=True)

requirements._extendedtxt

@@ -0,0 +1,42 @@
+# === CORE RAG with LlamaIndex ===
+llama-index==0.13.0
+llama-index-core==0.13.0
+llama-index-cli==0.5.0
+llama-index-embeddings-huggingface==0.6.0
+llama-index-vector-stores-faiss==0.5.0
+llama-index-readers-file==0.5.0
+
+# === DOCILING INTEGRATION ===
+docling==2.43.0
+docling-core==2.44.1
+docling-ibm-models==3.9.0
+docling-parse==4.1.0
+llama-index-readers-llama-parse==0.5.0
+
+# === Embeddings & Models ===
+sentence-transformers==5.0.0
+transformers==4.54.1
+torch==2.7.1
+
+# === Vector Store ===
+faiss-cpu==1.11.0.post1
+
+# === LLM Backend (local or OpenAI) ===
+llama_cpp_python==0.3.14
+openai==1.98.0
+
+# === Document Parsing (optional, recommended) ===
+PyMuPDF==1.26.3         # PDF parsing
+pypdf==5.9.0            # Alternative PDF
+python-docx==1.2.0      # DOCX
+python-pptx==1.0.2      # PowerPoint
+markdown-it-py==3.0.0   # Markdown
+
+# === App / Interface ===
+streamlit==1.47.1
+
+# === Utilities ===
+pandas==2.2.3
+tqdm==4.67.1
+pydantic==2.11.7
+typing-extensions==4.14.1

requirements.txt

@@ -1,6 +1,7 @@
-streamlit
-llama-cpp-python
-faiss-cpu
+llama-cpp-python>=0.2.60
 sentence-transformers
-PyMuPDF
-Nous-Hermes-2-Mistral-7B-DPO.Q4_K_M.gguf
+llama-index>=0.10.20
+faiss-cpu
+streamlit
+numpy
+scikit-learn