khadijaaao commited on
Commit
be05268
·
verified ·
1 Parent(s): 21ff664

Update src/streamlit_app.py

Browse files
Files changed (1) hide show
  1. src/streamlit_app.py +82 -38
src/streamlit_app.py CHANGED
@@ -1,40 +1,84 @@
1
- import altair as alt
2
- import numpy as np
3
- import pandas as pd
4
  import streamlit as st
 
 
 
 
 
5
 
6
- """
7
- # Welcome to Streamlit!
8
-
9
- Edit `/streamlit_app.py` to customize this app to your heart's desire :heart:.
10
- If you have any questions, checkout our [documentation](https://docs.streamlit.io) and [community
11
- forums](https://discuss.streamlit.io).
12
-
13
- In the meantime, below is an example of what you can do with just a few lines of code:
14
- """
15
-
16
- num_points = st.slider("Number of points in spiral", 1, 10000, 1100)
17
- num_turns = st.slider("Number of turns in spiral", 1, 300, 31)
18
-
19
- indices = np.linspace(0, 1, num_points)
20
- theta = 2 * np.pi * num_turns * indices
21
- radius = indices
22
-
23
- x = radius * np.cos(theta)
24
- y = radius * np.sin(theta)
25
-
26
- df = pd.DataFrame({
27
- "x": x,
28
- "y": y,
29
- "idx": indices,
30
- "rand": np.random.randn(num_points),
31
- })
32
-
33
- st.altair_chart(alt.Chart(df, height=700, width=700)
34
- .mark_point(filled=True)
35
- .encode(
36
- x=alt.X("x", axis=None),
37
- y=alt.Y("y", axis=None),
38
- color=alt.Color("idx", legend=None, scale=alt.Scale()),
39
- size=alt.Size("rand", legend=None, scale=alt.Scale(range=[1, 150])),
40
- ))
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  import streamlit as st
2
+ import os
3
+ from llama_cpp import Llama
4
+ from langchain_community.vectorstores import FAISS
5
+ from langchain_community.embeddings import HuggingFaceEmbeddings
6
+ from huggingface_hub import hf_hub_download
7
 
8
+ # --- Configuration de la page Streamlit ---
9
+ st.set_page_config(page_title="Votre Coach RAG", layout="wide")
10
+ st.title("Votre Coach Expert")
11
+ st.write("Posez une question sur vos documents, et je vous répondrai en me basant sur leur contenu.")
12
+
13
+ # --- Fonctions de chargement mises en cache ---
14
+ # @st.cache_resource est CRUCIAL pour que Streamlit ne recharge pas les modèles à chaque interaction
15
+
16
+ @st.cache_resource
17
+ def load_llm():
18
+ # MODIFICATION : On télécharge le modèle depuis le Hub au lieu de le chercher localement.
19
+ # Cela contourne la limite de stockage de 1 Go du Space.
20
+ model_repo_id = "QuantFactory/Meta-Llama-3-8B-Instruct-GGUF"
21
+ model_filename = "Meta-Llama-3-8B-Instruct.Q4_K_M.gguf"
22
+
23
+ with st.spinner(f"Téléchargement du modèle '{model_filename}'... (Cette étape est longue et n'a lieu qu'une seule fois)"):
24
+ # Télécharge le fichier s'il n'est pas dans le cache et retourne son chemin
25
+ model_path = hf_hub_download(repo_id=model_repo_id, filename=model_filename)
26
+
27
+ with st.spinner("Chargement du modèle LLM en mémoire..."):
28
+ # ✅ MODIFICATION : n_gpu_layers=0 car nous utilisons le CPU gratuit.
29
+ llm = Llama(model_path=model_path, n_gpu_layers=0, n_ctx=4096, verbose=False, chat_format="llama-3")
30
+ return llm
31
+
32
+ @st.cache_resource
33
+ def load_retriever(faiss_path, embeddings_path):
34
+ with st.spinner("Chargement de la base de connaissances (FAISS)..."):
35
+ # MODIFICATION : On spécifie 'cpu' car nous n'avons pas de GPU.
36
+ embeddings_model = HuggingFaceEmbeddings(model_name=embeddings_path, model_kwargs={'device': 'cpu'})
37
+ vectorstore = FAISS.load_local(faiss_path, embeddings_model, allow_dangerous_deserialization=True)
38
+ return vectorstore.as_retriever(search_kwargs={"k": 5})
39
+
40
+ # --- Chemins d'accès (relatifs) ---
41
+ DOSSIER_PROJET = os.path.dirname(__file__)
42
+ CHEMIN_INDEX_FAISS = os.path.join(DOSSIER_PROJET, "faiss_index_wize")
43
+ CHEMIN_MODELE_EMBEDDINGS = os.path.join(DOSSIER_PROJET, "embedding_model")
44
+
45
+ # --- Chargement des modèles via Streamlit ---
46
+ try:
47
+ llm = load_llm()
48
+ retriever = load_retriever(CHEMIN_INDEX_FAISS, CHEMIN_MODELE_EMBEDDINGS)
49
+ st.success("Les modèles sont chargés et prêts !")
50
+ except Exception as e:
51
+ st.error(f"Erreur lors du chargement des modèles : {e}")
52
+ st.stop()
53
+
54
+ # --- Initialisation de l'historique de chat ---
55
+ if "messages" not in st.session_state:
56
+ st.session_state.messages = []
57
+
58
+ # Afficher les messages de l'historique
59
+ for message in st.session_state.messages:
60
+ with st.chat_message(message["role"]):
61
+ st.markdown(message["content"])
62
+
63
+ # --- Logique de Chat ---
64
+ if prompt := st.chat_input("Posez votre question ici..."):
65
+ st.session_state.messages.append({"role": "user", "content": prompt})
66
+ with st.chat_message("user"):
67
+ st.markdown(prompt)
68
+
69
+ with st.chat_message("assistant"):
70
+ with st.spinner("Je réfléchis..."):
71
+ # 1. Récupérer le contexte
72
+ docs = retriever.invoke(prompt)
73
+ context = "\n".join([doc.page_content for doc in docs])
74
+
75
+ # 2. Créer le prompt pour le LLM
76
+ system_prompt = "Vous êtes Un coach expert. Répondez à la question en vous basant uniquement sur le contexte fourni."
77
+ full_prompt = f"""<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n{system_prompt}\nContexte : {context}<|eot_id|><|start_header_id|>user<|end_header_id|>\nQuestion : {prompt}<|eot_id|><|start_header_id|>assistant<|end_header_id|>"""
78
+
79
+ # 3. Générer la réponse
80
+ response = llm(full_prompt, max_tokens=1500, stop=["<|eot_id|>"], echo=False)
81
+ answer = response['choices'][0]['text'].strip()
82
+ st.markdown(answer)
83
+
84
+ st.session_state.messages.append({"role": "assistant", "content": answer})